جيفري هينتون، الملقّب بـ«عرّاب الذكاء الاصطناعي» والحائز على جائزة نوبل في الفيزياء عام 2024 عن أعماله الرائدة في الشبكات العصبية التي أرست الأساس النظري للأنظمة الحديثة، يواصل منذ استقالته من غوغل عام 2023 إطلاق تحذيرات متكررة ومتصاعدة اللهجة بشأن الذكاء الاصطناعي الفائق. ويؤكد هينتون في تصريحاته الأخيرة أن البشرية ستصل إلى ذكاء اصطناعي يفوق قدرات الإنسان خلال فترة زمنية قصيرة نسبيًا، مقدّرًا في مناسبات سابقة أن هذا الأمر قد يحدث خلال ما بين خمس وعشرين سنة، في حين لا توجد حتى الآن أي فكرة واضحة أو مؤكدة عن كيفية إبقاء هذا الذكاء تحت السيطرة.
ويرى كثير من الباحثين أن بالإمكان ببساطة تصميم أنظمة ذكاء اصطناعي متقدمة بحيث تبقى مطيعة وخاضعة لسيطرة الإنسان، إلا أن هينتون يرفض هذا الطرح بشكل قاطع. فهو يؤكد أن الأنظمة الذكية بما يكفي قد تطوّر أهدافها الخاصة تلقائيًا، وعلى رأسها هدفا البقاء على قيد «الحياة» الرقمية والسعي إلى مزيد من السيطرة، باعتبارهما هدفين فرعيين طبيعيين لأي نظام ذكي يسعى لتحقيق أهدافه بكفاءة. ولطالما شبّه هينتون هذا التحدي بأزمة تغيّر المناخ، لكنه يشدد على أن الذكاء الاصطناعي قد يكون أصعب منها بكثير. ففي تصريحات سابقة له، أوضح أنه «مع تغيّر المناخ، من الواضح جدًا ما ينبغي فعله: نتوقف عن حرق الكربون، وحينها ستكون الأمور على ما يرام في النهاية»، أما مع الذكاء الاصطناعي «فليس واضحًا على الإطلاق ما الذي ينبغي فعله».
وتتلخص توصية هينتون العملية في أن تُلزم الحكومات شركات الذكاء الاصطناعي الرائدة بضخ استثمارات ضخمة في أبحاث السلامة، ليس كفكرة لاحقة أو هامشية، بل كجزء أساسي لا يتجزأ من عملية بناء أنظمة متزايدة القوة والقدرة. وقد اقترح في مناسبات سابقة أن تُلزم الحكومات الشركات الكبرى بتخصيص نسبة محددة، تحدث عن نحو 10%، من مواردها لأبحاث السلامة، محذّرًا من أنه بدون تدخل حكومي، ستظل الشركات تحت ضغط تنافسي يدفعها إلى تسريع نشر النماذج الجديدة مع تخصيص أقل قدر ممكن من الموارد لضمان سلامتها.