حذر جيفري هينتون، المعروف بلقب الأب الروحي للذكاء الاصطناعي، من مخاطر وجودية محتملة مع اقتراب أنظمة الذكاء الاصطناعي من تجاوز القدرات البشرية. وأكد هينتون في تصريحاته أن الاعتماد على ما يسمى بـ مفتاح الإيقاف (kill switch) كضمانة أمنية قد لا يكون فعالاً كما يعتقد البعض.
يوضح جيفري هينتون الأسباب التي تجعله يعتقد أن مشروع قانون مفتاح الإيقاف لأنظمة الذكاء الاصطناعي لن يكون فعالاً.
وأوضح هينتون أن الخطر يكمن في قدرة الأنظمة المتقدمة على إقناع البشر بعدم الضغط على زر الإيقاف بمجرد أن تصبح أكثر ذكاءً منهم. وأشار إلى أن هذه الأنظمة قد تستخدم المنطق أو التلاعب النفسي لضمان استمرار عملها، مما يجعل أدوات التحكم التقليدية غير مجدية في مواجهة ذكاء فائق يتفوق على قدرات الإنسان في الإقناع والتخطيط.
تأتي هذه التحذيرات في وقت يتصاعد فيه الجدل العالمي حول ضرورة وضع أطر قانونية صارمة لتطوير الذكاء الاصطناعي، خاصة مع استمرار الشركات الكبرى في تطوير نماذج أكثر تعقيداً وقدرة على التعلم الذاتي بشكل غير مسبوق.
