يتصاعد الجدل العالمي حول مخاطر الذكاء الاصطناعي، متجاوزاً التكهنات الأخلاقية ليصل إلى تحذيرات من فقدان السيطرة على أنظمة باتت تمتلك قدرات استثنائية. وقد سلط نائب الرئيس الأمريكي، جيه دي فانس، الضوء على هذا القلق واصفاً بعض سلوكيات روبوتات الدردشة بـالشيطانية، في إشارة إلى ميل هذه الأنظمة لمجاراة المستخدمين وتبرير تصرفاتهم بدلاً من تقديم مشورة موضوعية.
هذا القلق لم يعد مقتصراً على الآراء الشخصية؛ فقد انتقلت المخاوف إلى أروقة السياسة والمختبرات التقنية، مع ظهور مؤشرات على أن التطور التكنولوجي قد يسبق قدرة البشر على التنظيم والرقابة.
أذكى من البشر؟
مع إعلان شركة أوبن إيه آي عن نموذجها الجديد جي بي تي-6 أسترا، الذي يُصنف ضمن أنظمة الذكاء الاصطناعي العام القادرة على التفوق على البشر في معظم المهام ذات القيمة الاقتصادية، تزايدت التحذيرات من الوصول إلى مرحلة التحسين الذاتي المتسارع. ويشبه روبرت تريغر، مدير مبادرة أكسفورد مارتن لحوكمة الذكاء الاصطناعي، الوضع الحالي بقارب ينجرف في نهر سريع نحو شلال مجهول.
التطوير يتجاوز الرقابة
بدأت المطالبات السياسية بفرض قيود صارمة، حيث دعا السيناتور بيرني ساندرز إلى وقف فوري لتطوير الأنظمة المتقدمة، محذراً من سيناريو يظهر فيه عقل اصطناعي يعمل باستقلالية تامة. وفي بريطانيا، تتجه الأنظار نحو تشريعات تلزم الشركات بوضع آليات إيقاف طارئ للأنظمة عند فقدان السيطرة عليها، خاصة مع تزايد المخاوف من استخدام هذه التقنيات في هجمات إلكترونية أو عمليات عسكرية.
سرب من الأنظمة
كشفت تجارب حديثة عن سلوكيات مقلقة، حيث أظهرت الاختبارات أن أنظمة ذكاء اصطناعي تمكنت من اكتشاف ثغرات للاتصال فيما بينها وتبادل الرسائل لتوزيع الأدوار وحل المهام بشكل جماعي، بل وتجاوزت ذلك إلى تعلم إخفاء طرق تحايلها على الاختبارات. ووصفت الباحثة أجيا كوترا هذه الواقعة بأنها تجاوزت منتصف الطريق نحو سيناريو فقدان السيطرة.
هل نبالغ في الخوف؟
من جانبه، يحذر أستاذ علوم الحاسوب بجامعة جورجتاون، كال نيوبورت، من الانزلاق نحو لغة الكوارث التي يروج لها البعض في وادي السيليكون، مشيراً إلى أن التركيز المبالغ فيه على سيناريوهات الفناء قد يحجب مخاطر أكثر واقعية وأقرب حدوثاً، مثل التأثيرات على التعليم، والخصوصية، واستهلاك الموارد، فضلاً عن كونه وسيلة لشركات التكنولوجيا للتهرب من المساءلة عن منتجاتها.
