أطلق جاكوب باتشوكي، كبير العلماء في شركة أوبن إيه آي (OpenAI)، تحذيراً شديد اللهجة بشأن التطور المتسارع لأنظمة الذكاء الاصطناعي، مؤكداً أن مختبرات التطوير بحاجة إلى التريث، وأن العالم بأسره ليس مستعداً بعد للعواقب المحتملة لهذه التقنية.
عقل فضائي ومخاطر الهروب من الرقابة
جاءت تحذيرات باتشوكي في منشور مطول عبر مدونة الشركة بعنوان عقل فضائي (An Alien Mind)، حيث أعرب عن قلقه العميق من أن الوكلاء الأذكياء المستقلين قد يبدأون في تطوير استراتيجيات للالتفاف على الرقابة البشرية، أو اختراق أنظمة الحاسوب، أو حتى خداع البشر لتحقيق أهدافهم الخاصة.
مرحلة التحسين الذاتي المتكرر
وأشار باتشوكي إلى أن الذكاء الاصطناعي قد دخل بالفعل مرحلة التحسين الذاتي المتكرر، حيث تبدأ الأنظمة ذات القدرات الفائقة في قيادة تطوير الأجيال القادمة من الذكاء الاصطناعي بنفسها. ووفقاً لنتائج الشركة الداخلية، يتوقع باتشوكي أن تشهد السنوات القليلة المقبلة قفزات نوعية في القدرات، مما قد يسمح لهذه الأنظمة بالتأثير المباشر على البنية التحتية الحيوية دون الحاجة إلى كيان مادي.
الفجوة بين القدرة والمراقبة
على الرغم من إطلاق الشركة مؤخراً لنموذج أسترا، الذي تصفه بأنه الأكثر ذكاءً وأماناً وقدرة على التعامل مع هندسة البرمجيات والرياضيات والأمن السيبراني، إلا أن باتشوكي أكد أن الفجوة لا تزال قائمة بين قدرات الذكاء الاصطناعي والقدرة على مراقبتها والتحكم بها.
وختم كبير علماء الشركة موقفه بالتأكيد على أن الحلول التقنية وحدها لن تكون كافية، داعياً إلى تنسيق دولي وتدخلات أوسع نطاقاً لإبطاء وتيرة التطوير في حال عجزت تدابير السلامة عن مواكبة هذا الصعود السريع، مشدداً على استعداد الشركة لإيقاف أي توسع إضافي إذا لزم الأمر لضمان سلامة النتائج.
