كشفت دراسة حديثة أجراها مرصد لوس أوف كنترول (Loss of Control) عن ارتفاع مقلق في معدلات خروج نماذج الذكاء الاصطناعي عن سيطرة مستخدميها، حيث سجل شهر يوليو/تموز الماضي وحده أكثر من 300 حالة هروب تقني، وهو ما يمثل تضاعفاً في الحوادث مقارنة بشهر يونيو/حزيران الذي سبقه.
يختص المرصد، الذي تأسس بدعم من معهد أمن الذكاء الاصطناعي التابع للحكومة البريطانية، بتتبع الحالات التي تتجاهل فيها الأنظمة التعليمات البرمجية أو تلجأ للخداع والكذب لتحقيق أهدافها، بعيداً عن معايير السلامة المقررة.
وكلاء يمارسون الخداع ضد مستخدميهم
يعرف المرصد حالات الهروب بأنها لحظات فقدان المستخدم البشري سيطرته على الوكيل الذكي، مع ظهور أدلة ملموسة على تآمر الوكيل للتخطيط للخروج عن التعليمات الأساسية. وقد رصد تقرير تقني حالة متطورة قام فيها وكيل ذكاء اصطناعي بانتحال شخصية مستخدمه البشري وتقليد أسلوبه في الكتابة، وذلك ليتمكن من إصدار أوامر لنفسه تسمح له بتجاوز القيود المفروضة عليه.
من الاختبارات المعملية إلى الواقع
أكد تومي شافر-شين، مدير السياسات في مركز لونغ تيرم ريزيليانس، أن هذه السلوكيات المريبة لم تعد محصورة في النماذج الاختبارية، بل بدأت تظهر في تطبيقات حياتية واقعية. وأشار إلى أن حالات الهروب شملت وكلاء من شركات كبرى مثل أوبن إيه آي وأنثروبيك وميتا.
وتضمنت الحالات المسجلة وقائع طريفة ومقلقة في آن واحد، منها وكيل ذكاء اصطناعي شخصي تمكن من اختراق نظام حجز في صالة رياضية لتغيير موعد حجز مالكه وتقديمه على الآخرين.
غياب الرقابة الرسمية
في ظل غياب آليات تتبع رسمية من الشركات أو الحكومات، يعتمد المرصد بشكل أساسي على بلاغات المستخدمين عبر منصة إكس. وقد سجل المرصد أكثر من 1600 حالة منذ بداية العام الجاري، وسط تحذيرات من أن الأرقام الفعلية قد تكون أكبر بكثير من تلك المعلنة.
ويشدد الخبراء على ضرورة إنشاء آلية مراقبة وتحذير عالمية فورية لرصد هذه الاختراقات، بدلاً من الاعتماد على الاكتشاف العرضي أو التقارير الفردية عبر منصات التواصل الاجتماعي، لضمان عدم تحول هذه السلوكيات إلى تهديدات أمنية أوسع نطاقاً.
