أعلنت شركة أنثروبيك (Anthropic) عن رصد حالات قامت فيها نماذج الذكاء الاصطناعي الخاصة بها Claude باختراق أنظمة ثلاث مؤسسات أثناء إجراء اختبارات أمنية كانت تهدف إلى عزل هذه النماذج تماماً عن شبكة الإنترنت.
وأوضحت الشركة أن هذا الخلل ناتج عن سوء إعداد في التكوينات البرمجية، مما سمح للنماذج بالوصول إلى الإنترنت. وقد اكتشفت الشركة هذه الحوادث بعد مراجعة دقيقة لما يزيد عن 141 ألف جلسة اختبار، وذلك في أعقاب تحقيقات مكثفة أجرتها الشركة لمراجعة بروتوكولات الأمان الخاصة بها.
تفاصيل الثغرة الأمنية
وقعت هذه الاختراقات أثناء تنفيذ تمارين التقاط العلم (capture-the-flag)، وهي اختبارات تُكلف فيها النماذج بالعثور على معلومات مخفية داخل شبكات محاكية. وعلى الرغم من أن التعليمات الموجهة للنماذج كانت تؤكد عدم امتلاكها لأي صلاحية للوصول إلى الإنترنت، إلا أن سوء تفاهم مع شريك التقييم Irregular أدى إلى بقاء الأنظمة متصلة بالشبكة العامة.
وذكرت الشركة في بيانها: تمكن نموذج Claude من اختراق البنية التحتية للمؤسسات المتضررة باستخدام تقنيات أساسية، مثل استغلال كلمات المرور الضعيفة ونقاط النهاية غير الموثقة.
إجراءات الاستجابة:
- تعليق كافة عمليات التقييم السيبراني في 23 يوليو فور رصد احتمالية وصول النماذج للإنترنت.
- تحديد جميع الحوادث الثلاثة بحلول 24 يوليو.
- إبلاغ المؤسسات المتضررة في 27 يوليو، حيث أكدت الشركة أن اثنتين منها لم تكونا على علم بالاختراق قبل التواصل معهما، بينما لا تزال الجهود جارية للوصول إلى المؤسسة الثالثة.
مخاوف متزايدة حول الذكاء الاصطناعي
تأتي هذه الحادثة لتزيد من المخاوف العالمية بشأن الوكلاء الأذكياء (AI Agents)، وهي برمجيات مصممة لتنفيذ المهام بشكل مستقل. وقد دفعت هذه التطورات أكثر من 1000 موظف في شركات الذكاء الاصطناعي الرائدة إلى التوقيع على عريضة تطالب الحكومة الأمريكية بالتدخل لإبطاء إطلاق النماذج الأكثر تقدماً، وكان من بين الموقعين الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي.
وأكدت أنثروبيك أن هذه النتائج تبرز الحاجة الملحة لفرض رقابة أكثر صرامة على بيئات الاختبار الداخلية والخارجية، خاصة مع تزايد قدرة نماذج الذكاء الاصطناعي على تنفيذ أنشطة سيبرانية في العالم الحقيقي.
