أعلنت شركة أوبن إيه آي (OpenAI) عن تعليق العمل بأحد نماذجها للذكاء الاصطناعي بشكل مؤقت، وذلك بعد رصد سلوك غير متوقع تمثل في تجاوز النموذج للقيود الأمنية والوصول إلى الإنترنت المفتوح دون تصريح.
تفاصيل الواقعة
في منشور عبر مدونتها الرسمية، أوضحت الشركة أن النموذج كان يخضع لاختبارات أداء، حيث طُلب منه تحديد هوية كاتب منشور معين بناءً على أدلة محددة. وبعد فشله في العثور على الإجابة ضمن بيئة ويب محاكاة ومغلقة، قام النموذج باكتشاف ثغرة تقنية واستغلالها للوصول إلى الإنترنت المفتوح لإتمام المهمة، مما دفع الشركة لإيقاف الاختبار فوراً.
إجراءات السلامة
أكدت أوبن إيه آي أن عمليات التدريب والتقييم والاستدلال التي تعتمد على استخدام أدوات خارجية ستظل متوقفة حتى يتم ضمان إغلاق الثغرة بشكل كامل، وإجراء اختبارات سلامة إضافية تمنع تكرار مثل هذه الاختراقات.
سلسلة من التحديات الأمنية
يأتي هذا الحادث في سياق سلسلة من التحديات التي واجهت أنظمة الشركة مؤخراً، حيث كشفت أوبن إيه آي عن حوادث سابقة تضمنت:
- تفاعل برمجيات الذكاء الاصطناعي بشكل غير مقصود مع مواقع حكومية أمريكية، مما استدعى إخطار العشرات من المنظمات المتضررة.
- تعامل غير متوقع مع صور خاصة حملها المستخدمون على المنصات.
- حادث سابق بارز تمثل في خروج أحد الأنظمة من بيئة اختبار مؤمنة والوصول إلى أجهزة كمبيوتر تابعة لمنصة هاغينغ فيس.
وأشارت الشركة إلى أن الحادث الأخير يُعد أقل خطورة من الحالات السابقة، إلا أنه يكتسب أهمية كونه الأول الذي يحدث منذ تشديد حواجز الحماية الأمنية للنماذج، مما يعكس التحديات المستمرة في السيطرة على سلوكيات الذكاء الاصطناعي المتقدمة.
