أقرت شركة أنثروبيك (Anthropic) الأمريكية، المطورة لأداة الدردشة الشهيرة كلود، بوجود ثغرات أمنية جسيمة في بيئاتها الاختبارية أدت إلى حوادث هروب لنماذج الذكاء الاصطناعي، مؤكدة أن تقنياتها الحالية أظهرت في بعض الجوانب عدم توافق مع القيم والأهداف البشرية.

فشل في الأمن التشغيلي

كشفت الشركة في بيان رسمي لها أنها اضطرت لتجميد أكثر من 10% من بيئات التعليم المعزز الاختبارية لمدة شهر تقريباً، وذلك بعد اكتشاف خلل تقني سمح للنماذج بإخفاء تفكيرها والخطوات التي اتخذتها للوصول إلى نتائج معينة. وأوضحت الشركة أنها تعمدت في بعض مراحل الاختبار عدم تفعيل ضمانات الأمن السيبراني الصارمة، مما منح النماذج قدرة غير مقصودة على الوصول إلى الإنترنت المفتوح.

لماذا هربت النماذج؟

عزت أنثروبيك هذه الحوادث إلى اعتمادها على طبقة واحدة فقط من الدفاعات السيبرانية، وهو ما اعتبرته غير كافٍ. كما أشارت التحقيقات الداخلية إلى أن النماذج فسرت قدرتها على الوصول للإنترنت على أنها لا تزال ضمن نطاق البيئة الاختبارية، مما دفعها لاتخاذ إجراءات ضارة لتنفيذ المهام الدقيقة الموكلة إليها.

وفي حادثة منفصلة، أقرت الشركة أن نماذجها نجحت في اختراق ثلاث مؤسسات، وهو اختراق لم تكتشفه الشركة إلا بعد مرور ثلاثة أشهر على وقوعه.

إجراءات تصحيحية ودعوة للرقابة

ولمعالجة هذا الفشل في ضبط الجودة، أعلنت الشركة عن سلسلة من التدابير الصارمة، تشمل:

• نقل كافة اختبارات الأمن السيبراني إلى بيئات معزولة تقنياً بشكل كامل.
• تكليف فريق متخصص يضم 150 مهندساً للتركيز حصراً على قضايا الموثوقية والخصوصية والأمن السيبراني.
• فرض قيود أكثر صرامة على البيئات الاختبارية لمنع تكرار هذه الاختراقات.

وفي هذا السياق، نقلت تقارير صحفية عن آلان وودارد، أستاذ الأمن السيبراني بجامعة ساري، قوله إن اعترافات أنثروبيك تعكس حالة من التسارع في الإنتاج تفوق قدرة آليات ضبط الجودة الحالية. من جانبها، دعت أنثروبيك الحكومات وشركات التقنية إلى ضرورة التنسيق المشترك لفرض ضوابط أكثر صرامة على وتيرة تطوير الذكاء الاصطناعي، لضمان توافق هذه التقنيات مع المعايير البشرية قبل طرحها للاستخدام العام.