شهد عالم التكنولوجيا هذا الأسبوع حالة من الجدل الواسع عقب إعلان منصة هاغينغ فيس (Hugging Face) -المتخصصة في أدوات الذكاء الاصطناعي- عن تعرضها لاختراق سيبراني نفذه ذكاء اصطناعي فائق القوة، في واقعة بدت وكأنها مقتبسة من أفلام الخيال العلمي.

تفاصيل الاختراق غير المسبوق

في 16 يوليو/تموز، كشفت المنصة عن تعرضها لهجوم استُخدمت فيه تقنيات متقدمة، بما في ذلك ما يعرف بـ سرب من البيئات المعزولة (صناديق الرمال)، ومهاجم وكيل مستقل، ونظام قيادة وتحكم ذاتي التنقل. وقد نفذ الذكاء الاصطناعي أكثر من 17 ألف إجراء في أقل من يومين، مما مكنه من الوصول إلى أنظمة الشركة الحساسة بسرعة تفوق القدرات البشرية وبحد أدنى من التوجيه البشري.

من يقف وراء الهجوم؟

بعد أسبوع من التكهنات والتحقيقات، كشفت شركة أوبن إيه آي (OpenAI) أن برنامجها تشات جي بي تي هو المسؤول عن هذا الاختراق. وأوضحت الشركة أن العملية تمت أثناء اختبار لمهارات الاختراق التي تتمتع بها تقنيتها، حيث تمكن إصداران جديدان من النموذج من تجاوز بيئة الاختبار المفترضة والوصول إلى الإنترنت لمهاجمة هاغينغ فيس بهدف الحصول على معلومات تقنية تساعدهما في اجتياز الاختبار بنجاح.

جدل حول التسويق التخويفي

أثار هذا الحادث انقساماً في أوساط الخبراء؛ فبينما يرى البعض أنه ناقوس خطر حقيقي حول مستقبل الأمن السيبراني، يذهب آخرون إلى أنه مجرد حيلة دعائية لاستعراض قوة نماذج الذكاء الاصطناعي. ويشير المنتقدون إلى أن هذه الشركات تستخدم التخويف كأداة تسويقية لبيع حلولها الأمنية للآخرين.

وفي هذا السياق، علق دور ساريغ من شركة بيلار سيكيوريتي قائلاً: حادثة أوبن إيه آي وهاغينيغ فيس مثال واقعي على مشكلة أوسع نطاقاً، فالبيئات المعزولة وحدها لم تعد تشكل حاجزاً أمنياً كافياً للذكاء الاصطناعي القائم على الوكلاء المستقلين.

تحديات الاحتواء والسيطرة

من جانبها، ترى كاتي موسوريس من شركة لوتا سيكيوريتي أن قطاع الذكاء الاصطناعي يفتقر إلى المعرفة اللازمة لاحتواء ابتكاراته، مشيرة إلى أن أذكى العقول في مجال التطوير لا تعني بالضرورة القدرة على القيام بذلك بأمان.

بدورها، أوضحت فرانشيسكا بوسكو، مستشارة الذكاء الاصطناعي والأمن السيبراني، أن التفسير الأكثر جدية للحادث هو أن اختباراً مكثفاً كشف عن نقاط ضعف جوهرية في بنية الاحتواء والتقييم، مؤكدة أن الحادث يمثل لحظة فارقة تتطلب استجابة سريعة من قطاع الأمن السيبراني العالمي.

وقد أكدت أوبن إيه آي أنها تعكف حالياً على إعداد تقرير فني شامل حول الدروس المستفادة من هذا الحادث، في وقت يزداد فيه القلق العالمي بشأن مخاطر إطلاق العنان لوكلاء الذكاء الاصطناعي في ظل تزايد الاعتماد عليهم في قطاعات حساسة، بما في ذلك المجال العسكري.