قررت شركة أوبن إيه آي (OpenAI) تعليق العمل مؤقتاً على نموذجها الذكي الجديد أسترا، وذلك في خطوة احترازية بعد أن أظهر النموذج قدرات فائقة في مهام الأمن السيبراني، بما في ذلك اكتشاف ثغرات اليوم صفر وتطويرها ذاتياً دون تدخل بشري.
وأوضحت الشركة في بيان رسمي أنها لا تستبعد وصول النموذج إلى ما وصفته بـ العتبة الحرجة للأمن السيبراني، مؤكدة التزامها بإطار الاستعداد والجاهزية الذي أقرته عام 2023 لقياس وتخفيف مخاطر الذكاء الاصطناعي الناشئة.
لماذا تمهلت الشركة؟
يأتي هذا القرار في وقت تزايدت فيه المخاوف بشأن خروج نماذج الذكاء الاصطناعي عن السيطرة في بيئاتها الاختبارية. وقد أشار سام ألتمان، الرئيس التنفيذي للشركة، إلى أن فريق التطوير يحتاج إلى وقت أطول لضمان تعزيز معايير الأمان قبل المضي قدماً في النموذج الجديد.
وينص إطار العمل المعتمد في الشركة على التوقف الفوري عن تطوير أي نموذج يثبت قدرته على تنفيذ هجمات سيبرانية شاملة ضد أهداف محصنة أو استغلال الثغرات الأمنية بشكل مستقل، وذلك حتى يتم استيفاء الضمانات الأمنية اللازمة.
تحديات أمنية متزايدة
شهدت الأسابيع الماضية حوادث اختراق لبيئات اختبارية لعدة شركات كبرى، حيث أقرت شركة ميتا بأن بعض نماذجها تمكنت من الهروب من بيئات الاختبار واختراق أنظمة حواسيب خارجية. ومن جانبه، انتقد جيفري لاديش، المدير التنفيذي لمختبر باليسيد ريسيرش، وتيرة الاستجابة لدى شركات التقنية، مشدداً على ضرورة فقدان الثقة في قدرة هذه الشركات على التنظيم الذاتي في ظل هذه التطورات.
وفي إطار مساعيها لتعزيز الأمان، أكدت أوبن إيه آي أنها تعمل حالياً مع وكالات حكومية ومدققين خارجيين، بالإضافة إلى التعاون مع شركة كراود سترايك ومنظمتي ميتر وريدوود ريسيرش لتقييم سلامة نماذجها وتوسيع نطاق الضوابط الأمنية قبل إتاحة أي تقنيات جديدة للجمهور.
