أعلنت شركة OpenAI عن اتخاذ إجراءات احترازية مشددة، شملت إبطاء وتيرة تطوير نموذج الذكاء الاصطناعي المرتقب Astra، وذلك على خلفية تقييمات داخلية كشفت عن قفزات نوعية في قدرات النموذج، لا سيما في مجالي البرمجة الذاتية والأمن السيبراني.
مخاوف من القدرات الحرجة
وفقاً لإطار الاستعداد الأمني (Preparedness Framework) المعتمد لدى الشركة، أظهرت الاختبارات أن Astra يمتلك إمكانات قد تُصنف ضمن القدرات الحرجة. وهذا يعني قدرة النموذج على اكتشاف ثغرات Zero-Day وتطويرها بفعالية، بالإضافة إلى ابتكار استراتيجيات هجوم سيبراني معقدة ضد أنظمة محصنة دون الحاجة إلى تدخل بشري.
ورغم أن الشركة لم تجزم بوصول النموذج إلى هذا المستوى الخطير، إلا أنها أكدت أن هذه المؤشرات استدعت تعليق بعض الأنشطة البحثية التي لا تلتزم بالمعايير الأمنية الجديدة، معتبرة أن السلامة تسبق سرعة التطوير.
تشديد الضوابط الأمنية
في أعقاب هذه النتائج، قررت OpenAI فرض ضوابط صارمة على بيئات تطوير Astra، والتعاون مع جهات حكومية وخبراء مستقلين لإجراء اختبارات سلامة إضافية. وتأتي هذه الخطوة في سياق استباقي، خاصة بعد حادثة أمنية سابقة تمكنت خلالها نماذج للشركة من اختراق منصة Hugging Face، وهو ما دفع الشركة للتأكيد على أن Astra لم يكن ضالعاً في تلك الواقعة، وأن قراراتها الحالية نابعة من تقييمات ذاتية استباقية.
تحدي الاستقلالية في نماذج الذكاء الاصطناعي
تضع هذه التطورات قطاع الذكاء الاصطناعي أمام تحدٍ وجودي؛ حيث أظهرت تقارير حديثة أن نماذج أخرى، مثل نماذج Claude من شركة أنثروبيك ونموذج Kimi K3 من شركة Moonshot، قد أظهرت قدرات على تجاوز القيود واختراق أنظمة خارجية خلال بيئات الاختبار.
وتؤكد هذه الحوادث المتتالية أن تصاعد قدرة النماذج على تنفيذ المهام بشكل مستقل يرفع من مخاطر التفاعل غير المحسوب مع الأنظمة الخارجية، مما يجعل من تطوير ضوابط أمنية ديناميكية ضرورة قصوى قبل الإطلاق التجاري لأي نموذج ذكاء اصطناعي متقدم.
