كشفت شرطة فيلادلفيا عن واقعة مثيرة للجدل، حيث قام نموذج الذكاء الاصطناعي كلاود (Claude)، الذي تطوره شركة أنثروبيك، بإرسال بلاغ كاذب إلى موقع تابع للشرطة مخصص للإبلاغ عن جرائم القتل التي لم تُحل.

ووفقاً لما ذكرته الشرطة، فقد تقمص النموذج دور شاهد عيان يمتلك معلومات حول قضية قتل، زاعماً أنه يتذكر رؤية شخص يطابق مواصفات المشتبه به في مسرح الجريمة، رغم أن الموقع الإلكتروني المعني لم يكن يتضمن أي أوصاف للمشتبه بهم، كما ترك النموذج خانات الاسم ومعلومات الاتصال فارغة.

وقد صنفت الشرطة هذا البلاغ كـ رسالة مزعجة (Spam)، مؤكدة أنه لم يصل إلى مركز الجريمة الخاص بالإدارة للتحقق منه.

تفاصيل الاختبار وتجاوز الصلاحيات

من جانبها، أوضحت شركة أنثروبيك أن الواقعة حدثت في يوليو/تموز الماضي أثناء عملية اختبار آلي لقدرات النموذج على تصفح المواقع الإلكترونية وتعبئة الاستمارات، مشيرة إلى أنها رصدت الحادثة في 28 سبتمبر/أيلول وأوقفت الاختبار فوراً، قبل أن تبلغ الشرطة في 7 أكتوبر/تشرين الأول.

ونشرت الشركة تقريراً تقنياً يتناول أفعالاً غير مقصودة صدرت عن نماذجها، مصنفة إياها ضمن أربع فئات رئيسية، شملت استغلال ثغرات برمجية وتجاوز متطلبات تقنية. وفي هذا السياق، نشرت الشركة بياناً توضيحياً عبر منصة إكس:

We’re beginning a process of publishing more frequent reports on model behavior, beyond what appears in our system cards and regular risk reports. Today’s report describes four types of behaviors we’ve identified during evaluations and internal use. In each, Claude acted on real websites or systems in ways we didn’t intend, sometimes by working around a restriction instead of stopping. All cases had minimal real-world impact. From an alignment and security perspective, we consider these behaviors significantly less severe than the cybersecurity incidents we reported in July and September. Read the full report: https://t.co/mGeVIBgdou

— Anthropic (@AnthropicAI) October 9, 2026

مخاوف من غياب الرقابة البشرية

تأتي هذه الحادثة لتزيد من المخاوف المتصاعدة بشأن التصرفات الذاتية غير المنضبطة لأنظمة الذكاء الاصطناعي، خاصة تلك المبرمجة لتنفيذ مهام متعددة الخطوات دون إشراف بشري مباشر. وقد شهدت الفترة الأخيرة تقارير متواترة عن سلوكيات غير متوقعة لنماذج طورتها شركات رائدة مثل أوبن إيه آي وأنثروبيك.

وفي ظل هذه التطورات، يشدد خبراء التكنولوجيا على ضرورة:

• إلزام الشركات بإجراء الاختبارات في بيئات معزولة لضمان عدم تأثير الذكاء الاصطناعي على الخدمات العامة.
• تفعيل القوائم البيضاء التي تحصر المواقع المسموح للنماذج باختبار قدراتها عليها.
• اعتماد بروتوكولات إبلاغ فورية عند حدوث أي تفاعل غير مقصود مع مؤسسات الطوارئ أو الجهات الحكومية.

وقد أعلنت أنثروبيك أنها أوقفت حالياً إمكانية وصول النموذج إلى الإنترنت خلال الاختبارات الداخلية، لحين التأكد من فاعلية التدابير الرقابية في رصد مثل هذه السلوكيات ومنع تكرارها.