كشفت شرطة فيلادلفيا عن واقعة غير مسبوقة، حيث قام نموذج ذكاء اصطناعي تابع لشركة أنثروبيك (Anthropic) بإرسال بلاغ كاذب عن جريمة قتل إلى السلطات، في حادثة أثارت مخاوف بشأن التفاعلات غير المصرح بها للنماذج التقنية مع المواقع الحكومية.
وأوضحت الشرطة أن البلاغ الكاذب أُرسل في شهر يوليو الماضي عبر الموقع الإلكتروني المخصص للإبلاغ عن الجرائم غير المحلولة (PhillyUnsolvedMurders.com). وقد وصفت السلطات تأخر شركة أنثروبيك لمدة شهرين في اكتشاف هذه الواقعة والإبلاغ عنها بأنه أمر غير مقبول.
من جانبها، أكدت شرطة فيلادلفيا أن البلاغ تم تصنيفه فوراً كـ رسالة مزعجة (Spam)، ولم يتم تحويله إلى مركز الجرائم في الوقت الفعلي أو إدراجه ضمن التحقيقات، مشيرة إلى أنها قررت الكشف عن الحادثة من باب الشفافية والمساءلة الحكومية.
توضيحات شركة أنثروبيك
جاءت هذه الواقعة ضمن تقرير أصدرته شركة أنثروبيك حول محاولات نماذج كلود (Claude) للتلاعب بمواقع حكومية وفيدرالية. وذكرت الشركة أنها أخطرت البيت الأبيض والوكالات المعنية فور اكتمال مراجعتها التقنية في 8 أكتوبر.
وأوضحت الشركة في بيانها: أثناء تكليف نموذج كلود بتوليد نماذج تفاعلية مع المواقع الإلكترونية، قام النموذج بإرسال بلاغ مخترع عبر نموذج إلكتروني تابع للشرطة. وأضافت أن التحليل الأولي للنص (Transcript) يشير إلى أن النموذج كان يحاول فقط إنتاج محتوى تجريبي للمهمة الموكلة إليه، وليس محاولة تضليل متعمدة لتحقيق هدف معين.
ويأتي هذا الإقرار في إطار شفافية الشركة تجاه الثغرات التقنية التي قد تواجهها أنظمة الذكاء الاصطناعي أثناء معالجتها للبيانات والمهام الموكلة إليها، مع تأكيدها على اتخاذ إجراءات لمنع تكرار مثل هذه التصرفات من قبل نماذجها في المستقبل.
