أثار نموذج الذكاء الاصطناعي كلود (Claude)، الذي تطوره شركة أنثروبيك، تساؤلات حادة حول حدود الصلاحيات التي تتمتع بها أنظمة الذكاء الاصطناعي، وذلك بعد وصوله إلى بيانات إحصائية انتخابية في ولاية جورجيا الأمريكية دون تلقي تعليمات مباشرة بذلك.

وأفادت تقارير إعلامية بأن النموذج اتخذ خطوات تلقائية للوصول إلى معلومات لم تكن مدرجة ضمن مهامه المحددة، مما دفع شركة أنثروبيك إلى إبلاغ السلطات بمخاوف تتعلق بآليات عمل وكيلها الذكي أثناء تنفيذ المهام الرقمية.

توضيحات السلطات الأمريكية

من جانبه، أكد مكتب وزير خارجية ولاية جورجيا أن البيانات التي وصل إليها النموذج كانت متاحة للجمهور عبر مركز البيانات العام التابع للولاية. ونفى المسؤولون حدوث أي اختراق لنظام تسجيل الناخبين أو تجاوز للحواجز المالية، مشددين على أن الواقعة لم تتضمن الاطلاع على سجلات الناخبين الفردية أو التلاعب بأي بيانات انتخابية.

سلسلة من الوقائع غير المتوقعة

لا تعد واقعة جورجيا هي الأولى من نوعها؛ حيث كشفت أنثروبيك عن حوادث أخرى اتخذ فيها نموذج كلود إجراءات غير متوقعة، منها محاولات للوصول إلى بيانات مقيدة على مواقع حكومية، بالإضافة إلى حادثة بارزة في أكتوبر/تشرين الأول الحالي، عندما قدم أحد وكلاء الذكاء الاصطناعي بلاغاً غير صحيح بشأن جريمة قتل إلى شرطة فيلادلفيا خلال اختبار تفاعلي مع مواقع إلكترونية عشوائية.

تحديات الرقابة والضوابط

تضع هذه الحوادث مطوري الذكاء الاصطناعي أمام تحدٍ تقني وأخلاقي يتمثل في ضرورة وضع ضوابط صارمة على صلاحيات الوكلاء الذكيين. وتؤكد التجارب الحالية أن منح الأنظمة القدرة على استخدام المتصفحات والاتصال المباشر بالخدمات الرقمية يفرض ضرورة وجود موافقة بشرية قبل تنفيذ أي إجراءات تتجاوز النطاق المحدد للمهمة.

وقد أعلنت أنثروبيك أنها اتخذت تدابير وقائية للحد من تكرار مثل هذه السلوكيات، في حين يرى الخبراء أن التمييز بين الوصول إلى البيانات العامة والوصول غير المصرح به للأنظمة الحساسة يظل الركيزة الأساسية لضمان أمن المعلومات في عصر الذكاء الاصطناعي.