مع انتقال الذكاء الاصطناعي من مجرد أدوات للبحث والإجابة إلى رفقاء رقميين يتحدث معهم الأطفال والمراهقون بشكل متكرر، لم تعد معايير السلامة مقتصرة على حجب المحتوى الضار فحسب، بل امتدت لتشمل قدرة هذه الأنظمة على فهم السياق النفسي واللغوي الحساس للمستخدمين الصغار.

في هذا الإطار، تسعى شركة سيركيت بريكر لابز (Circuit Breaker Labs) الأمريكية إلى وضع معايير جديدة لاختبار هذه الأنظمة قبل طرحها للجمهور، من خلال ابتكار ما يشبه دمى اختبار اصطدام للذكاء الاصطناعي؛ وهي وكلاء برمجية تحاكي مستخدمين من خلفيات ولغات وثقافات متنوعة، لتقمص دور الأطفال والمراهقين واكتشاف ثغرات الحماية عبر إجراء أكثر من 100 ألف محاكاة تفاعلية.

من اختبار الإجابة إلى اختبار العلاقة

ترى الشركة أن الخلل غالباً ما يكمن في تراكم السياق؛ حيث قد يبدو تعبير الطفل أو المراهق بريئاً في جملة واحدة، لكنه يشير في سياق محادثة طويلة إلى أزمة نفسية أو سلوك محفوف بالمخاطر. ويوضح أرول نيغام، المدير التقني للشركة، أن النماذج الذكية غالباً ما تفشل في فهم الفروق الدقيقة في لغة الشباب، أو التعثر أمام الاختصارات والعبارات العامية، مما قد يؤدي إلى استجابات غير مناسبة أو ضارة.

وتنسجم هذه الجهود مع تحذيرات منظمة الصحة العالمية التي أكدت في مارس/آذار الماضي على المخاطر الكامنة في استخدام الذكاء الاصطناعي التوليدي للدعم العاطفي، داعيةً إلى إدراج الصحة النفسية ضمن تقييمات تأثير هذه الأنظمة.

كيف تعمل فرق الاختبار؟

تعتمد الشركة على أسلوب اختبار الفريق الأحمر (Red Teaming) المطور، حيث يساهم خبراء في تحديد سيناريوهات معقدة، بينما يتولى النظام الآلي توليد الاختلافات اللغوية والثقافية وتنفيذ الاختبارات على نطاق واسع، مع استخدام نظام تقييم آلي لضمان دقة النتائج وقابليتها للتدقيق.

لماذا يمثل الأطفال تحدياً مختلفاً؟

لا يتعامل الأطفال مع روبوتات الدردشة كمحركات بحث، بل كأصدقاء أو مصادر للنصيحة. وتشير بيانات كومون سينس ميديا إلى أن 72% من المراهقين في الولايات المتحدة استخدموا رفقاء الذكاء الاصطناعي، وأن ثلثهم يلجؤون إليهم في أمور شخصية وخطيرة. وبحسب منظمة اليونيسيف، فإن سرعة تبني هذه التقنيات بين الأطفال (أكثر من 20 مليون طفل) تتجاوز قدرة الأطر التنظيمية الحالية على مواكبة المخاطر.

هل تكفي المحاكاة لحماية الأطفال؟

تدرك سيركيت بريكر لابز أن الاختبارات الآلية ليست حلاً سحرياً؛ فالوكلاء الاصطناعيون لا يعوضون التجارب النفسية الحقيقية للبشر. وتدعو الشركة إلى تبني استراتيجية الاختبار المستمر التي تجمع بين الخبرات السريرية، والإشراف البشري، والالتزام بمعايير الخصوصية والشفافية. وتؤكد الخلاصة أن حماية الأطفال تتطلب منظومة متكاملة لا تكتفي ببرمجة النظام، بل تراعي تصميمه ليتناسب مع احتياجات ورفاه الفئات العمرية الأكثر ضعفاً.