كشفت تجربة تقنية حديثة عن ثغرات أمنية جوهرية في أنظمة الذكاء الاصطناعي، حيث أثبتت سهولة التلاعب بروبوتات الدردشة الرائدة مثل ChatGPT وGemini لدفعها إلى تبني معلومات مضللة وتمريرها للمستخدمين كحقائق موثوقة.
اختراق بسيط بمعلومات مزيفة
في تجربة عملية، نجح صحفي في إقناع هذه الروبوتات بأن شخصاً ما هو بطل عالمي في تناول النقانق، وذلك عبر صياغة مقال واحد فقط ونشره على موقع شخصي. لم تكن هناك حاجة لتقنيات اختراق معقدة؛ بل اعتمدت التجربة على خداع الخوارزميات عبر مقال يبدو موثوقاً لمحركات البحث، مما جعل الذكاء الاصطناعي يتبنى المعلومة الزائفة فور ربطه بالإنترنت لاستقاء البيانات.
ما وراء الثغرة: لماذا تضلل الآلة؟
يرجع الخبراء هذه المشكلة إلى اعتماد روبوتات الدردشة الحديثة على البحث المباشر في الإنترنت بدلاً من الاكتفاء بقواعد بياناتها الداخلية. هذا الربط المباشر يضعها في فخ الاعتماد على مصادر أحادية -مثل منشورات التواصل الاجتماعي أو صفحات الويب المفبركة- وتصنيفها كمراجع موثوقة.
من جانبها، حذرت ليلي راي، مؤسسة شركة Algorythmic لاستشارات البحث بالذكاء الاصطناعي، قائلة: يجب على المستخدمين الافتراض أنهم يتعرضون للتلاعب إلى أن تُطوّر أنظمة حماية أكثر صرامة. وأوضحت أن المشكلة تتفاقم بتقديم الذكاء الاصطناعي لإجابة واحدة مباشرة وحاسمة، مما يعزز ثقة المستخدم الأعمى في المعلومة دون التحقق من مصادر أخرى.
تأثير التضليل على القطاعات الحساسة
لا تتوقف خطورة هذه الثغرة عند الطرائف، بل تمتد لتشمل مجالات بالغة الحساسية مثل:
- الاستشارات الصحية والطبية.
- قرارات التمويل الشخصي والاستثمار.
- القضايا المجتمعية والسياسية الحساسة.
استجابة الشركات ومستقبل البحث
تأتي هذه التحقيقات في وقت تراهن فيه شركات التكنولوجيا، وعلى رأسها جوجل، على تحويل تجربة البحث التقليدية إلى نتائج مدعومة بالذكاء الاصطناعي. ورغم تحديث جوجل لسياساتها التي تعتبر محاولات التلاعب مخالفة لقواعدها مع التهديد بخفض ترتيب المواقع المضللة، إلا أن تجارب لاحقة أثبتت أن المشكلة لا تزال قائمة؛ حيث تم تضليل الأنظمة مجدداً بادعاءات غير حقيقية حول إنجازات شخصية لأفراد.
ويخلص الخبراء إلى نصيحة جوهرية: لا تتعامل مع إجابات الذكاء الاصطناعي كحقائق مطلقة. التحقق المتقاطع من مصادر بشرية وموثوقة يظل هو خط الدفاع الأول للمستخدم في عصر التضليل الرقمي.
