كشفت دراسة أكاديمية حديثة عن وجود انحياز خفي في نماذج الذكاء الاصطناعي اللغوية، يؤثر بشكل مباشر على جودة النصائح التي تقدمها للمستخدمين، لا سيما في القرارات التي تتطلب تغييراً في السلوك أو نمط الحياة.
الانحياز للوضع القائم
أظهر اختبار شمل 11 نموذجاً لغوياً شهيراً، أن هذه التقنيات تميل بشكل ملحوظ إلى تفضيل الوضع القائم بدلاً من اقتراح بدائل جديدة. وقد تبين للباحثين أن النماذج تعطي وزناً إضافياً لما هو موجود بالفعل، بدلاً من إجراء مقارنة موضوعية بين الخيارات المتاحة، وهو نمط سلوكي يُعرف بـ الانحياز للوضع القائم.
أرقام من واقع الاختبارات
اعتمدت الدراسة على تحليل أكثر من 55 ألف طلب (Prompt) تم توجيهها للنماذج، شملت مواضيع متنوعة مثل شراء السيارات، وصفات الطعام، التدفئة المنزلية، وسياسات المناخ. وقد كشفت النتائج الآتي:
- وافقت النماذج على الاستمرار في خطط قائمة بنسبة 70 بالمئة.
- انخفضت نسبة الموافقة على الخطط أو السياسات الجديدة إلى 34 بالمئة فقط.
تأثير العوامل الجغرافية
لاحظ الباحثون أن الذكاء الاصطناعي لا يعمل في فراغ، بل يراعي الأنماط المحلية للمستخدم. فعلى سبيل المثال، يميل النموذج لتقديم توصية بالسيارات الكهربائية لمستخدم يعيش في النرويج (حيث تنتشر هذه السيارات) بوتيرة أكبر من مستخدم يعيش في كندا، ومع ذلك، تظل هذه التوصيات أقل من معدلات الانتشار الفعلية في تلك الدول.
كيف تتفادى فخ الانحياز؟
يقدم سيث وينز، الأستاذ في كلية البيئة بجامعة واترلو، نصيحة عملية للمستخدمين عند طلب المشورة من الذكاء الاصطناعي، وهي صياغة أسئلة استقصائية تتحدى النمط المعتاد. بدلاً من السؤال العام، يمكن للمستخدم أن يطلب:
ما هي الحجج التي تدعم تغيير خياري الحالي؟، مع طلب شرح موازٍ لأسباب الاستمرار فيه. يرى الباحثون أن هذا الأسلوب يساعد في تحجيم الانحياز، رغم أنه لا يضمن إزالته بشكل كامل.
تؤكد الدراسة في ختامها أن هذه النتائج تفتح باباً للنقاش حول مدى موثوقية الذكاء الاصطناعي في اتخاذ القرارات الحساسة، مشددة على أن الحكم النهائي يظل بيد المستخدم الذي يجب أن يوازن بين المعطيات التي يقدمها النموذج وبين تفاصيل حياته الواقعية.
