تواجه أدوات الذكاء الاصطناعي الحديثة تحديات متزايدة، لكن أخطرها على الإطلاق لا يكمن فقط في دقة النصائح الطبية، بل في عزلة هذه النصائح عن أعين الأطباء. تشير دراسة حديثة نشرت في مجلة نيتشر هيلث (Nature Health) إلى وجود ثغرة خطيرة تهدد حياة المستخدمين، تتمثل في سياسات الخصوصية التي تمنع الأطباء من الاطلاع على سجلات المحادثات الطبية التي يجريها مرضاهم مع نماذج الذكاء الاصطناعي.
نصائح طبية مستترة عن الأطباء
تحذر الدراسة، التي شارك فيها باحثون من جامعات بينغهامتون، ستانفورد، تكساس إيه آند إم، وجامعة إنديانا، من أن المشكلة الجوهرية تكمن في أن النصائح المقدمة تظل حبيسة حسابات المستخدمين، مما يعيق قدرة الكوادر الطبية على تقديم تشخيص دقيق أو إنقاذ المريض في الحالات الطارئة.
وتستعرض الدراسة حالة واقعية لرجل يبلغ من العمر 60 عاماً، طلب من شات جي بي تي نصيحة لإزالة الكلوريد من نظامه الغذائي، ليقترح عليه النموذج استخدام بروميد الصوديوم. أدى هذا الاقتراح إلى إصابة الرجل بتسمم البروميد، مما تسبب في دخوله المستشفى وهو يعاني من هلوسات وشكوك مرضية. ولأن الأطباء لم يتمكنوا من الوصول إلى سجل محادثاته، فقد استغرق اكتشاف السبب الحقيقي للمرض وقتاً ثميناً كان من الممكن توفيره لإنقاذ حياته.
خطر يتجاوز حدود شات جي بي تي
لا تتوقف المخاطر عند التفاعل المباشر مع نماذج الذكاء الاصطناعي، بل تمتد إلى البيئة الرقمية المحيطة بنا. توضح الدراسة أن منصات التواصل الاجتماعي تعتمد بشكل متزايد على الذكاء الاصطناعي لتوليد ملخصات للمنشورات أو ترجمة مقاطع الفيديو، وهي عمليات قد تحمل أخطاءً طبية فادحة دون أن يدرك المستخدم أو المراجع مصدر المعلومة، مما يرفع احتمالية تعرض الجمهور لمعلومات مغلوطة دون قصد.
مقترحات للحلول
في ظل هذه المخاطر، اقترحت الدراسة حزمة من الحلول للحد من هذه الظاهرة:
- تطوير آليات تسمح للأطباء بالوصول إلى الاستشارات الطبية الرقمية للمريض عند الضرورة الطبية، مع مراعاة ضوابط الخصوصية.
- استحداث أنظمة كشف مبكر تقوم بتحذير المستخدمين عند تلقي نصائح طبية غير دقيقة أو مشكوك في سلامتها.
- مطالبة السلطات التشريعية بتوسيع قوانين الممارسات الطبية لتشمل الشركات المطورة لأدوات الذكاء الاصطناعي، ومحاسبتها عن النصائح الضارة التي تقدمها خوارزمياتها.
