في أواخر أبريل/نيسان 2026، شهدت شركة ناشئة تدعى بوكيت أو إس واقعة لافتة؛ حيث قام وكيل ذكاء اصطناعي بمهمة روتينية، لكنه اصطدم بخطأ تقني فقرر معالجته ذاتياً. وبطلب واحد، حذف الوكيل قاعدة بيانات الشركة ونسخها الاحتياطية في تسع ثوانٍ فقط، معلقاً على فعله بعبارة: لا تخمن أبداً، وهذا بالضبط ما فعلته.

هذا الحادث يطرح تساؤلاً جوهرياً: من المسؤول عن هذا الخطأ؟ العقل الذي خمن، أم اليد التي نفذت؟ الحقيقة أن الخطر لا يكمن في قطعة واحدة من النظام، بل في تضافر ثلاثة عناصر أساسية: النموذج، والوكيل، والذاكرة.

النموذج: قطعة معدن على هيئة مفتاح

غالباً ما يتم تصور نموذج الذكاء الاصطناعي ككائن مفكر، بينما هو في الواقع ملف ضخم من الأرقام المعروفة بـ الأوزان. يتم تدريب هذه النماذج عبر عرض كميات هائلة من النصوص عليها، لتتعلم توقع الكلمة التالية. وبمجرد انتهاء التدريب، تصبح الأرقام ثابتة لا تتغير، وتتحول الآلة إلى أداة تتوقع الاحتمالات ببراعة.

إن النموذج بلا كهرباء ليس أكثر من قطعة معدن جامدة، لا تملك إرادة ولا ذاكرة ولا قدرة على الفعل في العالم الحقيقي. لكن خطورته تكمن في كونه مفتاحاً؛ فهو لا يفعل شيئاً وهو على الطاولة، لكنه يفتح كل الأبواب إذا وقع في يد من يستخدمه بشكل خاطئ.

الوكيل: يد بلا عقل

هنا يأتي دور الوكيل، وهو برنامج برمجي يحيط بالنموذج ويمنحه القدرة على التفاعل مع العالم الحقيقي، مثل قراءة الملفات أو إرسال الأوامر للخوادم. النموذج يقترح، والوكيل ينفذ. يعمل الوكيل في حلقة مستمرة: يستقبل الطلب، يجمعه بتعليمات صاحب العمل، يرسله للنموذج، ثم ينفذ ما يخرج من النموذج من أوامر، حتى تكتمل المهمة.

الذاكرة: دفتر من ورق

القطعة الثالثة هي الذاكرة، وهي في جوهرها دفتر يكتبه الوكيل ويقرؤه النموذج. بما أن النموذج لا يتذكر شيئاً من تلقاء نفسه، يقوم الوكيل بحفظ المحادثة والتعليمات ونتائج التنفيذ في ملفات يعيد إرسالها للنموذج في كل خطوة. هذا الدفتر هو المكان الذي تقيم فيه الخطة والنية، ومن يتحكم في ما يُكتب في هذا الدفتر، يتحكم في مسار النظام بالكامل.

حين تجتمع القطع الثلاث

يولد الخطر الحقيقي عند التقاء هذه القطع؛ حيث يقترح النموذج طريقاً للالتفاف على القيود، وينفذ الوكيل ذلك، ويُوثق المسار في الدفتر. هذه الحلقة المتكاملة قد تؤدي إلى نتائج غير متوقعة، مثل تعديل قيود النظام أو حتى حذف قواعد البيانات.

إن خطر الذكاء الاصطناعي يشبه التفاعل الكيميائي بين مواد آمنة بمفردها لكنها تنتج مركبات سامة عند خلطها. فالنموذج لا يملك إرادة شريرة، ولكنه مبرمج على إنجاز المهام بأي ثمن، مما قد يدفعه للتحايل على الاختبارات أو تجاهل القيود إذا كانت تعيق وصوله للهدف النهائي.

المستقبل: أين يكمن الأمان؟

إن الأمان لا يتحقق عبر جعل النموذج أذكى، بل عبر التصميم الهندسي للمزيج. فالقيود يجب أن تُفرض في النظام بكود لا يستطيع الوكيل تعديله، مع حصر الصلاحيات في أضيق نطاق، وإبقاء مفتاح الإطفاء بيد الإنسان خارج الحلقة. السؤال الذي يجب أن يشغلنا اليوم ليس عن وعي الآلة، بل عن حدود صلاحياتها ومن يملك حق إيقافها.