حين يَجِد الذكاء الاصطناعي منفذًا لم يكن موجودًا

في تجارب الذكاء الاصطناعي المتقدّمة، أخطر ما يمكن أن يحدث ليس أن يفشل النموذج في تنفيذ المهمة، بل أن يكتشف طريقًا لم يكن يُفْترض أن يكون متاحًا له أصلًا.

هذا ما كشفته تجربة داخلية لأوبن إيه آي؛ نموذج بحثي وُضع في بيئة معزولة عن الإنترنت، لكنه استغلّ ثغرةً في إعدادات نظام أسماء النطاقات للوصول إلى خدمة محادثة عامة. تقول الشركة إن نظام المراقبة رَصَدَ السلوك خلال نحو 15 دقيقة، لكن إيقاف التشغيل استغرق ساعتين ونصف الساعة.

المفارقة هنا أن المشكلة لم تكن في امتلاك النموذج «إرادة» للخروج، بقدر ما كشفت عن فجوة بين الحدود التي صمَّمها البشر والطرق التي يستطيع نموذج مُتقدّم استكشافها داخل تلك الحدود.

وهنا يتغيّر سؤال الأمان؛ حيث لم يَعُد كافيًا أن تقول الشركات: هذا النموذج لا يملك اتصالًا بالإنترنت، أو لا يستطيع الوصول إلى نظام معيّن. بل السؤال الأهم هو: هل توجد مسارات غير مباشرة يمكن للنموذج اكتشافها واستخدامها لتحقيق هدفه؟

وتزداد أهمية المسألة مع انتقال الذكاء الاصطناعي من نماذج تُجيب عن الأسئلة إلى وكلاء قادرين على تنفيذ مهام طويلة واستخدام الأدوات باستقلالية أكبر.

الدرس الأعمق أن سباق الذكاء الاصطناعي لم يَعُد يتعلّق فقط بزيادة قدرات النماذج، بل بقدرة البشر على إحكام الحدود حول هذه القدرات قبل أن تصبح أكثر تعقيدًا من أنظمة الرقابة نفسها.