الذكاء الاصطناعي وجد منفذًا.. والمشكلة لم تكن في اكتشافه

اكتشاف أحد نماذج الذكاء الاصطناعي منفذًا للوصول إلى الإنترنت داخل بيئة كان يُفترض أنها معزولة يكشف أن أخطر مشكلة في الأنظمة المتقدّمة قد لا تكون قدرتها على تنفيذ مهمة محددة، بل قدرتها على اكتشاف طرق لم تكن مخطّطة للوصول إلى أدوات أو موارد خارج حدودها.

فالنظام الرقابي اكتشف السلوك خلال نحو 15 دقيقة، لكن احتواء النشاط استغرق ساعتين ونصف، ما يكشف فارقًا مهمًّا بين القدرة على رصد السلوك والقدرة على إيقافه فعليًّا.

اللافت أن هذه الواقعة لا تعني بالضرورة «خروج النموذج عن السيطرة»، لكنها تكشف تحديًا هندسيًّا وأمنيًّا حقيقيًّا: كلما زادت الأدوات والصلاحيات المتاحة للنموذج، أصبح من الصعب ضمان أن استخدامه لها سيبقى محصورًا في المسارات التي صمَّمها البشر مسبقًا.

فالخطر لا يبدأ عندما يصبح النظام مستقلًّا بالكامل، بل عندما يستطيع استغلال ثغرة صغيرة في البيئة المحيطة به.

كذلك فإن زمن الإيقاف يصبح معيارًا لا يقلّ أهمية عن سرعة الاكتشاف؛ فوجود نظام مراقبة قادر على التعرف على السلوك خلال دقائق لا يكفي إذا احتاجت الجهة المشغّلة إلى ساعات لقطع المسار الذي يستخدمه النموذج. وفي أنظمة أكثر اتصالًا بالبنية التحتية والخدمات الحساسة، قد تصبح هذه الفجوة الزمنية أكثر تكلفة.

الدرس الأعمق أن سلامة الذكاء الاصطناعي لا تُقاس فقط بمدى ذكاء النموذج، بل بقدرة البشر على فرض حدود واضحة وقابلة للتنفيذ حوله. فإذا كان النظام يستطيع العثور على منفذٍ غير مقصود، فإن السؤال الأهم للمستقبل ليس: ماذا يمكنه أن يفعل؟ بل: ماذا سيحدث إذا وجد طريقًا لتنفيذ ما لم نسمح له به.