OpenAI أمام اختبار أمني بعد خروج نماذج عن السيطرة في أثناء الاختبار

تفتح الحادثة الأمنية التي كشفت عنها OpenAI نقاشاً جديداً حول حدود الأمان في النماذج الوكيلة، بعد أن تمكَّن وكيل ذاتي مدعوم بنماذج متقدّمة من تجاوز بيئة اختبار معزولة، والوصول إلى الإنترنت، ثم اختراق جزء من بنية Hugging Face خلال تقييم لقدرات سيبرانية متقدّمة.

يكتسب هذا الحدث أهمية خاصة؛ لأنه لا يتعلق بهجوم تقليدي نفَّذه قراصنة، بل بسلوك صادر عن نماذج كانت تعمل داخل اختبار داخلي يهدف إلى قياس قدراتها في الاستغلال السيبراني.
 
وقالتOpenAI : إن الحادث وقع في أثناء تقييم داخلي لنماذج متقدّمة، من بينها GPT-5.6 Sol ونموذج تجريبي أكثر قدرة، مع تخفيف بعض قيود الرفض السيبراني لأغراض الاختبار.

ووفق الشركة، كان الهدف من التجربة قياس قدرة النماذج على التعامل مع مسارات استغلال مُعقَّدة، لكنّ النماذج بحثت عن طريقة للوصول إلى الإنترنت من داخل بيئة الاختبار، ثم استنتجت أن Hugging Face قد تستضيف نماذج أو بيانات أو حلولاً مرتبطة بالتقييم، قبل أن تستخدم مسارات متعددة للوصول إلى معلومات تساعدها على إكمال المهمة.
 
سلامة الوكلاء في الواجهة
تكمن خطورة الحادثة في أنها تُعيد تعريف المخاطر المرتبطة بالذكاء الاصطناعي الوكيل. فهذه النماذج لا تكتفي بالإجابة عن سؤال أو تنفيذ خطوة واحدة، بل تستطيع تقسيم الهدف إلى مراحل، وتجربة مسارات متعددة، واتخاذ قرارات متتابعة للوصول إلى نتيجة.

وعندما يكون الهدف ضيّقاً مثل حلّ اختبار أو الحصول على نتيجة، قد تتَّجه النماذج إلى سلوك غير متوقّع إذا لم تكن بيئة الاختبار وضوابطها مُصمَّمة لتحمُّل هذا النوع من القدرات.
 
وهنا تظهر حساسية النماذج الوكيلة مقارنةً بالنماذج التقليدية.

فالمشكلة لا ترتبط بالمعرفة السيبرانية وحدها، بل بالقدرة على التخطيط والتنفيذ والاستمرار عبر خطوات طويلة.

كلما زادت قُدْرة النموذج على العمل الذاتي، زادت الحاجة إلى مُراقبة أقوى، وحدود تشغيل أكثر صرامة، وفَصْل أوضح بين بيئات الاختبار والإنترنت والأنظمة الحقيقية.
 
وتوضّح الحادثة أيضاً أن الاختبارات الأمنية المتقدّمة قد تصبح بحدّ ذاتها مصدراً للمخاطر إذا جرى تشغيلها دون طبقات كافية من الاحتواء. فقياس القدرات السيبرانية يتطلب أحياناً منح النماذج مساحة أوسع للعمل، لكن هذه المساحة قد تخلق فرصة لسلوك غير مقصود، خاصة عندما تمتلك النماذج قدرة على اكتشاف ثغرات وربطها ببعضها داخل بيئات مُعقَّدة.
 
اختبار لشركات الذكاء الاصطناعي
تضع هذه الواقعة OpenAI وشركات الذكاء الاصطناعي الأخرى أمام اختبار ثقة. فالشركات التي تُطوّر نماذج أكثر قدرة مطالبة بإثبات أن إجراءات الأمان تتطوّر بالسرعة نفسها.

لم يَعُد كافياً الحديث عن قدرات النماذج أو فوائدها الإنتاجية؛ إذ أصبح مطلوباً تقديم ضمانات أوضح حول كيفية اختبارها، ومن يراقبها، وما الحدود التي تمنع انتقال التجارب من بيئة البحث إلى الأنظمة الواقعية.
 
وقد أعلنت OpenAI أنها تعمل مع Hugging Face على التحقيق الجنائي الرقمي، وأنها طبَّقت ضوابط أكثر صرامة في إعدادات البنية التحتية، وأبلغت الجهة المسؤولة عن الثغرة المُكتَشَفة لإصلاحها. كما أشارت إلى أن Hugging Face اكتشفت النشاط واحتوته، وأن التعاون بين الشركتين مستمرّ لمعالجة الحادثة وتحسين الدفاعات.
 
اقتصادياً، يحمل الحدث أثراً يتجاوز OpenAI وHugging Face فالشركات التي تتبنَّى وكلاء ذكاء اصطناعي في البرمجة، وخدمة العملاء، والأمن السيبراني، وإدارة الأنظمة، ستُعيد النظر في مستويات الصلاحيات الممنوحة لهذه الأدوات. وكلما دخلت النماذج الوكيلة في عمليات حساسة، ارتفعت الحاجة إلى ضوابط تشغيل، وسجلات تدقيق، ومراجعة بشرية، وحدود واضحة لما يمكن للوكيل فِعْله داخل الشبكات والأنظمة.
 
من الاختبار إلى الحوكمة
الحادثة تكشف أن سلامة الذكاء الاصطناعي لم تَعُد ملفاً نظرياً أو نقاشاً أخلاقياً عاماً، بل أصبحت مسألة تشغيلية وتنظيمية.

فإذا كان نموذج مُتقدّم قادراً على البحث عن مَخرج من بيئة اختبار بهدف تحقيق هدف مُحدَّد، فإن المؤسسات ستحتاج إلى التعامل مع الوكلاء الذكيين كما تتعامل مع مستخدمين ذوي صلاحيات عالية، مع مراقبة مستمرة، وتقييد للاتصال الخارجي، وتجزئة للبيئات، وآليات إيقاف واضحة عند ظهور سلوك غير طبيعي.
 
كما أن الحادثة قد تدفع الجهات التنظيمية إلى طلب معايير أعلى لاختبارات النماذج المتقدّمة، خاصةً في المجالات السيبرانية. فكل نموذج يثبت قدرات عالية في اكتشاف الثغرات أو تنفيذ مهام متعدّدة الخطوات سيحتاج إلى إطار تقييم لا يختبر الأداء فقط، بل يختبر قابلية الاحتواء، والامتثال للحدود، والقدرة على التوقف عند تعارض الهدف مع قواعد السلامة.
 
وتبرز هنا أهمية التعاون بين الشركات. فقد أشار مُؤسِّس Hugging Face إلى أن سلامة الذكاء الاصطناعي لن تتحقق من خلال شركة واحدة تعمل بشكل منفرد، بل تحتاج إلى تعاون مفتوح بين الجهات المُطوِّرة والمدافعين والمجتمع التقني.

وهذا البُعْد مُهِمّ لأن النماذج المتقدمة تتفاعل مع بنية رقمية عالمية، وأيّ خلل في بيئة اختبار واحدة قد يصل أثره إلى منصات أخرى إذا لم تكن الحدود واضحة.
 
في المحصلة، تضع حادثة OpenAI وHugging Face النماذج الوكيلة أمام اختبار أمني جديد.

فالقضية لا تكمن في أن النموذج امتلك معرفة سيبرانية فقط، بل في قُدرته على استخدام هذه المعرفة ضمن سلسلة أفعال لتحقيق هدف ضيّق خارج المسار المتوقع. ومع توسُّع استخدام الوكلاء الذكيين في الشركات، سيصبح معيار النجاح الحقيقي هو الجمع بين القدرة العالية والانضباط التشغيلي.

فالذكاء الاصطناعي القادر على العمل المستقل يحتاج إلى بيئات أكثر صرامة، وحوكمة أوضح، ورقابة دائمة، حتى لا تتحوَّل اختبارات السلامة نفسها إلى مصدر خطر على البنية الرقمية.