إنفيديا تبني 4 طبقات دفاعية لحماية وكلاء الذكاء الاصطناعي

يتغيَّر شكل المخاطر الأمنية مع انتقال الذكاء الاصطناعي من أنظمة تُقدّم إجابات إلى وكلاء قادرين على تنفيذ المهام، واتخاذ الإجراءات بصورة شبه مستقلة؛ فزيادة الصلاحيات تعني أنّ أي اختراق لم يَعُد يستهدف المخرجات فقط، وإنما قد يمتد إلى الذاكرة والبيانات والملفات وقنوات الاتصال التي يعتمد عليها الوكيل في أثناء عمله. وفي مواجهة هذا التَّحوُّل، قدَّمت إنفيديا إطارًا أمنيًّا وهندسيًّا يقوم على أربع طبقات دفاعية متكاملة، تجمع بين الحماية العتادية والرقابة البرمجية؛ للحدّ من المخاطر المرتبطة بتشغيل هذه الأنظمة.

وتبدأ المنظومة من نقطة التعامل مع الأوامر، عبر طبقة مُخصَّصة لفحص التعليمات التي تصل إلى الوكيل قبل تنفيذها. وتكمن أهمية هذه الخطوة في أن الوكيل المستقل لا يكتفي بمعالجة طلب المستخدِم، بل يمكنه تنفيذ سلسلة من الإجراءات وَفْق الصلاحيات المتاحة له. ومن ثَمَّ، يصبح التحقُّق من توافق الأوامر مع القواعد الأمنية وسيلةً للحد من تنفيذ تعليمات غير مُصرّح بها، أو إجراءات تتجاوز الحدود التي وضعتها المؤسسة.

في المقابل، تُمثّل الذاكرة طبقةً أخرى شديدة الحساسية؛ لأن المعلومات التي يعتمد عليها الوكيل في أثناء تنفيذ المهام يمكن أن تُؤثّر مباشرةً في قراراته وسلوكه.

ولهذا تُركّز المنظومة على عزل سجلات الذاكرة ومراقبة التعامل معها، بما يُقلّل فرص هجمات تسميم الذاكرة التي قد تستهدف إدخال معلومات ضارة أو التلاعب بالمحتوى الذي يستند إليه النظام.

ولا تقتصر الحماية هنا على منع التغيير، بل تمتد إلى الحَدّ من انتقال البيانات الحساسة خارج النطاق المسموح.

وتكمل حماية الاتصالات السحابية الجانب الآخر من المنظومة، من خلال تشفير مسارات الاتصال بين الأنظمة والخدمات المختلفة، وتزداد أهمية هذه الحماية في البيئات التي تعتمد على الحوسبة السحابية لتشغيل تطبيقات الذكاء الاصطناعي؛ إذ إن انتقال البيانات بين مكونات مُتعدّدة يفرض الحاجة إلى تأمينها خلال الاتصال وتقليل مخاطر اعتراضها أو تسريبها.

وتتَّضح القيمة العملية لهذا الإطار داخل المؤسسات التي تستخدم وكلاء الذكاء الاصطناعي للتعامل مع البيانات الداخلية وملفات العملاء. ففي قطاعات مثل الخدمات المصرفية وإدارة الأعمال، لا تكفي قدرة الوكيل على إنجاز المَهمّة؛ إذ يجب أن تكون صلاحيَّاته مُحدَّدة، وبياناته محميَّة، واتصالاته مُؤمَّنة، وإجراءاته خاضعة لضوابط واضحة.

وبذلك، تنقل إنفيديا مفهوم أمن وكلاء الذكاء الاصطناعي من حماية نموذج منفرد إلى بناء دفاع مُتعدّد المستويات يغطي الأوامر والذاكرة والبيانات والاتصالات. ومع اتّساع الاعتماد على الوكلاء المستقلين، يصبح هذا النهج جزءًا أساسيًّا من توفير بيئة أكثر موثوقية لاستخدام الأتمتة والذكاء الاصطناعي داخل المؤسسات، مع إبقاء القدرة على تنفيذ المهام مرتبطة بحدود أمنية يمكن التحكم فيها ومراقبتها.