وكلاء الذكاء الاصطناعي.. الموظَّف الرقمي يدخل دائرة الخطر السيبراني

يتغيَّر دور الذكاء الاصطناعي داخل الشركات بسُرعة، فلم يَعُد يقتصر على كتابة النصوص أو الإجابة عن الأسئلة، بل أصبح قادرًا على قراءة البريد والملفات، والبحث في قواعد البيانات، واستخدام البرامج وتنفيذ مهام كاملة نيابةً عن الموظف.

ومع هذا الانتقال من تقديم المعلومة إلى تنفيذ العمل، أصبحت هذه الأنظمة هدفًا أكثر أهمية للهجمات الإلكترونية.

وتكمن الخطورة في أن الوكيل قد يتعامل مع رسائل أو ملفات أو صفحات إلكترونية تحتوي على تعليمات خفيَّة ومُضلّلة.

وإذا تعامَل معها باعتبارها جزءًا من المهمّة، فقد يُنفّذ إجراءً لم يطلبه المستخدِم.

وتزداد النتائج خطورة عندما يكون النظام مرتبطًا بملفات الشركة أو حساباتها أو برامجها الداخلية؛ إذ يمكن أن يتحوّل الخطأ إلى وصول غير مُصرّح به أو تسريب معلومات.

لهذا تتَّجه حماية وكلاء الذكاء الاصطناعي إلى ضبط الصلاحيات منذ البداية، فلا يحتاج الوكيل إلى الوصول لكُلّ أنظمة الشركة، بل إلى الأدوات والبيانات الضرورية فقط لأداء مَهمّته.

كما تحتاج العمليات الحساسة إلى مراجعة بشرية، مع متابعة مستمرة للمهام التي يُنفّذها النظام، بدلًا من تركه يعمل باستقلالية كاملة.

وتكشف هذه التطورات أن حماية الذكاء الاصطناعي ليست مرتبطةً بالنموذج وحده؛ فالحساب الذي يستخدمه الوكيل، والبيانات التي يصل إليها، والبرامج التي يتعامل معها، كلها أصبحت جزءًا من منظومة الحماية، وكلّما اتَّسع دور الموظف الرقمي داخل الشركة، أصبحت السيطرة على صلاحياته ومراقبة أعماله جزءًا أساسيًّا من الأمن السيبراني.