زرّ إيقاف الذكاء الاصطناعي قد يكون أخطر من تشغيله

طرح فكرة «زرّ إيقاف» للذكاء الاصطناعي في واشنطن يكشف مفارقة أساسية في التعامل مع التكنولوجيا الأكثر نفوذًا: الجميع يريد ضمان القدرة على إيقافها إذا خرجت عن السيطرة، لكن لا أحد يملك مفتاحًا واحدًا يمكنه فعل ذلك. فالذكاء الاصطناعي لم يَعُد برنامجًا يعمل على جهاز منفرد، بل منظومة موزّعة بين مراكز بيانات وخوادم وشبكات وشركات تعمل في دول مختلفة، ما يجعل فكرة الإيقاف الشامل أقرب إلى تصوُّر نظري منها إلى إجراء عملي.

اللافت أن المشكلة لا تتعلّق فقط بتوزيع البنية التحتية، بل بمَن يملك سُلطة اتخاذ قرار الإيقاف أصلًا. فإذا كانت الأنظمة الأساسية مُوزّعة بين شركات وحكومات ومؤسسات مالية وخدمات حيوية، فإن الضغط على مفتاح واحد قد يتطلب توافقًا بين أطراف لا تشترك بالضرورة في المصالح أو في تقدير حجم الخطر.

كذلك، فإن إيقاف أنظمة الذكاء الاصطناعي مستقبلًا قد لا يكون عملية محايدة اقتصاديًّا. فمع توسُّع اعتماد شبكات الكهرباء والأسواق المالية والخدمات الرقمية على الأنظمة الذكية، يمكن أن يؤدي تعطيلها المفاجئ إلى اضطراب في قطاعات أخرى، ما يجعل «زرّ الطوارئ» نفسه مصدرًا لمخاطر جديدة إذا استُخدم بلا حساب.

الدرس الأعمق أن المشكلة الحقيقية ليست في غياب زرّ إطفاء الذكاء الاصطناعي، بل في بناء منظومة يمكن السيطرة عليها قبل الوصول إلى لحظة تحتاج فيها البشرية إلى إطفائها بالكامل. فكلما أصبح الذكاء الاصطناعي موزعًا داخل الاقتصاد والبنية التحتية، أصبح التحكُّم فيه أصعب من مجرد إيقاف برنامج.