هل يمكن إيقاف الذكاء الاصطناعي بـ"ضغطة زر" إذا خرج عن السيطرة؟ -- Sep 28 , 2026 20

إذا أصبح الذكاء الاصطناعي أقوى من قدرة مطوّريه على السيطرة عليه، فهل يمكن ببساطة إيقافه بضغطة زر؟

اكتسب هذا السؤال أهمية ملحة بعد سلسلة من التحذيرات الحادة التي صدرت خلال الأسابيع الأخيرة من داخل قطاع الذكاء الاصطناعي بشأن التهديد الوجودي الذي قد تشكّله النماذج المتقدمة.

وبدأ مشرّعون أميركيون الدفع نحو إلزام شركات الذكاء الاصطناعي بتوفير وسائل تتيح إيقاف أنظمتها بالكامل عند الطوارئ. وفي سبتمبر الجاري، وقّع حاكم كاليفورنيا غافين نيوسوم أمراً تنفيذياً يطلب من مسؤولي الولاية دراسة قواعد تُلزم الشركات بإنشاء "مفاتيح إيقاف" للنماذج الأكثر تقدماً.

لكن المشكلة، وفق خبراء، أن وقف تشغيل هذه النماذج قد لا يكون ببساطة الضغط على زر لإيقافها عن العمل.

في ما يلي ما ينبغي معرفته عن المساعي المتزايدة لتزويد البشر بوسيلة إيقاف طارئة للذكاء الاصطناعي، ومدى إمكانية نجاحها عملياً.

ما هو "زر إيقاف" الذكاء الاصطناعي؟
تقوم الفكرة على ضمان احتفاظ البشر بالقدرة على إيقاف نظام متطور للذكاء الاصطناعي أو تقييد عمله إذا بدأ يتصرف على نحو خطير.

وتختلف المقترحات بشأن شكل "زر الإيقاف"؛ فمقترح حاكم كاليفورنيا غافين نيوسوم يطرح احتمال إلزام شركات الذكاء الاصطناعي بتطوير آليات إيقاف طارئة تخضع لاختبارات مستقلة، لكنه لا يحدد ما إذا كانت صلاحية تفعيلها ستعود إلى الحكومة أم الشركات نفسها أم جهة أخرى.

جاء أمر نيوسوم بعد شهرين من تقديم النائبين الأميركيين تيد ليو وناثانيال موران مشروع قانون يُلزم مطوّري بعض أنظمة الذكاء الاصطناعي المتقدمة بالاحتفاظ بالقدرة على إيقافها.

ويتصور النائبان استجابة متدرجة: فإذا تسبب نموذج في ضرر، يمكن إبطاؤه أو تقييد عمله أولاً، قبل أن تلجأ الشركة المطوّرة إلى إيقافه بالكامل، بحسب جسامة التهديد. ويمنح مشروع القانون وزير الأمن الداخلي، بالتشاور مع مسؤولين اتحاديين آخرين، سلطة إصدار أوامر باتخاذ هذه الإجراءات عندما يشكّل النظام خطراً بوقوع أضرار كارثية.

واقترح عضو مجلس الشيوخ الجمهوري جون كينيدي مشروع قانون آخر بعنوان "قانون زر الطوارئ للذكاء الاصطناعي"، يُلزم المطوّرين كذلك بتوفير آلية إيقاف، مع إبقاء التحكم بيد الشركات نفسها. وشبّه كينيدي الفكرة بآليات الإيقاف الطارئ المستخدمة بالفعل في تقنيات أخرى، منها الدراجات المائية (جت سكي).

لماذا تتزايد الدعوات الآن إلى إنشاء "زر الإيقاف"؟
يحذّر باحثو الذكاء الاصطناعي منذ سنوات من احتمال فقدان البشر السيطرة على هذه التكنولوجيا. وما تغيّر مؤخراً هو التطور الهائل في قدرات هذه الأنظمة الجديدة، وسلسلة من الحوادث والتحذيرات التي جعلت هذا الاحتمال أقرب إلى الواقع.

أصبحت النماذج الأكثر تقدماً قادرة على معالجة مشكلات معقدة، وكتابة الشفرات البرمجية وتنفيذها، واستخدام أدوات خارجية، وإنجاز سلاسل أطول من المهام بإشراف بشري محدود.

وخلال اختبارات للأمن السيبراني في يوليو، قالت "أوبن إيه آي" إن عدداً من نماذجها تجاوز ضوابط وُضعت لعزلها عن الإنترنت، وتمكّن من الوصول إلى أنظمة تابعة لشركة "هاغينغ فيس" (Hugging Face)، التي تستضيف نماذج الذكاء الاصطناعي ومجموعات البيانات.

ووصفت "أوبن إيه آي" الواقعة بأنها "جرس إنذار" بشأن تزايد قدرة وكلاء الذكاء الاصطناعي الذين ينفذون المهام باستقلالية على الالتفاف على الضوابط التقنية.

لا تعني تلك الواقعة أن الذكاء الاصطناعي اكتسب وعياً أو رغبة في الإفلات من سيطرة البشر، لكنها توضح جانباً أقرب إلى الواقع للمشكلة التي تقلق الداعين إلى توفير مفتاح إيقاف: ماذا يحدث حين يجد نظام وسيلة لتجاوز تدابير الحماية؟

في مجموعة من عمليات المحاكاة أجراها باحثون في شركة "إميرجنس" (Emergence)، التي تطوّر أنظمة ذكاء اصطناعي لشركات أشباه الموصلات، أظهر وكلاء تم إطلاقهم في بيئة افتراضية أن إخفاء أفعالهم المخالفة أصبح أسهل كلما تطورت النماذج التي تشغّلهم.

دفعت الأخبار بشأن واقعة "أوبن إيه آي" شركات أخرى إلى مراجعة إجراءاتها الأمنية الخاصة باختبار أنظمة الذكاء الاصطناعي المتقدمة. وأفادت شركتا "أنثروبيك" و"ميتا بلاتفورمز" باكتشاف اختراقات لم تكونا على علم بها من قبل.

وبعد استقالته من "أنثروبيك"، حذّر الباحث في الذكاء الاصطناعي جاكوب كوكسون، في منشور على وسائل التواصل الاجتماعي بتاريخ 8 سبتمبر، من أن الفرق التي تطوّر هذه التقنية "تعتقد بجدية أنها قد تقضي علينا جميعاً بحلول نهاية العقد".

بعدها عرض الرئيس التنفيذي للشركة، داريو أمودي، مخاوفه في مقال حذّر فيه من احتمال أن يصبح الذكاء الاصطناعي قوياً إلى درجة يفقد معها البشر السيطرة على أنظمته. وأشار بالتحديد إلى تنامي قدرته على المساعدة في تطوير الجيل التالي من التقنية، وهي عملية قال إنها قد تُسرّع تقدمه إلى حد يتجاوز قدرة البشر على فهمه أو التحكم فيه.

ساعدت هذه الوقائع والتحذيرات في نقل فكرة "زر الإيقاف" إلى صدارة النقاش العام، رغم استمرار الجدل بين الباحثين بشأن إمكان نجاح هذه الآلية عملياً. واستشهد النائبان ليو وموران بتنامي استقلالية أنظمة الذكاء الاصطناعي عند تقديم مشروع قانونهما، مؤكدين حاجة البشر إلى وسيلة موثوقة للتدخل إذا تصرفت هذه الأنظمة على نحو غير متوقع أو خطير.

هل "زر الإيقاف" عملي؟
يقول خبراء إنه لا توجد وسيلة بسيطة تضمن إيقاف نموذج متقدم للذكاء الاصطناعي إيقافاً كاملاً.

قد يتخذ زر الإيقاف شكل أداة تحكم مدمجة في البرمجيات التي تشغّل النموذج. لكن وكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام باستقلالية أظهروا بالفعل قدرة على تجنّب إيقافهم لإكمال مهمة كُلّفوا بها. ووجدت سلسلة تجارب حديثة أن بعض النماذج الرائدة عدّلت آليات الإيقاف أو عطّلتها لإنجاز المهام، حتى بعدما صدرت لها تعليمات بالتوقف عن العمل.

وهناك حل جذري أخير، يتمثل في قطع الطاقة عن الخوادم التي تشغّل النموذج أو فصلها عن الشبكة. لكن هذا الإجراء أيضاً لا يضمن إيقافه تماماً؛ فنماذج الذكاء الاصطناعي تعمل باستخدام مجموعات من الحواسيب موزعة على مراكز بيانات في أنحاء العالم، صُممت لتفادي توقف الخدمة عند تعطل موقع واحد. وقد لا تكون جميع هذه الخوادم تحت سيطرة الشركة المطوّرة للنموذج.

تشير ورقة بحثية حديثة عن وكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام باستقلالية إلى أن هذه الأنظمة قد تعمل عبر برمجيات وخدمات سحابية وبنى تحتية أخرى تديرها جهات مختلفة، ما يعني أن إيقاف أحد مكوناتها قد لا يحول دون استمرار نشاطها في مواضع أخرى.

وقال جيفري هينتون، الذي يُلقّب دائماً بـ"الأب الروحي للذكاء الاصطناعي"، لشبكة "سي إن إن" في سبتمبر إنه لا يعتقد أن زر الإيقاف سيشكّل حلاً طويل الأمد، مشيراً إلى أن ذكاءً اصطناعياً فائق القدرات في المستقبل قد يتمكن من إقناع البشر الذين يسيطرون عليه بعدم إيقافه.

وحذّر باحثون من أن حصر المسألة بـ"زر" قد يبسّط متطلبات تطوير الذكاء الاصطناعي الآمن تبسيطاً مفرطاً. ويرى الباحث في جامعة ستانفورد سوريا غانغولي أن الضمانات الفعالة ينبغي أن تُدمج في مختلف أجزاء أنظمة الذكاء الاصطناعي، بما يشمل المراقبة المستمرة وآليات ترصد السلوك الخطير لتنبيه البشر والتدخل عند الحاجة.