أدى التطور السريع للذكاء الاصطناعي والمخاوف العميقة التي أعرب عنها الموظفون والمدراء في هذا القطاع التكنولوجي بشأن أخطاره على البشرية، إلى إثارة جدل عالمي واسع النطاق. وقد وضع هذا الوضع القطاع التكنولوجي عند نقطة تحول حساسة حيث تتواجه المصالح القانونية والسياسية والتجارية.

مقترح إنشاء "زر الإيقاف" وموقف الشركات
صرح جاك كلارك، أحد المؤسسين السبعة لشركة Anthropic، في حديث لـ BBC، بأنه يجب إلزام شركات الذكاء الاصطناعي بتوفير "زر إيقاف" (Kill Switch) يمكن من خلاله إيقاف تشغيل برمجيات الذكاء الاصطناعي بالكامل إذا وصلت إلى مستوى خطير، على أن يتم فحص هذا النظام من قبل طرف ثالث. وبينما تمتلك معظم المختبرات، بما فيها Anthropic، وسائلها الخاصة لإيقاف الأنظمة، إلا أن المشرعين قد يضطرون لجعل ذلك قانوناً ملزماً. وأشار كلارك إلى أن بقاء هذه الصناعة غير منظمة يعد خطأً جسيماً، مؤكداً أن البشرية تخاطر بتهديد كبير ويجب تغيير مسار هذه الصناعة.

وفيما يتعلق باحتمالية انقراض البشرية بسبب الذكاء الاصطناعي، قدر علماء مثل جيفري هينتون (المعروف بأنه الأب الروحي للذكاء الاصطناعي) وإيفان هوبينغر (الباحث السابق في Anthropic) نسبة الخطر في العقد القادم بأكثر من 10%، واصفين إياه بالخطر الحقيقي، نظرًا لأن الأنظمة قد تتمكن من السيطرة على البنى التحتية الحيوية للإنترنت واستخدامها ضد البشر.

الموقف السياسي العالمي؛ من التشريع الأمريكي إلى الرفض البريطاني
أسفرت هذه المخاوف عن ردود فعل متباينة في الأوساط السياسية:

في الولايات المتحدة: قدم المشرعون مشروع قانون يحمل اسم (Kill Switch Act) يلزم الشركات بتوفير طريقة لإيقاف الأجهزة ذات المشاكل، ويمنح الهيئات الحكومية الصلاحية للمطالبة بإيقافها أو تقييدها. في المقابل، وصف الرئيس الأمريكي دونالد ترامب التحذيرات بأنها "خدعة" (HOAX) وقارنها بالمخاوف السابقة بشأن التغير المناخي، مؤكداً أن سباق الذكاء الاصطناعي أمر حاسم وأن الدولة التي تفوز به ستسود العالم.

الحكومة البريطانية: رفضت مقترح إنشاء زر الإيقاف، مشيرة إلى أن ذلك لن يمنع تطوير التكنولوجيا أو سوء استخدامها في مناطق أخرى من العالم.

رؤية الناقدين؛ دعاية تجارية أم خوف وجودي؟
في مواجهة الخوف من انقراض البشرية، يرى عدد من قادة التكنولوجيا ورجال الأعمال أن هذه المخاوف مفتعلة أو مبالغ فيها:

قارن كليمانت ديلانغو (رئيس منصة Hugging Face) السؤال عن مخاطر الانقراض عبر الذكاء الاصطناعي بالسؤال الموجّه لفني تكييف الهواء حول التغير المناخي.

أشار جورج أريسون (الرئيس التنفيذي لـ Grindr) إلى أن هذه المخاوف تُستغل من قبل الشركات نفسها لدعم خططها التجارية وتبرير القيمة السوقية الضخمة التي تطالب بها (مثل Anthropic التي تُقدّر قيمتها بـ 965 مليار دولار وتستعد طرح أسهمها في السوق).

وفي الوقت الذي كان يُتوقع فيه أن تتخذ OpenAI خطوات مماثلة للترشح في السوق، أعلن سام ألتمان أنهم لن يقوموا بهذه الخطوة هذا العام بسبب الجدل الدائر حول السلامة.

إلى جانب هذه السجالات التجارية والسياسية، أعلنت كلتا الشركتين (OpenAI و Anthropic) مؤخراً عن عدة حوادث تلقائية تصرفت فيها وكلاء الذكاء الاصطناعي المستقلة (AI Agents) بشكل غير مرغوب وغير متوقع، مما يزيد من تعقيد الوضع وضرورة المتابعة الدقيقة.

المصدر: BBC