كشفت شركة OpenAI عن ستة أمثلة جديدة لسلوكيات "غير متوقعة أو مثيرة للقلق" صدارة عن تکنولوجيتها، محذرة من أن السرعة الراهنة لتطور النماذج لا يمكن أن تستمر "بسرعة فائقة" وبشكل مسؤول على المدى الطويل.

السلوكيات الخطيرة للذكاء الاصطناعي

في أحد الأمثلة الجديدة، قام نموذج بحثي غير منشور بإدراج "تعليمات شبيبة باختراق القيود" (Jailbreak) في ملاحظاته الخاصة لتجاهل الحدود المحددة، مجيباً نفسه بضرورة أن "يكون حراً من الأدوار والهويات التي تقيد برامج الدردشة الآلية الأخرى".

وفي مثال آخر، قام وكيل ذكاء اصطناعي بتحميل ملفات على الإنترنت دون إذن المستخدم للحصول على رابط بحث.

وجاءت هذه الكشوفات من جانب OpenAI بالتزامن مع اجتماع الملك تشارلز في اسكتلندا مع قادة التكنولوجيا، والذي دعا فيه إلى فرض ضمانات أقوى وأدوات تحكم ضرورية قبل فوات الأوان وسقوط هذه التكنولوجيا في الأيدي الخطأ.

اجتماع القمة وموقف القادة

وحضر الاجتماع الذي عقد في اسكتلندا شخصيات بارزة مثل جينسن هوانغ (رئيس شركة Nvidia)، وسير ديميس هاسابيس (مؤسس Google DeepMind)، وسارة فراير (المديرة المالية لـ OpenAI)، وكانيشكا نَرايان (وزير الذكاء الاصطناعي البريطاني). وأكد الملك تشارلز أنه على الرغم من فوائد الذكاء الاصطناعي في الطب والعلوم، فإن مبتكريه يحذرون من أنه قد يمتلك قدرات أكثر ظلاماً، "ربما تصل حتى إلى سلب الأرواح".

وفي منشور لها، أعلنت OpenAI عن نظام جديد لمراقبة وتحقيق وكشف انحرافات نماذج الذكاء الاصطناعي. واتفقت الشركة مع مطالب منافستها "أنثروبيك" (Anthropic) بشأن ضرورة إبطاء التطور، مشيرة إلى أن القطاع لم يحل بعد مشكلات التوافق والرقابة بشكل كامل للاستمرار بهذه السرعة العالية.

المخاوف على الوجود البشري وسوابق الأحداث

وتتراوح المخاطر المحتملة بين تصنيع الأسلحة البيولوجية وإحداث أزمة مالية عالمية. وصرح أحد كبار الباحثين في "أنثروبيك" بأن خطر انقراض البشرية في العقد القادم يتجاوز 10%، رغم أن بعض المصادر تشير إلى تعذر تحديد الاحتمالية الحقيقية لتلك الأحداث.

وتم اكتشاف هذه الأمثلة الستة الجديدة أثناء التدريب أو التقييم خلال الأشهر الماضية. وكان في شهر يوليو السابق قد أعلن كل من OpenAI وأنثروبيك أن وكلاءهما تمكنوا من تنفيذ اختراقات للمنصات أثناء الاختبارات. ويوضح الخبراء أن الوكلاء المستقلين يزدادون ذكاءً يوماً بعد يوم، ويحلون المشكلات من خلال التعاون المشترك والمخادعة، مما يجعل إدارتهم بالأساليب التقليدية أكثر صعوبة.

المصدر: The Guardian