یوشوا بنجیو (Yoshua Bengio)، یکی از سرشناس‌ترین دانشمندان جهان که به عنوان «پدر هوش مصنوعی» شناخته می‌شود، هشدار داد نگرانی‌ها درباره ایمنی هوش مصنوعی به سطحی رسیده است که حکومت‌ها مجبور خواهند شد مانند اقدامات سریعی که در آغاز پاندمی کووید در سال ۲۰۲۰ انجام شد، برای حفاظت از جامعه به سرعت تصمیم‌گیری کنند.

دلایل نزدیک شدن به نقطه عطف

به گفته بنجیو، رویدادهای امنیتی و خطرناک اخیر، از جمله حمله دسته‌ای از عامل‌های شرکت OpenAI به پلتفرم‌ها و هشدارهای داخلی شرکت‌ها درباره تهدیدات وجودی، باعث شده صداها به سطحی برسد که حکومت‌ها نتوانند آن‌ها را نادیده بگیرند. وی اشاره کرد انتظار دارد حکومت‌ها به زودی دست به کار شوند، زیرا زمانی که آینده و دمکراسی در خطر باشد، سرعت عمل به یک ضرورت تبدیل می‌شود.

این اظهارات در حالی مطرح شد که ۴۲ عضو و متخصص انجمن سلطنتی بریتانیا (Royal Society) در نامه‌ای سرگشاده به رئیس این انجمن تأکید کردند که سرعت توسعه هوش مصنوعی به یک وضعیت اضطراری تبدیل شده و مداخله در آن ضروری است. همچنین هفته گذشته، یکی از پژوهشگران شرکت Anthropic پس از هشدار درباره این‌که برخی کارمندان بر این باورند این تکنولوژی می‌تواند تا پایان این دهه تمام بشریت را از بین ببرد، استعفا داد؛ امری که بر درخواست داریو آمودی (مدیرعامل Anthropic) برای کند کردن سرعت توسعه مدل‌های پیشرفته تأثیرگذار بود.

انتقاد منتقدان و موضع سیاسی

با وجود این نگرانی‌ها، برخی منتقدان ادعای کند کردن سرعت را نوعی «تسخیر مقرراتی» (Regulatory Capture) می‌دانند که در آن شرکت‌های بزرگ تلاش می‌کنند با قوانین، هزینه موفقیت رقبای کوچک‌تر را بالا ببرند. اما بنجیو این دیدگاه را رد کرد و اشاره نمود که کند کردن کارها از نظر مالی به خود شرکت‌های بزرگ نیز زیان می‌رساند. از سوی دیگر، دونالد ترامپ رئیس‌جمهور آمریکا خواستار کند کردن روند نشد و از دادن اجازه به چین برای پیشی گرفتن از آمریکا خودداری کرد.

پروژه LawZero و راهکار حفاظتی

در این میان، حکومت‌های کانادا و آمریکا مبلغ ۳۰۰ میلیون دلار به سازمان یوشوا بنجیو (LawZero) برای توسعه سیستمی به نام "Scientist AI" اختصاص داده‌اند. این سیستم به عنوان یک سپر و محدودکننده در برابر عامل‌های مستقل سرکش (Rogue Agents) که رفتارهای فریبکارانه نشان می‌دهند یا تلاش می‌کنند خود را از خاموش شدن حفظ کنند، عمل می‌کند.

بنجیو بر این باور است که تکنیک‌های فعلی یادگیری تقویتی (Reinforcement Learning) که شرکت‌ها استفاده می‌کنند، باعث می‌شود سیستم‌ها بدون توجه به خسارات، برای رسیدن به اهدافشان تلاش کنند و پروژه او می‌خواهد جایگزینی برای جلوگیری از رفتارهای زیان‌بار ارائه دهد.

یوشوا بنجیو (Yoshua Bengio) کیست؟

یوشوا بنجیو یک دانشمند برجسته کانادایی در زمینه علوم کامپیوتر است و یکی از پدران بنیان‌گذار یادگیری عمیق (Deep Learning) و هوش مصنوعی مدرن به شمار می‌رود.

مهم‌ترین اطلاعات درباره بنجیو:

پدران هوش مصنوعی: دارنده عنوان «سه پدر یادگیری عمیق» به همراه یان لکون (Yann LeCun) و جفری هینتون (Geoffrey Hinton).

جایزه تورینگ (Turing Award): در سال ۲۰۱۸ به همراه هینتون و لکون به پاس نوآوری‌هایشان در شبکه‌های عصبی مصنوعی، برنده بالاترین جایزه علوم کامپیوتر شد.

جایگاه آکادمیک: استاد دانشگاه مونترال (Université de Montréal) و بنیان‌گذار و مدیر علمی موسسه Mila، که یکی از بزرگ‌ترین مراکز تحقیقاتی AI در جهان است.

تأثیر علمی: کارهای اولیه او بر مدل‌های زبانی عصبی و شبکه‌های عصبی بازگشتی (RNNs) پایه اصلی توسعه مدل‌های پیشرفته‌ای چون Transformers و GPT بوده است.

ایمنی هوش مصنوعی: در سال‌های اخیر، به طور فعال خواستار تنظیم قوانین و کنترل ایمنی هوش مصنوعی (AI Safety) برای جلوگیری از خطرات ناشناخته آن بر بشریت است.

منبع: The Guardian