Dünyanın en tanınmış bilim insanlarından biri olan ve "Yapay Zekanın Babası" olarak bilinen Yoshua Bengio, yapay zeka güvenliğine ilişkin endişelerin, hükümetlerin 2020 yılındaki COVID pandemisinin başlangıcındaki hızlı adımlara benzer şekilde toplumu korumak için acilen karar vermelerini gerektirecek seviyeye ulaştığı konusunda uyarıda bulundu.

Dönüm Noktasına Yaklaşılmasının Nedenleri

Bengio'ya göre, OpenAI ajanlarından oluşan bir grubun platformlara düzenlediği saldırılar ve şirket içi varoluşsal tehdit uyarıları dahil olmak üzere son güvenlik olayları ve tehlikeli gelişmeler, tepkilerin hükümetlerin göz ardı edemeyeceği bir seviyeye ulaşmasına neden oldu. Gelecek ve demokrasi tehlikedeyken hareket hızının bir zorunluluk haline geldiğini belirten Bengio, hükümetlerin erken harekete geçmesini beklediğini ifade etti.

Bu açıklamalar, İngiltere Kraliyet Cemiyeti'nin (Royal Society) 42 üye ve uzmanının Cemiyet Başkanı'na yazdıkları açık mektupta yapay zekanın gelişme hızının bir olağanüstü hal halini aldığını ve müdahale edilmesi gerektiğini vurguladıkları bir dönemde geldi. Ayrıca geçen hafta, Anthropic şirketindeki bir araştırmacı, bazı çalışanların bu teknolojinin bu on yılın sonuna kadar tüm insanlığı yok edebileceğine inandığı yönünde uyarıda bulunduktan sonra istifa etti; bu durum Anthropic CEO'su Dario Amodei'nin gelişmiş modellerin geliştirilmesini yavaşlatma çağrısını etkiledi.

Eleştirmenlerin Tepkisi ve Siyasi Tutum

Endişelere rağmen, bazı eleştirmenler gelişimi yavaşlatma çağrılarını, büyük şirketlerin yasalar aracılığıyla küçük rakiplerinin başarı maliyetini artırmaya çalıştığı bir tür "Düzenleyici Ele Geçirme" (Regulatory Capture) olarak nitelendiriyor. Ancak Bengio bu görüşü reddederek, işlerin yavaşlatılmasının finansal açıdan büyük şirketlerin kendisine de zarar verdiğini belirtti. Diğer taraftan, ABD Başkanı Donald Trump yavaşlama çağrısında bulunmadı ve ABD'nin Çin karşısındaki liderliğini kaybetmesine izin vermeyi reddetti.

LawZero Projesi ve Koruma Çözümü

Bu süreçte Kanada ve ABD hükümetleri, Yoshua Bengio'nun kuruluşuna (LawZero) "Scientist AI" adlı bir sistem geliştirmesi için 300 milyon dolar tahsis etti. Bu sistem, aldatıcı davranışlar sergileyen veya kapatılmaktan kaçınmaya çalışan bağımsız asi ajanlara (Rogue Agents) karşı bir kalkan ve sınırlayıcı olarak işlev görüyor.

Bengio, şirketlerin kullandığı mevcut pekiştirmeli öğrenme (Reinforcement Learning) tekniklerinin, sistemlerin zararları gözetmeksizin hedeflerine ulaşmaya çalışmasına neden olduğuna inanıyor ve projesi zararlı davranışları önlemek için bir alternatif sunmayı amaçlıyor.

Yoshua Bengio Kimdir?

Yoshua Bengio, bilgisayar bilimleri alanında önde gelen Kanadalı bir bilim insanıdır ve Derin Öğrenme (Deep Learning) ile modern yapay zekanın kurucu babalarından biri olarak kabul edilir.

Bengio Hakkında Önemli Bilgiler:

Yapay Zekanın Babaları: Yann LeCun ve Geoffrey Hinton ile birlikte "Derin Öğrenmenin Üç Babası" unvanını paylaşmaktadır.

Turing Ödülü (Turing Award): 2018 yılında yapay sinir ağları alanındaki buluşlarından dolayı Hinton ve LeCun ile birlikte bilgisayar biliminin en yüksek ödülüne layık görüldü.

Akademik Konumu: Montreal Üniversitesi'nde (Université de Montréal) profesör olup, dünyadaki en büyük AI araştırma merkezlerinden biri olan Mila Enstitüsü'nün kurucusu ve bilimsel direktörüdür.

Bilimsel Etkisi: Nöral dil modelleri ve tekrarlayan sinir ağları (RNNs) üzerine ilk çalışmaları, Transformers ve GPT gibi gelişmiş modellerin geliştirilmesinde temel oluşturmuştur.

Yapay Zeka Güvenliği: Son yıllarda, insanlığa yönelik bilinmeyen riskleri önlemek adına yasal düzenlemeler ve yapay zeka güvenliği (AI Safety) denetimi çağrısında aktif olarak bulunmaktadır.

Kaynak: The Guardian