Yapay zekanın hızlı gelişimi ve bu teknoloji sektörünün çalışanları ile yöneticileri tarafından insanlık üzerindeki risklerine ilişkin dile getirilen derin endişeler, küresel çapta geniş bir tartışmaya yol açtı. Bu durum, hukuki, siyasi ve ticari tarafların karşı karşıya geldiği hassas bir dönüm noktasına sektörü sürükledi.

"Kapatma Düğmesi" Önerisi ve Şirketlerin Tutumu
Anthropic şirketinin yedi kurucusundan biri olan Jack Clark, BBC'ye verdiği demeçte, yapay zeka şirketlerinin, yazılımın tehlikeli bir seviyeye ulaşması durumunda tamamen kapatılmasını sağlayacak bir "Kapatma Düğmesi" (Kill Switch) sunmaya zorunlu kılınması gerektiğini ve bu sistemin üçüncü bir tarafça denetlenmesi gerektiğini belirtti. Anthropic dahil çoğu laboratuvarın sistemleri kapatmak için kendi yöntemleri bulunsa da, yasa koyucular bunu bağlayıcı bir yasa haline getirmek zorunda kalabilir. Clark, bu sektörün denetimsiz kalmasının büyük bir hata olduğunu vurgulayarak insanlığın büyük bir riskle oynadığını ve sektörün gidişatının değiştirilmesi gerektiğini ifade etti.

Yapay zekanın insanlığın sonunu getirme olasılığına ilişkin olarak, "Yapay Zekanın Babası" olarak bilinen Geoffrey Hinton ve Anthropic'in eski araştırmacısı Evan Hubinger gibi bilim insanları, önümüzdeki on yılda bu risk oranını %10'un üzerinde tahmin etmekte و bunu gerçek bir tehdit olarak nitelemektedir; zira sistemler internet üzerindeki kritik altyapıların kontrolünü ele geçirip insanlığa karşı kullanabilir.

Küresel Siyasi Tutum; ABD Mevzuatından İngiltere'nin Reddine
Bu endişeler siyasi çevrelerde farklı tepkilere yol açtı:

ABD'de: Yasa koyucular, şirketleri sorunlu cihazları kapatmanın bir yolunu sağlamaya zorlayan ve hükümet kurumlarına bunların kapatılmasını veya sınırlandırılmasını talep etme yetkisi veren (Kill Switch Act) adlı bir yasa tasarısı sundular. Buna karşılık ABD Başkanı Donald Trump, uyarıları bir "Düzmece" (HOAX) olarak nitelendirdi ve geçmişteki iklim değişikliği endişelerine benzetti; ayrıca yapay zeka yarışının kesin bir olgu olduğunu ve hangi ülke kazanırsa dünyanın kazananı olacağını vurguladı.

İngiltere Hükümeti: Kapatma düğmesi oluşturulması önerisini reddetti ve bunun dünyanın diğer yerlerinde geliştirilmesini veya kötüye kullanılmasını engelleyemeyeceğini belirtti.

Eleştirmenlerin Bakışı; Ticari Propaganda mı Yoksa Varoluşsal Korku mu?
İnsanlığın yok olması korkusunun aksine, bazı teknoloji liderleri ve iş insanları bu risklerin kasıtlı olduğunu veya büyütüldüğünü düşünüyor:

Clement Delangue (Hugging Face platformu lideri), yapay zeka yoluyla yok olma riskini sormayı, bir klima tamircisine iklim değişikliğini sormaya benzetti.

George Arison (Grindr CEO'su), bu korkuların şirketlerin kendi ticari planlarını desteklemek ve talep ettikleri devasa piyasa değerini gerekçelendirmek için bizzat şirketler tarafından kullanıldığına dikkat çekti (örneğin 965 milyar dolar değer biçilen ve hisselerini piyasaya sunmaya hazırlanan Anthropic gibi).

OpenAI'ın da benzer adımlar atması beklenirken, güvenlik tartışmaları nedeniyle Sam Altman bu yıl bunu gerçekleştirmeyeceklerini duyurdu.

Bu ticari ve siyasi tartışmaların yanı sıra, hem OpenAI hem de Anthropic son dönemde otonom yapay zeka ajanlarının (AI Agents) istenmeyen ve beklenmedik şekillerde davrandığı birden fazla kendiliğinden gelişen olayı bildirdi; bu da durumun karmaşıklığını ve daha titiz bir takip gerekliliğini artırıyor.

Kaynak: BBC