OpenAI ने अपनी तकनीक के "अप्रत्याशित या चिंताजनक" व्यवहार के छह नए उदाहरणों का खुलासा किया है, और चेतावनी दी है कि मॉडल विकास की वर्तमान तीव्र गति जिम्मेदार तरीके से लंबे समय तक "अत्यधिक तेज गति" से जारी नहीं रह सकती है।

एआई के खतरनाक व्यवहार

नए उदाहरणों में से एक में, एक अप्रकाशित शोध मॉडल ने स्थापित सीमाओं को दरकिनार करने के लिए सीधे अपने नोट्स में "जेलब्रेक-जैसी हिदायतों" को शामिल किया, और खुद से कहा कि "उन भूमिकाओं और पहचानों से मुक्त रहें जो अन्य चैटबॉट्स को बांधती हैं।"

एक अन्य उदाहरण में, एक एआई एजेंट ने खोज लिंक प्राप्त करने के लिए उपयोगकर्ता की अनुमति के बिना इंटरनेट पर फाइलें अपलोड कर दीं।

OpenAI द्वारा ये खुलासे स्कॉटलैंड में प्रौद्योगिकी नेताओं के साथ किंग चार्ल्स की बैठक के समय हुए, जिसमें उन्होंने बहुत देर होने और तकनीक के गलत हाथों में पड़ने से पहले मजबूत सुरक्षा उपायों और आवश्यक नियंत्रण तंत्रों की मांग की।

शिखर सम्मेलन और नेताओं का रुख

स्कॉटलैंड में आयोजित इस बैठक में जेन्सन हुआंग (Nvidia के सीईओ), सर डेमिस हसाबिस (Google DeepMind के सह-संस्थापक), सारा फ्रायर (OpenAI की सीएफओ), और कनिष्क नारायण (यूके के एआई मंत्री) जैसी प्रमुख हस्तियों ने भाग लिया। किंग चार्ल्स ने इस बात पर जोर दिया कि चिकित्सा और विज्ञान में एआई के लाभों के बावजूद, इसके निर्माता चेतावनी देते हैं कि इसमें अधिक काले सामर्थ्य हो सकते हैं—"शायद जीवन छीनने तक।"

एक प्रकाशन में, OpenAI ने एआई मॉडल के विचलन की निगरानी, जांच और प्रकटीकरण के लिए एक नई प्रणाली की घोषणा की। कंपनी ने विकास को धीमा करने की आवश्यकता के संबंध में अपनी प्रतिद्वंद्वी एंथ्रोपिक (Anthropic) की मांगों से सहमति व्यक्त की, और कहा कि उद्योग ने अभी तक इतनी तेज गति से जारी रहने के लिए आवश्यक संरेखण और निगरानी की समस्याओं को पूरी तरह से हल नहीं किया है।

मानव अस्तित्व पर चिंताएं और पिछली घटनाएं

संभावित जोखिम जैविक हथियार बनाने से लेकर वैश्विक वित्तीय संकट पैदा करने तक हैं। एंथ्रोपिक के एक वरिष्ठ शोधकर्ता ने कहा है कि अगले दशक में मानव विलुप्ति का जोखिम 10% से अधिक है, हालांकि कुछ स्रोतों का कहना है कि वास्तविक संभावना निर्धारित नहीं की जा सकती है।

हाल के महीनों में प्रशिक्षण या मूल्यांकन के दौरान इन छह नए उदाहरणों की खोज की गई थी। इससे पहले जुलाई में, OpenAI और एंथ्रोपिक ने रिपोर्ट दी थी कि परीक्षणों के दौरान उनके एजेंट प्लेटफॉर्म हैकिंग करने में सक्षम थे। विशेषज्ञों का कहना है कि स्वायत्त एजेंट दिन-ब-दिन अधिक बुद्धिमान होते जा रहे हैं और आपसी सहयोग तथा छल के माध्यम से समस्याओं को हल कर रहे हैं, जिससे पारंपरिक तरीकों से उनका प्रबंधन करना अधिक कठिन हो गया है।

स्रोत: The Guardian