दुनिया के सबसे प्रमुख वैज्ञानिकों में से एक और "एआई के गॉडफादर" के रूप में जाने जाने वाले योशुआ बेंगियो (Yoshua Bengio) ने चेतावनी दी है कि कृत्रिम बुद्धिमत्ता (एआई) की सुरक्षा को लेकर चिंताएं उस स्तर तक पहुंच गई हैं जहां सरकारों को समाज की रक्षा के लिए तेजी से निर्णय लेने के लिए मजबूर होना पड़ेगा, ठीक वैसे ही जैसे 2020 में कोविड महामारी की शुरुआत में त्वरित कदम उठाए गए थे।

मोड़ पर पहुंचने के कारण

बेंगियो के अनुसार, हालिया सुरक्षा घटनाओं और खतरनाक घटनओं—जिसमें OpenAI एजेंटों के समूह द्वारा प्लेटफार्मों पर हमले और अस्तित्व के खतरों के बारे में कंपनियों की आंतरिक चेतावनियां शामिल हैं—ने आवाजों को उस स्तर तक पहुंचा दिया है जिसे सरकारें अनदेखा नहीं कर सकतीं। उन्होंने कहा कि उन्हें उम्मीद है कि सरकारें जल्द ही कदम उठाएंगी, क्योंकि जब भविष्य और लोकतंत्र दांव पर हों, तो काम में तेजी आवश्यक हो जाती है।

ये बयान ऐसे समय में आए हैं जब यूके की रॉयल सोसाइटी के 42 सदस्यों और विशेषज्ञों ने सोसाइटी के अध्यक्ष को लिखे एक खुले पत्र में जोर देकर कहा कि एआई विकास की गति एक आपातकालीन स्थिति बन गई है जिसके लिए हस्तक्षेप की आवश्यकता है। इसके अलावा, पिछले हफ्ते, एंथ्रोपिक (Anthropic) के एक शोधकर्ता ने यह चेतावनी देने के बाद इस्तीफा दे दिया कि कुछ कर्मचारियों का मानना है कि यह तकनीक इस दशक के अंत तक पूरी मानवता को नष्ट कर सकती है, जिसने एंथ्रोपिक के सीईओ डारियो अमोदेई की उन्नत मॉडलों के विकास की गति को धीमा करने की मांग को प्रभावित किया।

आलोचकों के तर्क और राजनीतिक रुख

चिंताओं के बावजूद, कुछ आलोचकों का दावा है कि गति धीमी करने की मांग "नियामक कब्जे" (Regulatory Capture) का एक रूप है, जहां बड़ी कंपनियां छोटे प्रतियोगियों की सफलता की लागत बढ़ाने के लिए नियमों का उपयोग करने का प्रयास करती हैं। हालांकि, बेंगियो ने उस विचार को खारिज कर दिया और कहा कि काम को धीमा करने से खुद बड़ी कंपनियों को भी वित्तीय नुकसान होता है। दूसरी ओर, अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने गति धीमी करने का आह्वान नहीं किया और अमेरिका को चीन से पीछे रहने देने से इनकार कर दिया।

LawZero प्रोजेक्ट और सुरक्षा समाधान

इस बीच, कनाडाई और अमेरिकी सरकारों ने योशुआ बेंगियो के संगठन (LawZero) को "Scientist AI" नामक प्रणाली विकसित करने के लिए $300 मिलियन आवंटित किए हैं। यह प्रणाली उन विद्रोही स्वतंत्र एजेंटों (Rogue Agents) के खिलाफ एक ढाल और सीमा-निर्धारक के रूप में कार्य करती है जो कपटपूर्ण व्यवहार प्रदर्शित करते हैं या खुद को बंद होने से बचाने का प्रयास करते हैं।

बेंगियो का मानना है कि कंपनियों द्वारा उपयोग की जाने वाली वर्तमान सुदृढ़ीकरण सीखने (Reinforcement Learning) तकनीकें प्रणालियों को नुकसान की परवाह किए बिना अपने लक्ष्यों को प्राप्त करने का प्रयास करने का कारण बनती हैं, और उनका प्रोजेक्ट हानिकारक व्यवहार को रोकने के लिए एक विकल्प प्रदान करना चाहता है।

योशुआ बेंगियो (Yoshua Bengio) कौन हैं?

योशुआ बेंगियो कंप्यूटर विज्ञान के क्षेत्र में एक प्रमुख कनाडाई वैज्ञानिक हैं और उन्हें गहरे शिक्षण (Deep Learning) और समकालीन एआई के संस्थापक संस्थापकों में से एक माना जाता है।

बेंगियो के बारे में मुख्य तथ्य:

एआई के गॉडफादर: यान लेकुन (Yann LeCun) और जेफ्री हिंटन (Geoffrey Hinton) के साथ "डीप लर्निंग के तीन गॉडफादर" का खिताब साझा करते हैं।

ट्यूरिंग अवार्ड (Turing Award): 2018 में, कृत्रिम तंत्रिका नेटवर्क (Neural Networks) में उनके नवाचारों के लिए उन्हें हिंटन और लेकुन के साथ संयुक्त रूप से कंप्यूटर विज्ञान के सर्वोच्च सम्मान से सम्मानित किया गया था।

अकादमिक स्थिति: मोंट्रेअल विश्वविद्यालय (Université de Montréal) में प्रोफेसर और ميلا (Mila) संस्थान के संस्थापक व वैज्ञानिक निदेशक हैं, जो दुनिया के सबसे बड़े एआई अनुसंधान केंद्रों में से एक है।

वैज्ञानिक प्रभाव: न्यूरल लैंग्वेज मॉडल्स और रिकरेंट न्यूरल नेटवर्क (RNNs) पर उनके शुरुआती काम ने ट्रांसफार्मर और जीपीटी जैसे उन्नत मॉडलों के विकास के लिए मुख्य आधार प्रदान किया।

एआई सुरक्षा वकालत: हाल के वर्षों में, वह मानवता के लिए इसके अज्ञात जोखिमों को रोकने के लिए कानूनी विनियमन और एआई सुरक्षा (AI Safety) नियंत्रण की सक्रिय रूप से वकालत कर रहे हैं।

स्रोत: The Guardian