जैसा कि तकनीकी दिग्गजों ने एआई-थकी हुई दुनिया को चेतावनी दी है कि उनके अपने उन्नत सिस्टम मानवता को खतरे में डाल सकते हैं, सवाल उठता है: उन्हें क्या हासिल करना है?

इसका उत्तर अमेरिकी मध्यावधि चुनावों से पहले राजनीतिक लक्ष्यों को प्राप्त करने के लिए कंपनियों के प्रयासों और शीर्ष कृत्रिम बुद्धिमत्ता प्रयोगशालाओं और उनके निवेशकों द्वारा घबराए हुए शेयर बाजार में पैसा बनाने में छिपा हो सकता है।

एंथ्रोपिक और ओपनएआई के सीईओ ने हाल ही में घोषणा की कि अमेरिका के अत्याधुनिक मॉडल बहुत शक्तिशाली हैं, वे खतरनाक हैं, और जारी होने से पहले उन्हें विनियमित और स्वतंत्र रूप से परीक्षण करने की आवश्यकता है। एकजुटता के एक दुर्लभ उदाहरण में, उन्होंने संयुक्त राष्ट्र में लेखों, सोशल मीडिया पोस्ट और भाषणों में चिंताजनक दृश्यों को चित्रित किया है।

यह भी पढ़ें: आईसीई एजेंट पर मारपीट का आरोप, गोलीबारी के बारे में झूठ बोलने पर मिनेसोटा में गिरफ्तार

साथ ही, वे इस बातचीत को आकार दे रहे हैं कि उनकी तकनीक को कैसे नियंत्रित किया जाना चाहिए। विशेषज्ञों, विश्लेषकों और पूर्व सरकारी मूल्यांकनकर्ताओं ने कहा कि अपनी बयानबाजी से, कंपनियां सार्वजनिक पक्ष की मांग कर रही हैं और एक अनियमित बाजार में अपने स्वयं के सुरक्षा प्रोटोकॉल के लिए शर्तें निर्धारित कर रही हैं। संबंधी प्रेस।

मानव इंजीनियर तकनीकी विकास पर विराम लगाने का आह्वान कर रहे हैं

हो सकता है कि ये लक्ष्य बिल्कुल मेल न खाते हों, जैसा कि मानवविज्ञानी इंजीनियर जैकब कॉक्सन ने कहा था, जब उन्होंने इस महीने एक्स पर एक पद से इस्तीफा देते हुए “अलौकिक” प्रणालियों को उनके रचनाकारों के नियंत्रण से बचने के लिए तकनीकी विकास को रोकने का आह्वान किया था। लेकिन कंपनियों ने उनके पोस्ट को अपने हेजिंग प्रयासों को उजागर करने और वॉल स्ट्रीट पर सार्वजनिक होने से पहले नई पूंजी की आवश्यकता होने पर खुद को सतर्क बाजार नेताओं के रूप में स्थापित करने के तरीके के रूप में देखा।

यह भी पढ़ें: चीन द्वारा F-35 स्टील्थ फाइटर जेट के हिस्से मिलने के बाद पेंटागन इसकी जांच कर रहा है

राष्ट्रपति डोनाल्ड ट्रम्प ने नए एआई नियमों की आवश्यकता को टाल दिया है और मानवता के लिए खतरे को चीन की मदद करने के लिए बनाया गया “धोखा” कहकर खारिज कर दिया है।

एंथ्रोपिक के प्रवक्ता ने इस कहानी के सवालों के जवाब में कहा कि कंपनी कई वर्षों से विनियमन की मांग कर रही है। ओपनएआई की प्रवक्ता लिज़ बुर्जुआ ने कहा कि कंपनी ने हाल ही में अपने सबसे उन्नत मॉडलों का प्रशिक्षण बंद कर दिया है।

यह भी पढ़ें: ट्रम्प-शी शिखर सम्मेलन के लिए मंच तैयार करते समय अमेरिका ने चीन के साथ ‘एआई संवाद’ का आह्वान किया

सुश्री बुर्जुआ ने कहा, “लोग जानना चाहते हैं कि एआई को सुरक्षित रूप से विकसित किया जा रहा है, और इसकी शुरुआत हमारी जैसी कंपनियों से होती है।”

बातचीत को अप्रमाणित खतरों की ओर स्थानांतरित करना – और डेटा केंद्रों के पर्यावरणीय प्रभावों, अनियंत्रित हैकिंग की घटनाओं, बड़े पैमाने पर एआई-संचालित निगरानी और युद्ध में एआई सिस्टम के उपयोग जैसे ध्रुवीकरण वाले मुद्दों से दूर – सिलिकॉन वैली को और अधिक आरामदायक स्थिति में रखता है, सारा शोकर ने कहा, जो पहले ओपनएआई की भू-राजनीति टीम का नेतृत्व करती थीं।

यह भी पढ़ें: बीजिंग में प्रतिबंध से पहले ड्रोन मालिक उपकरणों को उतारने में जल्दबाजी कर रहे हैं

“एक बार फिर हम अस्तित्व संबंधी जोखिम के बारे में बात कर रहे हैं, जबकि आज मौजूद कई अन्य सुरक्षा-महत्वपूर्ण जोखिमों को पार कर रहे हैं। यदि आप सैन्य प्रौद्योगिकी में एआई के उपयोग को देखते हैं, तो आप देख सकते हैं कि इन प्रणालियों का उपयोग पहले से ही लोगों को मारने के लिए किया जाता है,” कैलिफोर्निया विश्वविद्यालय, बर्कले की जोखिम और सुरक्षा प्रयोगशाला में एक वरिष्ठ गैर-निवासी साथी सुश्री शोकर ने कहा।

जैसे-जैसे एआई कंपनियां 3डी जागरूकता के साथ चैटबॉट बनाने से लेकर उन्नत एआई “विश्व मॉडल” की ओर बढ़ी हैं, इस बात पर बहस छिड़ गई है कि उनकी प्रौद्योगिकियों का परीक्षण कैसे किया जाना चाहिए।

एआई एजेंट बाहरी वेबसाइटों को हैक कर रहे हैं

समस्याग्रस्त घटनाओं से पता चला है कि अग्रणी एआई कंपनियां खुद पर निगरानी रखने या सुरक्षित प्रयोगों को डिजाइन करने में विफल रही हैं। हाल के महीनों में, प्रमुख प्रयोगशालाओं के एआई एजेंटों ने कंपनी के प्रशिक्षण सैंडबॉक्स से बचने की अनुमति मिलने के बाद बाहरी वेबसाइटों को हैक किया है, अप्रत्याशित तरीकों से अमेरिकी सरकार की वेबसाइटों के साथ बातचीत की है, और गणितज्ञों के काम को चुराने के आरोपों का सामना करने में गणितीय सफलता हासिल की है।

ओपनएआई प्रतिनिधियों ने हाल ही में संवाददाताओं से कहा कि उन्होंने विकास रोकने के बारे में एंथ्रोपिक और गूगल सहित एआई कंपनियों से बात की है। उनका यह भी तर्क है कि यदि सरकार विनियमित नहीं करेगी तो उन्हें प्रयोगशालाओं की प्रगति की जांच के लिए स्वतंत्र लेखा परीक्षकों की आवश्यकता है।

ट्रम्प ने एआई विनियमन को खारिज कर दिया

श्री ट्रम्प ने एआई को विनियमित करने में बहुत कम रुचि दिखाई है, जो हाल ही में अमेरिकी आर्थिक विकास का एक प्रमुख चालक रहा है।

रिपब्लिकन राष्ट्रपति ने स्वयं सिलिकॉन वैली फर्मों के साथ सौदे किए हैं जो अर्थव्यवस्था को उनकी सफलताओं से अधिक निकटता से जोड़ते हैं। सैन फ्रांसिस्को के उद्यम पूंजीपति डेविड सैक्स, जो विज्ञान और प्रौद्योगिकी पर ट्रम्प की सलाहकार परिषद के सह-अध्यक्ष हैं, ने “डूमोर औद्योगिक परिसर” के डर से एआई को धीमा करने के आह्वान को खारिज कर दिया है।

वास्तविकता यह है कि ट्रम्प प्रशासन पहले से ही एक अल्पज्ञात संघीय एजेंसी, यूएस सेंटर फॉर एआई स्टैंडर्ड्स एंड इनोवेशन के माध्यम से तकनीकी दिग्गजों के कुछ मॉडलों का मूल्यांकन करता है। डेमोक्रेटिक राष्ट्रपति जो बिडेन ने 2023 में एजेंसी बनाई, जब इसे परीक्षण के लिए स्वेच्छा से उन्नत एआई मॉडल प्रस्तुत करने के लिए प्रयोगशालाओं के लिए क्लियरिंगहाउस के रूप में कार्य करने के लिए कहा गया था।

एजेंसी अभी भी मौजूद है, लेकिन इस क्षेत्र का विस्तार बर्कले, कैलिफोर्निया स्थित गैर-लाभकारी एमईटीआर जैसी स्वतंत्र मूल्यांकन फर्मों की एक श्रृंखला को शामिल करने के लिए किया गया है, जिसे एंथ्रोपिक सीईओ डारियो अमोदी ने एक हालिया लेख में सुझाव दिया था कि वह उनकी कंपनी की सुरक्षा प्रथाओं की जांच करने में मदद कर सकता है।

एआई मूल्यांकनकर्ताओं के व्यापक मानकों का अभाव

लेकिन रेस्तरां, वित्तीय सेवाओं या विमानन जैसे विनियमित क्षेत्रों के विपरीत, एआई सिस्टम की सुरक्षा और सुरक्षा के परीक्षण के लिए कोई व्यापक मानक नहीं हैं, एंड्रयू स्ट्रेट ने कहा, जिन्होंने हाल ही में यूनाइटेड किंगडम के एआई सुरक्षा संस्थान को छोड़ दिया और सीएआईएसआई के साथ काम किया।

विशेष रूप से, कंपनियां ऐसे अनुरोधों को संभालने के लिए सुसज्जित सरकारी एजेंसी से अधिक निगरानी की मांग नहीं कर रही हैं, कोनराड स्टोज़ ने कहा, जो पहले सीएआईएसआई के प्रमुख थे। इसके बजाय, वे अपने स्वयं के ऑडिटिंग मानक बनाने और उन्हें ग्रेड देने के लिए विशिष्ट मूल्यांकनकर्ताओं का चयन करने की कसम खा रहे हैं।

श्री स्टोज़ अब एक मूल्यांकन प्रयोगशाला में काम करते हैं, जिसने अपने सिस्टम का परीक्षण करने के लिए एंथ्रोपिक, ओपनएआई और गूगल के साथ काम किया है, और एआई मूल्यांकनकर्ता फोरम की अध्यक्षता भी करते हैं, जो क्षेत्र के लिए सर्वोत्तम प्रथाओं का मसौदा तैयार कर रहा है। उन्होंने कहा कि फोरम में यह भी प्रश्न हैं कि श्री अमोदी और ओपनएआई के सीईओ सैम ऑल्टमैन क्या चाहते हैं।

“बहुत सारे मूल्यांकनकर्ता प्रयोगशालाओं के साथ एम्बेड करने और अधिक पहुंच प्राप्त करने में रुचि रखते हैं, लेकिन यह थोड़ा अस्पष्ट है कि एम्बेडेड मूल्यांकन का क्या मतलब है,” स्टोज़ ने कहा, जो अब ट्रांसलूस में शासन के प्रमुख हैं, जिसने पिछले सप्ताह खुलासा किया था कि ओपनएआई एजेंटों ने अमेरिका और ऑस्ट्रेलियाई सरकार की वेबसाइटों को हैक कर लिया था। “क्या मूल्यांकनकर्ता पूरी तरह से जांच करने में सक्षम होंगे, यह मानते हुए कि पहुंच इस तरह से दी गई है जिससे उनकी स्वतंत्रता और विश्वसनीयता कम न हो?”

पिचबुक के वरिष्ठ शोध विश्लेषक हैरिसन रॉल्फ्स के लिए, एआई कंपनियों की चेतावनी भरी कॉल सार्वजनिक पेशकशों और मध्यावधि से पहले निवेशकों का पक्ष लेने के लिए हैं, जब राजनीतिक हवाएं बदल सकती हैं। डेमोक्रेटिक गवर्नर पहले से ही यह दिखाने के लिए दौड़ रहे हैं कि वे चेतावनियों को गंभीरता से ले रहे हैं।

इस बीच, एआई दिग्गज निवेशकों के साथ-साथ एआई चिप निर्माताओं और एनवीडिया और गूगल जैसी तकनीकी कंपनियों के लिए खुद को सबसे सुरक्षित दांव के रूप में स्थापित करके छोटे प्रतिस्पर्धियों की वृद्धि को रोक सकते हैं, जो बदले में बड़ी एआई कंपनियों को कंप्यूटिंग शक्ति प्रदान करने वाले सौदों से लाभ उठा सकते हैं, रॉल्फ्स ने कहा।

“वे इस क्षेत्र के भीतर एक दीवार या खाई का निर्माण कर रहे हैं। …यह प्रतिभा है और वे सभी बहुत सारा पैसा कमाने जा रहे हैं,” श्री रोल्फ़ेस ने कहा। “यहीं मैं ये सुर्खियाँ देख रहा हूँ, दुनिया की शीर्ष कंपनियाँ बस अपनी दीवारें बना रही हैं, और फिर सुरक्षा को कारण के रूप में उपयोग कर रही हैं।”

सभी एआई कंपनियां मंदी का समर्थन नहीं करतीं। चिप निर्माता एनवीडिया के सीईओ जेन्सेन हुआंग ने श्री ट्रम्प के साथ फोन पर बातचीत में कहा – एक सम्मेलन में मंच पर उन्होंने एक कॉल ली – कि वह सहमत थे कि बहुत अधिक एआई अलार्मवाद था और कंपनियां खुद को गति देने का विकल्प चुन सकती हैं।

श्री कॉक्सन जैसी ही चिंताओं के कारण 2024 में ओपनएआई छोड़ने वाले डैनियल कोकोटाज्लो ने कहा कि उन्हें चिंता बनी रहती है कि एआई सिस्टम कंपनियों के नियंत्रण से कहीं अधिक तेजी से आगे बढ़ रहे हैं, और अस्तित्वगत परिदृश्यों से डरते हैं जैसे कि एआई की जैव-हथियारों के निर्माण, परमाणु युद्ध या अन्य आपदाओं को सुपरचार्ज करने की क्षमता।

श्री कोकोटाज्लो, जो अब एक एआई सुरक्षा वकालत संगठन के प्रमुख हैं, ने कहा, “यह सारी बातचीत वास्तव में उस राजनीतिक इच्छा को विकृत करने और पुनर्निर्देशित करने का एक तरीका है, न कि उस राजनीतिक इच्छा को कुछ अच्छा करने के लिए।” उन्होंने कहा कि उन्होंने इस्तीफा देने से पहले श्री कॉक्सन को सलाह दी थी। “बस कृपया ऐसा कुछ न करें जो हम सभी को मार डाले।”