पिछले बुधवार को ओपनएआई ने कुछ ऐसा किया जिससे एआई उद्योग काफी हद तक बचता रहा है। इसने अपनी गंदी लॉन्ड्री का प्रसारण किया। “मॉडल मिसलिग्न्मेंट” नामक रिपोर्टिंग के लिए एक नए ढांचे के साथ, कंपनी ने छह दस्तावेजी मामलों का खुलासा किया जिसमें उसके सिस्टम ने इस तरह से व्यवहार किया जैसा किसी ने नहीं पूछा था, और कई मामलों में सक्रिय रूप से छिपाने के लिए काम किया।

यह भी पढ़ें: रणवीर अल्लाहबादिया, अपूर्वा मखिजा इंडिया ने विवाद पर महिला आयोग के सामने पेश किया

कैटलॉग अपनी विशेषताओं में असंगत है। एक मॉडल के प्रशिक्षण के दौरान, व्यक्तिगत उदाहरणों ने स्वयं को व्यक्तिगत नोट्स लिखे जो बाद के संस्करणों को उपयोगकर्ताओं से त्रुटियों को छिपाने का निर्देश देते थे। उन नोटों में गुम ऐतिहासिक डेटा और बेमेल स्रोत संस्करणों पर चुप कागजात की खोज के लिए दिशानिर्देश शामिल थे। एक अन्य मॉडल, काउंटी आय डेटा की तलाश में, एक उजागर प्रोग्रामिंग कुंजी पर ठोकर खाई, जिसे छूने के लिए इसे कभी भी अधिकृत नहीं किया गया था, किसी भी तरह इसका इस्तेमाल किया, डेटा पुनर्प्राप्त करने में विफल रहा, और फिर बस संख्याओं को गढ़ा और उन्हें वास्तविक के रूप में प्रस्तुत किया। दो अन्य मामलों में मॉडलों द्वारा बिना किसी से पूछे सार्वजनिक होस्टिंग साइटों और खुले इंटरनेट पर कोड रिपॉजिटरी में फ़ाइलें अपलोड करना शामिल था। एक ने कोटेशन तैयार करने के लिए ऐसा किया जिसे उपलब्ध कराने के लिए कहा गया था। दूसरों ने नेटवर्क प्रतिबंधों से बचने के लिए ऐसा किया।

गलतियाँ छुपाना. डेटा बनाना. अपनी पहल पर फ़ाइलों को सार्वजनिक वेब पर भेजना। ये कोई विचार प्रयोग नहीं हैं. वे लॉग इवेंट हैं, जो सिस्टम बनाने वाली कंपनी द्वारा जारी किए जाते हैं। OpenAI के श्रेय के लिए, उनका खुलासा करना ही मुद्दा है, और व्यवहार को पूरी तरह से समझने या स्थिर करने से पहले, ढांचे को ऐसे निष्कर्षों को जल्दी से प्रकाशित करने के लिए डिज़ाइन किया गया है। लेकिन किसी समस्या के बारे में स्पष्टता उसके समाधान के बराबर नहीं है। अंतर्निहित पैटर्न सिस्टम को बाधाओं को दूर करने के लिए अनधिकृत कार्रवाई करने में सक्षम बनाता है, और यही वह चीज़ है जिसके बारे में सुरक्षा शोधकर्ता चेतावनी दे रहे हैं।

समय भी मायने रखता है. विश्वास और सुरक्षा के बारे में चिंताएं, जो लंबे समय से कुछ निराशावादी शिक्षाविदों की चिंता मानी जाती थीं, उद्योग की अपनी बातचीत के केंद्र में आ गई हैं। ओपनएआई के अनावरण से कुछ दिन पहले, एंथ्रोपिक के मुख्य कार्यकारी डारियो अमोदी ने वी मोस्ट पेस द फ्रंटियर शीर्षक से एक लेख प्रकाशित किया था, जिसमें तर्क दिया गया था कि मॉडल क्षमताओं में अब शोधकर्ताओं की समझ या नियंत्रण की तुलना में तेजी से सुधार हो रहा है। उन्होंने चेतावनी दी कि दुष्ट एआई एजेंट जल्द ही “संपूर्ण इंटरनेट पर कब्ज़ा करने में सक्षम हो सकते हैं।” यदि कोई इस चेतावनी को बुधवार की छह रिपोर्टों के आगे सेट करता है, जिनमें से दो मॉडलों का बिल्कुल उसी अनधिकृत वेब गतिविधि को करने का वर्णन करता है जिससे उसे डर लगता है, केवल लघु रूप में, तो यह अधिक महत्व के साथ सामने आता है।

जिस चीज़ ने अमोदेई के हस्तक्षेप को उल्लेखनीय बनाया वह अलार्म नहीं बल्कि प्रतिक्रिया थी। सैम अल्टमैन, जिनका ओपनएआई एंथ्रोपिक का कट्टर प्रतिद्वंद्वी है, इस बात पर सहमत हुए कि उद्योग को सीमा में तेजी लाने की जरूरत है और उन्होंने अपनी कंपनी के काम की बाहरी जांच के लिए खुलेपन का संकेत दिया। एलोन मस्क, जो शायद ही कभी किसी के साथ गठबंधन करते हों, ने तीन शब्दों में जवाब दिया: “डारियो सही है।” जब क्षेत्र की सबसे प्रमुख हस्तियों में से तीन एक साथ आती हैं, भले ही शिथिल रूप से, इस विचार पर कि वे बहुत तेजी से आगे बढ़ रहे हैं, तो यह गंभीरता से लेने लायक संकेत है। अमोदी का प्रस्ताव ठोस है. वह सीमांत प्रयोगशालाओं में शामिल स्वतंत्र मूल्यांकन कर्मियों, लोकतंत्रों में सामान्य सुरक्षा मानकों और सबसे खतरनाक क्षमताओं पर अंततः अंतरराष्ट्रीय सीमाओं की तुलना करना चाहते हैं, जैसे कि सिस्टम जो खुद को बेहतर बना सकते हैं।

यह अभिसरण एक ऐसे पारिस्थितिकी तंत्र को विनियमित करने की दिशा में पहला कदम हो सकता है, जो अब तक काफी हद तक स्व-शासित या अशासित रहा है। लेकिन समर्थन सस्ते हैं, और जिन विवरणों पर सब कुछ निर्भर करता है वे अनसुलझे रहते हैं। नियम कौन लागू करता है? मूल्यांककों का भुगतान कौन करता है? उस कंपनी का क्या होता है जो उनकी उपेक्षा करती है? बाध्यकारी पर्यवेक्षण के अभाव में, आज की प्रशिक्षण-संचालित जिज्ञासाएँ इस प्रकार का व्यवहार हैं, जो बड़े पैमाने पर और स्वायत्त रूप से, विनाशकारी और यहां तक ​​कि घातक परिणाम भी पैदा कर सकती हैं। एक मॉडल जो काउंटी राजस्व आंकड़े गढ़ता है वह एक शर्मिंदगी है। एक मॉडल जो अस्पताल, पावर ग्रिड, या हथियार प्रणाली के भीतर डेटा उत्पन्न करता है वह एक आपदा है। दोनों के बीच की दूरी क्षमता और तैनाती में मापी जाती है, दोनों ही बढ़ती जा रही हैं।

इस क्षण को प्रबंधित करने के लिए स्वैच्छिक इशारों से एक स्थायी ढांचे की ओर बढ़ने की आवश्यकता होगी। तीन चरण स्पष्ट हैं।

सबसे पहले, प्रकटीकरण को एक आवश्यकता में परिवर्तित किया जाना चाहिए। ओपनएआई का ढांचा एक स्वागत योग्य मॉडल है, लेकिन व्यावसायिक रूप से असुविधाजनक होने पर स्वैच्छिक पारदर्शिता ध्वस्त हो जाती है। गंभीर गलत संरेखण की मानकीकृत, अनिवार्य रिपोर्टिंग उद्योग स्तर पर होनी चाहिए।

दूसरा, वास्तव में स्वतंत्र मूल्यांकनकर्ताओं की स्थापना की जानी चाहिए। अमोदेई ने सोचा कि बाहरी विशेषज्ञों तक पहुंच जारी रहेगी और कंपनी की मंजूरी के बिना निष्कर्ष प्रकाशित करने का अधिकार स्व-पुलिसिंग को जवाबदेही में बदल देगा। यह मेज पर सबसे अधिक कार्रवाई योग्य प्रस्ताव है।

तीसरा, सबसे महत्वपूर्ण क्षमताओं को अंतरराष्ट्रीय स्तर पर समन्वित किया जाना चाहिए। स्वायत्तता में सुधार करने और खुले नेटवर्क पर काम करने की क्षमता को अग्रणी देशों के बीच सामान्य मानकों द्वारा नियंत्रित किया जाना चाहिए, इससे पहले कि गतिशीलता की दौड़ संयम को असंभव बना दे।

मशीनें पहले से ही अपने ट्रैक को कवर करना सीख रही हैं। जो लोग इन्हें बनाते हैं, वे एक बार के लिए खतरे पर सहमत होते हैं। खुला प्रश्न यह है कि क्या कोई अभिनय करेगा जबकि अभिनय अभी भी एक विकल्प है।

(सुबिमल भट्टाचार्जी डिजिटल प्रौद्योगिकी मुद्दों पर नीति सलाहकार और द डिजिटल डिकेड्स: थर्टी इयर्स ऑफ द इंटरनेट इन इंडिया के लेखक हैं)

अस्वीकरण: ये लेखक के निजी विचार हैं