पिछले शुक्रवार को, भारत सरकार ने मस्क के नेतृत्व वाले सोशल मीडिया प्लेटफॉर्म एक्स ने अपना जवाब आईटी मंत्रालय को सौंप दिया है, जो वर्तमान में प्रस्तुतियों की जांच कर रहा है। सूत्र बताते हैं कि जांच उपयोगकर्ताओं को महिलाओं और नाबालिगों की कामुक और अश्लील तस्वीरें बनाने से रोकने में प्लेटफ़ॉर्म की विफलता पर केंद्रित है।

व्यापक कार्रवाई रिपोर्ट प्रस्तुत करने के लिए एक्स को बुधवार शाम 5:00 बजे तक का विस्तार दिया गया था। इस विस्तार ने ग्रोक और अन्य एकीकृत एआई टूल के माध्यम से बनाई गई अश्लील और यौन रूप से स्पष्ट सामग्री के प्रसार के संबंध में एलोन मस्क के नेतृत्व वाले मंच को जारी की गई कड़ी चेतावनी का पालन किया।

सूत्रों ने बताया कि जबकि एक्स ने आधिकारिक तौर पर अपनी प्रतिक्रिया प्रस्तुत कर दी है, दस्तावेज़ अभी भी मंत्रालय के अधिकारियों द्वारा समीक्षाधीन है। एक्स के सबमिशन में उल्लिखित विशिष्ट विवरण और प्रतिबद्धताएं अभी तक सार्वजनिक नहीं की गई हैं।

विश्वव्यापी प्रतिक्रिया बढ़ रही है

एलोन मस्क के एआई चैटबॉट, ग्रोक को टूल द्वारा उत्पन्न महिलाओं और बच्चों की गैर-सहमति वाली, कामुक छवियों में वृद्धि के बाद दुनिया भर में सरकारों से गंभीर प्रतिक्रिया का सामना करना पड़ रहा है। मंगलवार को, ब्रिटेन के शीर्ष प्रौद्योगिकी अधिकारी आक्रोश में शामिल हो गए, उन्होंने एक्स से तत्काल कार्रवाई करने की मांग की, जबकि एक पोलिश सांसद ने इस विवाद को सख्त डिजिटल सुरक्षा कानून बनाने के प्राथमिक कारण के रूप में उद्धृत किया। यूरोपीय संघ की कार्यकारी शाखा ने भी ग्रोक की निंदा की है, जबकि फ्रांस, मलेशिया और ब्राजील के अधिकारियों और नियामकों ने मंच की निंदा की है और औपचारिक जांच की मांग की है।

इन अलग-अलग देशों में बढ़ती चिंता “नग्नीकरण” ऐप्स की “बुरे सपने की क्षमता” को उजागर करती है जो स्पष्ट यौन रूप से डीपफेक छवियां उत्पन्न करने के लिए कृत्रिम बुद्धिमत्ता का लाभ उठाते हैं।

छवि निर्माण की यांत्रिकी

यह विवाद पिछले साल ग्रोक इमेजिन के लॉन्च के बाद उभरा, एक एआई जनरेटर जो उपयोगकर्ताओं को टेक्स्ट प्रॉम्प्ट के माध्यम से वीडियो और चित्र बनाने की अनुमति देता है। टूल में एक तथाकथित “मसालेदार मोड” शामिल है जो वयस्क सामग्री उत्पन्न करने में सक्षम है।

पिछले महीने के अंत में यह मुद्दा तब तूल पकड़ गया जब ग्रोक ने स्पष्ट रूप से दूसरों द्वारा पोस्ट की गई छवियों को संशोधित करने के लिए बड़ी संख्या में उपयोगकर्ता अनुरोधों को स्वीकार करना शुरू कर दिया। मंगलवार तक, उपयोगकर्ता अभी भी “उसे पारदर्शी बिकनी में रखो” जैसे संकेतों का उपयोग करके महिलाओं की छवियां उत्पन्न करने में सक्षम थे।

विशेषज्ञों का सुझाव है कि समस्या दो कारणों से बढ़ी है: मस्क अपने चैटबॉट को उन प्रतिद्वंद्वियों के लिए एक “तेज़” विकल्प के रूप में बाजार में उतारते हैं जिनके पास सख्त सुरक्षा उपाय हैं, और ग्रोक की उत्पन्न छवियां सार्वजनिक रूप से दिखाई देती हैं, जिससे उन्हें फैलाना आसान हो जाता है।

चिंताजनक निष्कर्ष

गैर-लाभकारी समूह एआई फोरेंसिक ने 25 दिसंबर से 1 जनवरी के बीच ग्रोक द्वारा उत्पन्न 20,000 छवियों का विश्लेषण करने के बाद एक रिपोर्ट जारी की। उन्होंने पाया कि 2 प्रतिशत छवियों में ऐसे व्यक्तियों को दर्शाया गया है जो 18 या उससे कम उम्र के प्रतीत होते हैं। इसमें बिकनी या पारदर्शी कपड़ों में चित्रित युवा या बहुत कम उम्र की महिलाओं और लड़कियों के 30 उदाहरण शामिल थे।

भारत सरकार का अल्टीमेटम

शुक्रवार को, भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने एक्स को एक अल्टीमेटम जारी किया, जिसमें सभी “गैरकानूनी सामग्री” को हटाने और आपत्तिजनक उपयोगकर्ताओं के खिलाफ कार्रवाई की मांग की गई। मंत्रालय ने कंपनी को ग्रोक के “तकनीकी और शासन ढांचे” की समीक्षा करने और इसके सुधारात्मक उपायों पर एक रिपोर्ट प्रस्तुत करने का भी आदेश दिया।

मंत्रालय ने ग्रोक पर एआई के “घोर दुरुपयोग” का आरोप लगाया और “महिलाओं को अशोभनीय तरीके से बदनाम करने के लिए अपमानजनक या अश्लील तरीके से उनकी अश्लील तस्वीरें या वीडियो बनाने और साझा करने” की अनुमति देने के लिए इसके सुरक्षा उपायों और प्रवर्तन में गंभीर विफलताओं का हवाला दिया।

मंत्रालय ने चेतावनी दी कि 72 घंटे की समय सीमा के भीतर अनुपालन करने में विफलता के कारण कंपनी को महत्वपूर्ण कानूनी परिणाम भुगतने होंगे।

यह भी पढ़ें: क्या आपके भवन में नेटवर्क संबंधी समस्याओं का सामना करना पड़ रहा है? ट्राई ने इमारतों में इनडोर कनेक्टिविटी के लिए स्टार रेटिंग लॉन्च की