माइक्रोब्लॉगिंग प्लेटफ़ॉर्म ने यह कदम ग्रोक द्वारा उत्पन्न अश्लील डीपफेक के प्रसार पर भारी प्रतिक्रिया का सामना करने के बाद उठाया है।

एक्स ने अपने आधिकारिक सुरक्षा हैंडल पर साझा किए गए एक पोस्ट के अनुसार कहा कि प्रतिबंध भुगतान किए गए ग्राहकों सहित सभी उपयोगकर्ताओं पर लागू होता है।

ग्रोक पर छवि निर्माण सशुल्क ग्राहकों तक सीमित है

एक्स ने आगे घोषणा की कि एक्स पर ग्रोक खाते के माध्यम से छवि निर्माण और छवि-संपादन सुविधाएं अब केवल भुगतान किए गए ग्राहकों के लिए उपलब्ध हैं। प्लेटफ़ॉर्म ने कहा कि यह अतिरिक्त प्रतिबंध यह सुनिश्चित करने में मदद करके सुरक्षा की एक परत जोड़ता है कि जो व्यक्ति कानूनों या प्लेटफ़ॉर्म नीतियों का उल्लंघन करने के लिए ग्रोक का दुरुपयोग करने का प्रयास करते हैं, उन्हें जवाबदेह ठहराया जा सकता है।

“अब हम ग्रोक खाते के माध्यम से और ग्रोक में बिकनी, अंडरवियर और इसी तरह की पोशाक में वास्तविक लोगों की छवियां उत्पन्न करने के लिए सभी उपयोगकर्ताओं की क्षमता को जियोब्लॉक करते हैं।

कंपनी ने यह भी पुष्टि की कि उसने बिकनी जैसे खुले कपड़ों में वास्तविक लोगों की छवियों के संपादन को रोकने के लिए तकनीकी सुरक्षा उपाय लागू किए हैं। एक्स ने दोहराया कि यह प्रतिबंध भुगतान किए गए ग्राहकों सहित सभी उपयोगकर्ताओं पर लागू होता है।

सुरक्षा प्रोटोकॉल और सामग्री मॉडरेशन उपाय

एक्स ने जोर देकर कहा कि ये परिवर्तन उसके मौजूदा सुरक्षा प्रोटोकॉल में बदलाव नहीं करते हैं, जिसके तहत प्लेटफॉर्म पर पोस्ट किए गए सभी एआई संकेतों और एआई-जनरेटेड सामग्री को एक्स के नियमों का सख्ती से पालन करना होगा।

कंपनी ने कहा, “भले ही सामग्री बनाई गई हो या उपयोगकर्ता मुफ्त या भुगतान किए गए ग्राहक हों, हमारी सुरक्षा टीम अतिरिक्त सुरक्षा उपाय जोड़ने, उल्लंघनकारी और अवैध सामग्री को हटाने के लिए त्वरित और निर्णायक कार्रवाई करने, जहां उचित हो, खातों को स्थायी रूप से निलंबित करने और स्थानीय सरकारों और कानून प्रवर्तन के साथ सहयोग करने के लिए चौबीसों घंटे काम कर रही है।”

एक्स ने बाल यौन शोषण, गैर-सहमति वाली नग्नता और अवांछित यौन सामग्री के प्रति अपनी शून्य-सहिष्णुता नीति दोहराई।

पोस्ट में कहा गया है, “हम बाल यौन शोषण सामग्री (सीएसएएम) और गैर-सहमति वाली नग्नता सहित उच्च प्राथमिकता वाली उल्लंघनकारी सामग्री को हटाने के लिए कार्रवाई करते हैं, हमारे एक्स नियमों का उल्लंघन करने वाले खातों के खिलाफ उचित कार्रवाई करते हैं।”

मंच ने कहा कि यह आवश्यकता पड़ने पर कानून प्रवर्तन अधिकारियों को बाल यौन शोषण सामग्री मांगने वाले खातों की भी रिपोर्ट करता है।

आईटी मंत्रालय का हस्तक्षेप और भारतीय कानूनों का अनुपालन

भारत के आईटी मंत्रालय द्वारा एलन मस्क समर्थित एआई चैटबॉट ग्रोक से जुड़ी अश्लील सामग्री पर चिंता जताए जाने के बाद एक्स ने हाल ही में अपनी गलती स्वीकार की और लगभग 3,500 सामग्री को हटा दिया और 600 से अधिक खातों को हटा दिया। एक्स ने अधिकारियों को आश्वासन दिया था कि वह भारतीय कानूनों का पालन करेगा।

भारत सहित दुनिया भर की सरकारों की ओर से ग्रोक पर दबाव बढ़ रहा है, क्योंकि नियामकों ने सामग्री मॉडरेशन, डेटा सुरक्षा और गैर-सहमति वाली यौन स्पष्ट छवियों पर जेनेरिक एआई इंजन की जांच तेज कर दी है, जो हाल के दिनों में एक्स में बाढ़ आ गई है।

2 जनवरी को, आईटी मंत्रालय ने एक्स को ग्रोक द्वारा उत्पन्न सभी अश्लील, अश्लील और गैरकानूनी सामग्री को तुरंत हटाने या कानून के तहत कार्रवाई का सामना करने का निर्देश दिया।

सरकार विस्तृत कार्रवाई रिपोर्ट मांगती है

अपने निर्देश में, मंत्रालय ने एक्स को एक विस्तृत कार्रवाई रिपोर्ट (एटीआर) प्रस्तुत करने के लिए कहा:

• ग्रोक के लिए अपनाए गए या प्रस्तावित विशिष्ट तकनीकी और संगठनात्मक उपाय
• मुख्य अनुपालन अधिकारी की भूमिका और निरीक्षण
• आपत्तिजनक सामग्री, उपयोगकर्ताओं और खातों के विरुद्ध की गई कार्रवाई
• भारतीय कानूनों के तहत अनिवार्य रिपोर्टिंग आवश्यकताओं का अनुपालन सुनिश्चित करने के लिए तंत्र

मंत्रालय ने नोट किया कि एक्स द्वारा विकसित और प्लेटफॉर्म में एकीकृत ग्रोक एआई का दुरुपयोग फर्जी अकाउंट बनाने और अपमानजनक तरीके से महिलाओं की अश्लील छवियों या वीडियो को साझा करने के लिए किया जा रहा था।

मंत्रालय ने कहा, “महत्वपूर्ण बात यह है कि यह केवल नकली खातों के निर्माण तक ही सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जाता है जो संकेतों, छवि हेरफेर और सिंथेटिक आउटपुट के माध्यम से अपनी छवियों या वीडियो को होस्ट या प्रकाशित करती हैं।”

इसमें दावा किया गया कि इस तरह का आचरण मंच-स्तरीय सुरक्षा उपायों और प्रवर्तन तंत्र की गंभीर विफलता को दर्शाता है, जो कानून के उल्लंघन में एआई प्रौद्योगिकियों के घोर दुरुपयोग के बराबर है।

सुरक्षित बंदरगाह सुरक्षा के नुकसान पर चेतावनी

सरकार ने यह स्पष्ट कर दिया कि आईटी अधिनियम और इसके नियमों का अनुपालन अनिवार्य है, और आईटी अधिनियम की धारा 79 के तहत छूट, जो ऑनलाइन मध्यस्थों को सुरक्षित आश्रय प्रदान करती है, सख्त उचित परिश्रम पर सशर्त हैं।

एक्स को चेतावनी दी गई थी कि इन दायित्वों का पालन करने में विफलता के परिणामस्वरूप आईटी अधिनियम और भारतीय न्याय संहिता सहित अन्य कानूनों के तहत संभावित कार्रवाई के साथ-साथ दायित्व से प्रतिरक्षा का नुकसान होगा।

प्लेटफ़ॉर्म को उपयोगकर्ता की सेवा की शर्तों और एआई उपयोग प्रतिबंधों को लागू करने का भी निर्देश दिया गया था, जिसमें उल्लंघन करने वाले खातों के निलंबन और समाप्ति जैसी निवारक कार्रवाइयां शामिल थीं। एक्स को सबूतों को संरक्षित करते हुए आईटी नियम, 2021 के तहत निर्धारित समयसीमा के अनुरूप “बिना किसी देरी के” सभी गैरकानूनी सामग्री तक पहुंच को हटाने या अक्षम करने के लिए कहा गया था।

प्रारंभिक प्रतिक्रिया अपर्याप्त मानी गई

हालांकि

प्रतिक्रिया उम्मीदों से कम रही, जिससे सरकार को अपना रुख सख्त करना पड़ा और अतिरिक्त विवरण की मांग करनी पड़ी। सूत्रों ने कहा कि एक्स ने बाद में अपनी गलती स्वीकार की और सरकार को सूचित किया कि वह भारतीय कानूनों और नियमों का पालन करेगी।

ग्रोक डीपफेक मुद्दे पर एक्स पर वैश्विक दबाव बढ़ गया है

भारत के अलावा, यूके और यूरोपीय संघ ने भी ग्रोक डीपफेक इमेज मुद्दे पर एक्स पर दबाव बढ़ाया है, क्योंकि वैश्विक नियामक जेनरेटिव एआई प्लेटफार्मों की जांच बढ़ा रहे हैं।

यह भी पढ़ें: क्या Apple दुनिया के तकनीकी दूरदर्शी के रूप में अपनी स्थिति खो रहा है?