भारत सरकार ने सोशल मीडिया पर साझा की गई AI-जनित सामग्री के खिलाफ कार्रवाई की है। हालिया विकास में, सरकार ने एक नया नियम पारित किया है जहां सोशल मीडिया प्लेटफार्मों को एआई द्वारा बनाई या बदली गई किसी भी सामग्री को स्पष्ट रूप से चिह्नित करने की आवश्यकता है। यह सिर्फ एआई लेबल पर टैगिंग के बारे में नहीं है, बल्कि हर सोशल मीडिया प्लेटफॉर्म को दृश्यमान टैग और मेटाडेटा जोड़ना होगा ताकि कोई भी एआई-जनरेटेड सामग्री को एक नज़र में देख सके। यह डिजिटल कानूनों के एक बड़े अपडेट के हिस्से के रूप में आता है, और इसका उद्देश्य लोगों को नकली और वास्तविक सामग्री – चित्र, वीडियो, वॉयस नोट्स – के बीच अंतर करने में मदद करना है क्योंकि अंतर निश्चित रूप से अपराजेय है। साथ ही, प्लेटफॉर्म को आपत्तिजनक पोस्ट को चिह्नित किए जाने के 3 घंटे के भीतर हटाना होगा।

पीटीआई ने बताया कि इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (एमईआईटीवाई) ने सूचना प्रौद्योगिकी नियम, 2021 के लिए इन नए मसौदा संशोधनों को एक साथ रखा है। नियम केवल लेबल को लक्षित नहीं करते हैं, बल्कि वे प्लेटफार्मों को स्वचालित टूल का उपयोग करने के लिए प्रेरित करते हैं जो अवैध, यौन शोषणकारी या भ्रामक एआई सामग्री को वायरल होने या जनता में फैलने से पहले पकड़ते हैं और ब्लॉक करते हैं।

AI-जनित सामग्री के लिए नए सरकारी नियम के बारे में

• किसी भी एआई-जनित सामग्री के लिए एक स्पष्ट लेबल की आवश्यकता होगी या इसमें कृत्रिम दिखाने वाला एम्बेडेड मेटाडेटा होना चाहिए।
• सोशल मीडिया प्लेटफ़ॉर्म इन टैगों को छिपाने या हटाने नहीं दे सकते – आईडी को चिपकना होगा।
• दृश्यों के लिए, लेबल को छवि का कम से कम 10 प्रतिशत कवर करना चाहिए, और ऑडियो या वीडियो के लिए, इसे क्लिप के पहले 10 प्रतिशत के दौरान दिखाना होगा।
• इस तरह, लोगों को यह अनुमान लगाने की ज़रूरत नहीं होगी कि कोई चीज़ वास्तविक है या नहीं।
• किसी भी आपत्तिजनक पोस्ट को चिह्नित किए जाने पर उसे 3 घंटे के भीतर हटाना होगा।

आगे सुरक्षा अद्यतन

• सोशल मीडिया प्लेटफ़ॉर्म को उपयोगकर्ताओं से यह पूछने की ज़रूरत है कि क्या वे जो अपलोड कर रहे हैं वह प्रामाणिक है या एआई-जनरेटेड है। उसके बाद ही, वे वास्तव में अपने स्वयं के सत्यापन टूल से उन दावों की जाँच करेंगे।
• स्वचालित सिस्टम को प्लेटफ़ॉर्म से दूर रखने के लिए अवैध या भ्रामक AI सामग्री को स्कैन करना होगा।
• और हर तीन महीने में, उपयोगकर्ताओं को इन एआई नियमों को तोड़ने के लिए दंड के बारे में एक अनुस्मारक मिलेगा, बस बात को स्पष्ट करने के लिए।

यह दुनिया में एक बड़ा अपग्रेड है, जो सामग्री द्वारा संचालित है और इसे फेसबुक, इंस्टाग्राम, यूट्यूब और जैसे विभिन्न सामाजिक प्लेटफार्मों पर साझा कर रहा है।

लोगों को एआई के बारे में पारदर्शी होने के लिए प्रोत्साहित करने से पहले, अब कानून सुरक्षा की जिम्मेदारी ले रहा है; अब कोई स्वैच्छिक प्रकटीकरण नहीं, केवल अनिवार्य पारदर्शिता।

प्रतिष्ठा को नुकसान पहुंचाने वाली हाई-प्रोफाइल डीपफेक घटनाएं सामने आईं

यह सरकारी आदेश कई हाई-प्रोफाइल डीपफेक घटनाओं (वीडियो और ऑडियो जो वास्तविक दिखते हैं लेकिन हैं नहीं) के ऑनलाइन सामने आने के बाद आया है, जिनका उपयोग गुमराह करने या प्रतिष्ठा को नुकसान पहुंचाने के लिए किया जाता है। अगले साल बिहार में चुनाव होने के साथ, चुनाव आयोग ने राजनीतिक दलों से कहा कि वे किसी भी एआई-निर्मित अभियान सामग्री को लेबल करें। अधिकारियों को चिंता है कि फर्जी मीडिया लोकतांत्रिक प्रक्रिया में गड़बड़ी कर सकता है। सरकार भी इस बारे में शर्मिंदा नहीं है; उन्होंने जैसे प्लेटफ़ॉर्म का भी ऑर्डर दिया है

पीटीआई द्वारा रिपोर्ट की गई