टेनेसी के तीन किशोरों ने इस सप्ताह एलन मस्क के एक्सएआई पर मुकदमा दायर किया, जिसमें दावा किया गया कि कंपनी के छवि-निर्माण टूल का उपयोग उनकी मूल तस्वीरों को अत्यधिक यौन छवियों में बदलने के लिए किया गया था।

हाई स्कूल के छात्र, जो छद्म नामों के तहत आगे बढ़ने की कोशिश कर रहे हैं, ने कैलिफोर्निया में मुकदमा दायर किया, जहां xAI – मस्क की कृत्रिम बुद्धिमत्ता कंपनी – का मुख्यालय है। वे अपने जैसे हजारों पीड़ितों का प्रतिनिधित्व करने के लिए वर्ग-कार्रवाई की स्थिति की मांग कर रहे हैं, जिनके बारे में मुकदमे में कहा गया है कि वे या तो नाबालिग थे या अवयस्क थे जब उनकी स्पष्ट यौन तस्वीरें बनाई गई थीं।

मुकदमे के अनुसार, जेन डो 1 को दिसंबर में गुमनाम रूप से सतर्क किया गया था कि कोई व्यक्ति सोशल मीडिया वेबसाइट पर उसकी अश्लील तस्वीरें वितरित कर रहा था।

मुकदमे में कहा गया है, “इनमें से कम से कम पांच फाइलें, एक वीडियो और चार तस्वीरें, उसके वास्तविक चेहरे और शरीर को उन सेटिंग्स में दिखाती हैं जिनसे वह परिचित थी, लेकिन यौन रूप से स्पष्ट मुद्रा में बदल दी गई।” यह दावा करता है कि छवियों को वितरित करने वाला व्यक्ति डो को जानता था और उसने उसकी मूल तस्वीरों को यौन रूप से स्पष्ट छवियों में बदलने के लिए xAI के छवि निर्माण टूल का उपयोग किया था। छवियों में से एक घर वापसी की तस्वीर से ली गई थी। दूसरा एक हाई स्कूल वार्षिकी से लिया गया था।

तस्वीरें वितरित करने वाले व्यक्ति ने कम से कम 18 अन्य लड़कियों की भी अश्लील तस्वीरें बनाईं, जिनमें से दो मुकदमे में सह-वादी हैं। दिसंबर के अंत में स्थानीय पुलिस ने आरोपी को गिरफ्तार कर लिया और उसका फोन जब्त कर लिया। उन्होंने पाया कि उसने तस्वीरें विभिन्न प्लेटफार्मों पर अपलोड की थीं, जहां उसने उन्हें अन्य नाबालिगों की अश्लील तस्वीरों के बदले बेच दिया।

अन्य एआई कंपनियों ने अपने छवि-जनरेटर को किसी भी स्पष्ट यौन सामग्री, यहां तक ​​कि वयस्क सामग्री, का उत्पादन करने से प्रतिबंधित कर दिया है। मुकदमे में दावा किया गया है कि श्री मस्क ने इसे एक व्यावसायिक अवसर के रूप में देखा और “मसालेदार” सामग्री बनाने के लिए xAI के ग्रोक चैटबॉट की क्षमता को बढ़ावा दिया। हालाँकि, मुकदमे में दावा किया गया है कि बच्चों की छवियों को पूरी तरह से अवरुद्ध करते हुए वयस्कों की स्पष्ट छवियों के उत्पादन को रोकने का कोई तरीका नहीं है। यह भी दावा किया गया है कि एक्सएआई को पता था कि ग्रोक बच्चों की यौन रूप से स्पष्ट छवियां बनाने में सक्षम होगा, लेकिन फिर भी उन्हें रिहा कर दिया।

मुकदमे में दावा किया गया है कि वादी की छवियों को वितरित करने वाले व्यक्ति ने एक एप्लिकेशन का उपयोग किया था जिसने एक्सएआई तकनीक को लाइसेंस दिया था या “अन्यथा ग्रोक तक इसकी पहुंच खरीदी थी, और इसे कट-आउट या मध्यस्थ के रूप में उपयोग किया गया था।” XAI ने ईमेल का जवाब नहीं दिया संबंधी प्रेस टिप्पणियों का अनुरोध. लेकिन सोशल मीडिया प्लेटफॉर्म एक्स पर विवाद के बारे में 14 जनवरी की एक पोस्ट में कहा गया है: “हम एक्स को सभी के लिए एक सुरक्षित मंच बनाने के लिए प्रतिबद्ध हैं और बाल यौन शोषण, गैर-सहमति वाली नग्नता और किसी भी प्रकार की अवांछित यौन सामग्री के प्रति शून्य सहिष्णुता जारी रखेंगे।

“हमारे एक्स नियमों का उल्लंघन करने वाले खातों के खिलाफ उचित कार्रवाई करते हुए, हम बाल यौन शोषण सामग्री (सीएसएएम) और गैर-सहमति वाली नग्नता सहित उच्च प्राथमिकता वाली उल्लंघनकारी सामग्री को हटाने के लिए कार्रवाई करते हैं। हम आवश्यक होने पर कानून प्रवर्तन अधिकारियों को बाल यौन शोषण सामग्री की मांग करने वाले खातों की रिपोर्ट भी करते हैं।” इस बीच, मुकदमे में शामिल छात्रों ने कहा कि उन्हें चिंता है कि उनके द्वारा बनाई गई छवियां हमेशा इंटरनेट पर रहेंगी। वे पीछा करने से डरते हैं क्योंकि फाइलों में उनके असली नाम और उनके स्कूल का नाम जुड़ा होता है। उन्हें चिंता है कि उनके दोस्तों और सहपाठियों ने वास्तविक दिखने वाली तस्वीरें और वीडियो देखे हैं, और उन्हें चिंता है कि भविष्य में उन्हें कौन देखेगा।

जेन डो 1 ने कहा कि वह चिंता, अवसाद और तनाव से पीड़ित है। मुकदमे में कहा गया है, “उसे खाने और सोने में कठिनाई होती है और बार-बार बुरे सपने आते हैं।” जेन डो 2 ने “खुद को अलग करना शुरू कर दिया और अपने स्कूल परिसर में रहने से बचने लगी, और यहां तक ​​कि अपने स्नातक स्तर की पढ़ाई में जाने से भी डरने लगी।” मुकदमे के अनुसार, जेन डो 3 लगातार डर और चिंता से ग्रस्त है कि कोई एआई-जनरेटेड छवियों को देखेगा और उसका चेहरा पहचान लेगा।