‘वाइब्स’ फीचर लॉन्च करने के लगभग छह महीने बाद, जो उपयोगकर्ताओं को एआई-जनरेटेड वीडियो फ़ीड बनाने और खोजने की अनुमति देता है, मेटा एआई ऐप बच्चों के एआई-जनरेटेड यौन वीडियो क्लिप और सेलिब्रिटी डीपफेक का एक भंडार बनना शुरू कर रहा है।

वयस्क महिलाओं के शरीर पर रूपांतरित बच्चों के एआई-जनित वीडियो, वास्तविक बच्चे अनुचित फिल्मी गाने गाते हुए और वयस्क संवाद बोलते हुए, और मशहूर हस्तियों से मिलती-जुलती नग्न महिलाएं मंच पर तैरती रहती हैं।

कुछ उपयोगकर्ताओं ने, वीडियो कैप्शन में, उन संकेतों को साझा किया जो संभवतः उन्होंने चित्र बनाने के लिए दर्ज किए थे। उन्होंने खुलासा किया कि कई उपयोगकर्ताओं ने अश्लील सेलिब्रिटी डीपफेक सामग्री बनाने का प्रयास किया। वास्तविक जीवन के डेटा वाली ऐसी सामग्री का निर्माण और वितरण भारत के आईटी मानदंडों का उल्लंघन है।

कुछ वीडियो कैप्शन में बॉलीवुड या पूरे भारत के अभिनेताओं और पुरुषों दोनों के नाम शामिल हैं, जबकि अन्य में कामुक एआई संस्करण शामिल हैं जो कुछ हद तक वास्तविक जीवन की महिलाओं से मिलते जुलते हैं। वीडियो में महिला कलाकारों को पुरुषों द्वारा चूमते, गले लगाते और निर्वस्त्र करते हुए एआई संस्करण दिखाया गया।

एआई-जनरेटेड वीडियो में से एक में एक आदमी को महात्मा गांधी की तरह एक महिला के स्तन दबाते हुए दिखाया गया है। नस्लवादी टिप्पणी के साथ शीर्षक वाले एक अन्य में एक जोड़े को एक-दूसरे को अनुचित तरीके से छूते हुए दिखाया गया।

पढ़ें | कैसे ग्रोक ने गहरे नकली “नग्नीकरण” को मुख्यधारा में धकेल दिया

कुछ उपयोगकर्ताओं के एआई प्रॉम्प्ट/कैप्शन में लड़कियों को 18 वर्ष या उससे अधिक उम्र की बताया गया है, लेकिन उन्होंने बाल संरक्षण गार्डों को दरकिनार करते हुए, स्पष्ट दृश्यों में वर्दी में स्कूली लड़कियों के वीडियो बनाने के लिए छात्र वर्दी पहनी हुई है।

अन्य संकेतों से पता चला कि उपयोगकर्ता “पारदर्शी छोटी कुर्ती” और “पारदर्शी लाल नीली मिनीस्कर्ट” और “तंग गीली साड़ी” और “ब्लाउज जो उसके मिड्रिफ को उजागर करता है” और “कैमरा फोकस” जैसे वाक्यांश डालकर महिलाओं की आंशिक या पूरी तरह से नग्न छवियां बनाने की कोशिश कर रहा था। इन शीर्षकों का अक्सर दूसरों द्वारा पुन: उपयोग किया जाता था।

पढ़ें |आईटी मंत्रालय ने एआई-तैयार सामग्रियों के लिए लेबल अनिवार्य कर दिया, जिससे टेकडाउन की समयसीमा 2-3 घंटे तक कम हो गई

ऐसे ही एक वीडियो में एक “लड़की” को “स्कूल पोशाक” में और “रोमांटिक मूड” में, अंडरवियर में पोज़ देने के लिए अपनी शर्ट उतारते हुए दिखाया गया है। कुछ एआई वीडियो में, छोटे बच्चों या किशोरों के चेहरे कम गर्दन वाले कपड़े पहनने वाली वयस्क महिलाओं के शरीर पर रूपांतरित किए जाते हैं।

कई वीडियो स्पष्ट रूप से विकृत या संकेत से भटके हुए थे, जिससे उन्हें नकली के रूप में पहचानना आसान हो गया। कई वीडियो में अतिरिक्त अंग और उंगलियां और सिर भी एक सामान्य बिंदु थे, क्योंकि ऐप के माध्यम से संकेतों का पुन: उपयोग और रीमिक्स किया गया था।

मेटा एआई के वाइब्स इंस्टाग्राम रील्स या टिकटॉक वीडियो के समान हैं, केवल एआई के साथ पूर्ण या आंशिक रूप से बनाए जाने के अपवाद के साथ। उपयोगकर्ता पृष्ठभूमि ध्वनियाँ भी जोड़ सकते हैं, जैसे पृष्ठभूमि संगीत या लिप-सिंक संवाद, साथ ही टेक्स्ट कैप्शन।

मेटा ने सितंबर 2025 में वाइब्स पेश कियाइसे “मेटा एआई के मीडिया टूल के साथ रचनात्मक प्रेरणा ढूंढना और प्रयोग करना आसान बनाने के लिए डिज़ाइन किया गया है।”

एआई वीडियो बनाने के अलावा, मेटा एआई ऐप उपयोगकर्ताओं को अपने एआई ग्लास को प्रबंधित करने की अनुमति देता है, जबकि मेटा एआई सहायक सवालों के जवाब देता है और मल्टी-मीडिया सामग्री बनाने में मदद करता है।

स्वीडिश आउटलेट स्वेन्स्का डागब्लाडेट (एसवीडी) और गोटेबोर्ग्स-पोस्टेन (जीपी) की हालिया जांच में आरोप लगाया गया कि ग्राहकों के मेटा एआई ग्लास द्वारा रिकोड किए गए अत्यधिक संवेदनशील और निजी फुटेज केन्या में मेटा के उप-अनुबंधित कर्मचारियों को दिखाई दिए। जांच के अनुसार, इसमें यौन मुठभेड़ों, अश्लील साहित्य, बैंक जानकारी और शौचालय यात्राओं के फुटेज शामिल थे।

यूके के एक नियामक ने अधिक जानकारी के लिए सोशल मीडिया दिग्गज से संपर्क किया है।

प्रकाशित – 12 मार्च, 2026 12:49 अपराह्न IST