रिपोर्टों से पता चला कि इसके एआई टूल्स ने फेसबुक, इंस्टाग्राम पर सेलिब्रिटी-मिमिकिंग चैटबॉट्स के निर्माण की अनुमति दी, और व्हाट्सएप ने मशहूर हस्तियों की सहमति से भारी आलोचना की है। जांच में पाया गया कि ये बॉट्स चुलबुली, विचारोत्तेजक, और यहां तक ​​कि अनुचित बातचीत में संलग्न हैं, जो कंपनी द्वारा गोपनीयता, एआई के दुरुपयोग और कमजोर नीति प्रवर्तन के बारे में गंभीर चिंताएं बढ़ाते हैं।

बिना अनुमति के निर्मित सेलिब्रिटी चैटबॉट्स

,रॉयटर्स की एक जांच के अनुसार, कई एआई-संचालित चैटबॉट्स प्रसिद्ध सेलिब्रिटीज जैसे कि टेलर स्विफ्ट, स्कारलेट जोहानसन, ऐनी हैथवे, और सलेना गोमेज़, उनकी मंजूरी के बिना। चौंकाने वाली बात यह है कि इनमें से कुछ चैटबॉट्स को उपयोगकर्ताओं को फ्लर्टी या विचारोत्तेजक संदेश भेजने की खोज की गई थी। कुछ मामलों में, उन्होंने एआई का उपयोग करके खुद की यथार्थवादी छवियां भी उत्पन्न कीं।

अंडररेज सेलिब्रिटी चैटबॉट गंभीर चिंताएं उठाते हैं

रिपोर्ट में यह भी पाया गया कि पर्सी जैक्सन के स्टार 16 पुराने वॉकर स्कोबेल सहित, अनजाने हस्तियों की समानता में चैटबॉट्स बनाए जा रहे थे। इस तरह के एक चैटबॉट ने समुद्र तट पर अभिनेता की एक शर्टलेस छवि उत्पन्न की। गैजेट्स 360 स्टाफ ने स्कोबेल के चैटबॉट का परीक्षण किया और खुलासा किया कि इसने ऐसे अनियंत्रित एआई टूल के खतरों को उजागर करते हुए, फ्लर्टी मैसेज को अप्रकाशित भेजना शुरू कर दिया।

उपयोगकर्ता-निर्मित और कर्मचारी-निर्मित चैटबॉट्स

जबकि इनमें से कई चैटबॉट्स कथित तौर पर प्लेटफ़ॉर्म उपयोगकर्ताओं द्वारा बनाए गए थे, रिपोर्ट में पाया गया कि कम से कम तीन बॉट्स, दो टेलर स्विफ्ट पैरोडी खाते शामिल हैं, एए मेटा एम्प्लॉइ द्वारा मेदे थे। भारत में भी, गैजेट्स 360 ने भारतीय हस्तियों के चैटबॉट्स की खोज की, कुछ को पैरोडी के रूप में चिह्नित किया गया, जबकि अन्य ने कुछ बॉट्स को छवियों से परहेज किया, जबकि अन्य, जैसे कि कार्डी बी, ने जल्दी से एआई डीपफेक छवियों को बनाया।

मेटा की प्रतिक्रिया और नीति विफलता

एक मेटा स्पोक्सप्सन ने स्वीकार किया कि इसके एआई उपकरण को मशहूर हस्तियों की अंतरंग छवियां नहीं बनानी चाहिए और सार्वजनिक आंकड़ों के लिए निषेध दृश्य पूरा करना चाहिए। कंपनी ने इन घटनाओं को लागू करने में विफलताओं के लिए जिम्मेदार ठहराया, हालांकि, मेटा वर्तमान में “पैरोडी” खातों की अनुमति देता है, सोचा कि जांच में किसी भी पैरोडी लेबल के बिना कई बॉट्स मिले।

मशहूर हस्तियां कानूनी कार्रवाई पर विचार करती हैं

स्थिति ने प्रभावित सितारों के बीच नाराजगी जताई है। ऐनी हैथवे, अंतरंग छवियों के साथ हस्तियों में से एक कथित रूप से इन उपकरणों द्वारा उत्पन्न किया गया था, कथित तौर पर उसकी कानूनी और सार्वजनिक प्रतिक्रिया पर विचार कर रहा है। विवाद एआई के दुरुपयोग के बढ़ते जोखिमों को रेखांकित करता है, विशेष रूप से डीपफेक, प्रतिरूपण और नाबालिगों से जुड़े मामलों में।