“क्या नेतन्याहू असली हैं या एआई?” एक इंटरनेट हेडलाइन ने धुंधला होने की ओर इशारा किया, ऐसा माना जा रहा है कि एक वीडियो में इजरायली प्रधान मंत्री को छह उंगलियों के साथ दिखाया गया है।

लेकिन क्लिप असली थी.

अनुसरण करें | ईरान-इज़राइल युद्ध लाइव अपडेट

अटकलें ऑनलाइन घूम गईं कि नेतन्याहू ईरानी हमले में मारे गए या घायल हो गए हैं और इज़राइल इसे एआई-जनित डबल के साथ कवर कर रहा है।

एक्स पर एक पोस्ट में कहा गया, “पिछली बार जब मैंने जांच की थी, तो इंसानों के पास आम तौर पर 6 उंगलियां नहीं होतीं… एआई के पास होती हैं,” लगभग पांच मिलियन बार देखा गया। “क्या नेतन्याहू अब नहीं रहे?”

डिजिटल फोरेंसिक शोधकर्ताओं ने तुरंत “अतिरिक्त” उंगली की व्याख्या की: प्रकाश की एक धार जिसने उसकी हथेली के हिस्से को एक अतिरिक्त अंक जैसा बना दिया।

लेकिन वह संदेश ज़्यादातर ऑनलाइन हंगामे में दब गया। यह भी मायने रखता है कि उन्नत एआई विज़ुअल जेनरेटर, जो अब सेकंड के भीतर बेहद वास्तविक दिखने वाले डीप फेक को तैयार करने में सक्षम हैं, ने अतिरिक्त उंगलियों की एक बार घोषित त्रुटि को काफी हद तक समाप्त कर दिया है।

तो जब पश्चिम एशिया युद्ध के कोहरे में वास्तविकता और कल्पना के बीच की रेखा इतनी धुंधली हो गई है तो आप कैसे साबित करेंगे कि वास्तविक क्या है?

कुछ दिनों बाद, नेतन्याहू ने एक और वीडियो पोस्ट किया: एक कॉफ़ी शॉप से ​​जीवन का सबूत देने वाली क्लिप।

उन्होंने दोनों हाथ ऊपर उठाये मानो संशयवादियों को अपनी उंगलियाँ गिनने की चुनौती दे रहे हों।

लेकिन अटकलों को रोकने के बजाय, वीडियो ने अप्रमाणित सिद्धांतों की एक नई लहर को बढ़ावा दिया।

एक वायरल थ्रेड पोस्ट में कहा गया, “अधिक एआई,” यह सवाल करते हुए कि एक बड़े घूंट के बाद भी उसका कप भरा हुआ क्यों रहा।

नेतन्याहू द्वारा इज़राइल में अमेरिकी राजदूत माइक हुकाबी के साथ तीसरा वीडियो पोस्ट करने के बाद भी संदेह व्याप्त हो गया।

कुछ ऑनलाइन शोधकर्ताओं ने नेतन्याहू के कानों को ज़ूम इन करके दावा किया है कि उनका आकार और साइज़ पुरानी तस्वीरों से मेल नहीं खाता है।

संघर्ष शुरू होने के बाद से एएफपी के वैश्विक नेटवर्क ने कई भाषाओं में 500 से अधिक गलत बयान दिए हैं, ऐसी दर इस तरह के संकट में पहले कभी नहीं देखी गई। उनमें से एक चौथाई से पाँचवें के बीच AI का उपयोग किया गया।

यूक्रेन पर रूसी आक्रमण, इज़राइल-गाजा युद्ध और भारत और पाकिस्तान के बीच संघर्ष ने एआई-जनित सामग्री की लहरें शुरू कर दीं।

शोधकर्ताओं का कहना है कि जो चीज पश्चिम एशिया युद्ध को अलग करती है, वह उन्नत उपकरणों द्वारा उत्पादित एआई छवियों की विशाल मात्रा और यथार्थवाद है जो सस्ते हैं और हेरफेर के कई शुरुआती संकेतों को खत्म करने में सक्षम हैं।

टेक प्लेटफ़ॉर्म अब उस चीज़ से संतृप्त हो गए हैं जिसे व्यापक रूप से “एआई ढलान” कहा जाता है।

परिणाम आत्मविश्वास का एक गहरा संकट है क्योंकि अतियथार्थवादी एआई निर्माण ध्यान आकर्षित करने के लिए प्रतिस्पर्धा करते हैं, और अक्सर प्रामाणिक छवियों और वीडियो से दब जाते हैं।

यूके में ससेक्स विश्वविद्यालय में एआई शोध समूह का नेतृत्व करने वाले थॉमस नॉटनी ने एएफपी को बताया, “मुझे लगता है कि इस बिंदु पर हम सभी को सुनने के समान स्तर पर फोटो, वीडियो और ऑडियो का उपयोग करना चाहिए।”

आयरलैंड में मेनुथ विश्वविद्यालय के प्रोफेसर कॉन्स्टेंस डी सेंट लॉरेंट के लिए, मुद्दा “इतना नहीं है कि लोग” गलत सूचना पर विश्वास करें, बल्कि यह है कि “वे वास्तविक समाचार देखते हैं और वे इस पर भरोसा नहीं करते हैं।”

जालसाजी की मात्रा ने पेशेवर तथ्य-जाँचकर्ताओं की सत्यापन क्षमताओं को बहुत पीछे छोड़ दिया है।

काम अक्सर एक तिल का खेल जैसा लगता है। खारिज किए गए दावे नियमित रूप से प्लेटफ़ॉर्म पर नकली सूचनाओं की बाढ़ ला देते हैं, एक पैटर्न जिसे कुछ शोधकर्ता “ज़ोंबी” दुष्प्रचार कहते हैं।

एल्गोरिदम जुड़ाव के आधार पर सामग्री को बढ़ाते हैं, और जुड़ाव अक्सर सनसनीखेज, आक्रोश और गलत सूचना से प्रेरित होता है।

सेंट लॉरेंट ने कहा, “सोशल मीडिया प्लेटफ़ॉर्म अपने उपयोगकर्ताओं को मुख्य रूप से अपने फ़ीड के माध्यम से जो दिखाने का निर्णय लेते हैं, उसमें संपादक के रूप में कार्य करते हैं। और अक्सर, इसमें हानिकारक सामग्री और गलत सूचना शामिल होती है।”

वित्तीय प्रोत्साहन समस्या को बढ़ाते हैं। एक्स सहित कुछ प्लेटफ़ॉर्म, रचनाकारों को जुड़ाव के आधार पर राजस्व अर्जित करने की अनुमति देते हैं, जिससे प्रभावशाली लोगों को क्लिक के लिए भ्रामक या पूरी तरह से मनगढ़ंत सामग्री को आगे बढ़ाने के लिए प्रोत्साहित किया जाता है।

लंदन स्थित इंस्टीट्यूट फॉर स्ट्रैटेजिक डायलॉग (आईएसडी) के अनुसार, पश्चिम एशिया युद्ध के बारे में एआई सामग्री पोस्ट करने वाले एक्स खातों के एक नेटवर्क ने संघर्ष शुरू होने के बाद से एक अरब से अधिक बार देखा है।

एक अन्य वायरल उदाहरण में, एक एक्स अकाउंट ने एक एआई वीडियो पोस्ट किया जिसमें दुबई की बुर्ज खलीफा गगनचुंबी इमारत धूल के बादल में ढहती हुई दिखाई दे रही है।

सूचना युद्ध विश्लेषक टैल हेगिन ने पोस्ट किए जाने के 20 घंटे बाद एक्स पर लिखा, “10 मिलियन व्यूज और कोई सामुदायिक नोट नहीं। हमने आपको पकाया।”

जब तक एक सामुदायिक नोट, एक भीड़-स्रोत सत्यापन प्रणाली जिसकी प्रभावशीलता पर शोधकर्ताओं द्वारा बार-बार सवाल उठाए गए हैं, कुछ घंटों बाद पोस्ट में जोड़ा गया, तब तक वीडियो को 12 मिलियन से अधिक बार देखा जा चुका था।

एलोन मस्क के स्वामित्व वाले प्लेटफ़ॉर्म द्वारा घोषणा किए जाने के बाद भी एक्स पर सिंथेटिक सामग्री का प्रसार जारी है, अगर वे बिना लेबल वाले एआई युद्ध वीडियो पोस्ट करते हैं तो रचनाकारों को उनके सामग्री-साझाकरण कार्यक्रम से 90 दिनों के लिए निलंबित करके दंडित किया जाएगा।

मेम-संचालित एआई सामग्री जो संघर्ष को तुच्छ बनाती है क्योंकि यह गलत सूचना फैलाती है, डिजिटल प्लेटफार्मों पर वास्तविकता को बढ़ा रही है, जिससे आईएसडी शोधकर्ता युद्ध प्रचार को “वैधीकरण” कहते हैं।

युद्ध के पहले सप्ताह में एक नकली ईरानी एआई “लेगो मूवी” वायरल हो गई, जिसमें अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प पर जेफरी एपस्टीन घोटाले में अपनी भूमिका से ध्यान भटकाने के लिए तेहरान पर हमला करने का आरोप लगाया गया।

सजीव मीम वीडियो का उपयोग काल्पनिक ईरानी सैन्य विजयों को चित्रित करने और यहां तक ​​कि रणनीतिक रूप से होर्मुज जलडमरूमध्य को एक कार्टूनिस्ट टोल बूथ के रूप में फिर से कल्पना करने के लिए भी किया गया है।

ट्रम्प ने स्वयं चेतावनी दी है कि एआई एक “दुष्प्रचार का हथियार बन गया है जिसका उपयोग ईरान अच्छी तरह से करता है।”

उन्होंने ट्रुथ सोशल पर लिखा, “जिन इमारतों और विमानों में आग लगती दिखाई गई है, वे आग नहीं हैं – वे एआई द्वारा उत्पन्न फर्जी खबरें हैं।”

फिर भी अमेरिकी राष्ट्रपति ने बड़े पैमाने पर प्रौद्योगिकी को अपनाया है, खुद को राजा और सुपरमैन के रूप में चित्रित करने के लिए एआई-जनित छवियों और वीडियो को साझा किया है, जबकि विरोधियों को अपराधियों या हंसी के पात्र के रूप में चित्रित किया है।

उन्होंने साजिश के सिद्धांतों और झूठी कहानियों को बढ़ावा देने के लिए एआई मेम्स का भी उपयोग किया है।

इस बीच, आईएसडी के अनुसार, रूस से जुड़े समन्वित खुफिया ऑपरेशन ऑनलाइन अराजकता का फायदा उठा रहे हैं, झूठ फैलाने के लिए बीबीसी जैसे विश्वसनीय मीडिया आउटलेट्स की नकल कर रहे हैं।

कंटेंट मॉडरेशन निर्णयों की समीक्षा करने के लिए फेसबुक द्वारा बनाई गई संस्था मेटा ओवरसाइट बोर्ड ने पिछले महीने कहा था, “हमारा मानना ​​है कि टेक्नोलॉजी प्लेटफॉर्म वर्तमान में उपयोगकर्ताओं को यह पहचानने में मदद करने के लिए पर्याप्त प्रयास नहीं कर रहे हैं कि सामग्री एआई-जनरेटेड है या प्रामाणिक है।”

इसमें कहा गया है, “फर्जी सामग्री अधिक हिंसा भड़काने और अधिक संघर्ष को बढ़ावा देकर हानिकारक हो सकती है।”

एएफपी एशिया, लैटिन अमेरिका और यूरोपीय संघ सहित 26 भाषाओं में फेसबुक के तथ्य-जांच कार्यक्रम के साथ काम करता है।

मेटा ने पिछले साल अमेरिका में अपने तीसरे पक्ष के तथ्य-जांच कार्यक्रम को समाप्त कर दिया था, मुख्य कार्यकारी मार्क जुकरबर्ग ने कहा था कि इससे “बहुत अधिक सेंसरशिप” हो गई थी; कार्यक्रम के समर्थकों द्वारा दावों का जोरदार खंडन किया गया।

इसके बजाय, जुकरबर्ग ने कहा कि मेटा के प्लेटफॉर्म, फेसबुक और इंस्टाग्राम, “सामुदायिक नोट्स” मॉडल का उपयोग करेंगे; आलोचकों का तर्क है कि यह कदम दुष्प्रचार के खिलाफ सुरक्षा को और कमजोर कर सकता है।

मेटा के ओवरसाइट बोर्ड ने चेतावनी दी कि संयुक्त राज्य अमेरिका के बाहर मॉडल का विस्तार दमन या संघर्ष के तहत रहने वाले लोगों के लिए “महत्वपूर्ण मानवाधिकार जोखिम और ठोस नुकसान में योगदान दे सकता है”।

एआई अनुसंधान उपकरण सूचना युद्ध के कोहरे को काटने के लिए थे। इसके बजाय, वे कभी-कभी इसे सघन बना रहे हैं।

नेतन्याहू के मामले में, साजिश सिद्धांतकार एक एआई डिटेक्शन टूल की ओर इशारा करते हैं जिसने उनके कॉफी शॉप वीडियो को “96.9 प्रतिशत एआई-जनरेटेड” के रूप में गलत लेबल दिया था। अन्य उपकरण विपरीत निष्कर्ष पर पहुँचे।

समस्या वीडियो से परे है. शोधकर्ताओं का कहना है कि सोशल मीडिया मनगढ़ंत उपग्रह छवियों, हीटमैप और अन्य छद्म-फोरेंसिक दृश्यों से भरा पड़ा है, जिनका इस्तेमाल युद्ध के वास्तविक सबूतों पर संदेह जताने के लिए किया जाता है।

दुष्प्रचार निगरानी संस्था न्यूजगार्ड की सोफिया रॉबिन्सन ने कहा, “एआई डीपफेक का उदय और वास्तविक फुटेज को खारिज करना एक ही सिक्के के दो पहलू हैं।”

“जब हर चीज़ नकली हो सकती है, तो यह विश्वास करना आसान है कि कुछ भी नकली है।”

सोशल मीडिया उपयोगकर्ताओं ने न्यूयॉर्क टाइम्स जैसे प्रमुख मीडिया संगठनों पर संघर्ष की एआई-जनित छवियों को प्रकाशित करने का झूठा आरोप लगाया है, जिसमें तेहरान में नए अयातुल्ला मोजतबा खामेनेई का जश्न मनाते हुए एक बड़ी भीड़ को दिखाया गया है।

जो लोग गलत सूचना से लाभ उठाते हैं, वे आसानी से इसका फायदा उठा सकते हैं, एक घटना जिसे शोधकर्ता “झूठ का लाभांश” कहते हैं, जहां सच्ची लेकिन दूषित जानकारी को एआई-जनित के रूप में प्रसारित किया जाता है।

गैर-लाभकारी समाचार साक्षरता परियोजना में शिक्षा सामग्री के वरिष्ठ निदेशक हन्ना कोविंगटन ने कहा, “एआई तकनीक को आप जो कुछ भी देखते और सुनते हैं उस पर भरोसा करने की अपनी इच्छा को कम न करने दें।”

कोविंगटन ने एएफपी को बताया, “बुरे अभिनेता यही चाहते हैं: लोग सोचें कि सब कुछ नकली हो सकता है, इसलिए वे किसी भी चीज़ पर भरोसा नहीं कर सकते।”

उस परिवर्तन के संकेत पहले से ही दिखाई दे रहे हैं, क्योंकि वास्तविक घटनाओं की नकली छवियां सूचना परिदृश्य को और प्रदूषित करती हैं।

28 फरवरी को मिनाब शहर के एक प्राथमिक विद्यालय पर घातक हमले के बाद, एक्स पर एक आधिकारिक ईरानी अकाउंट ने एक तस्वीर पोस्ट की जिसमें एक बच्चे का बैकपैक खून और धूल से सना हुआ दिख रहा था।

एएफपी ने पाया कि छवि एआई द्वारा तैयार की गई थी। लेकिन कुछ ऑनलाइन लोग इस बात से नाराज़ दिखे कि वास्तविक स्कूली बच्चों की मौत को दर्शाने के लिए एक काल्पनिक छवि का इस्तेमाल किया गया था।

एक Reddit उपयोगकर्ता ने लिखा, “संभवतः AI द्वारा संपादित, लेकिन अर्थ मूल है।”