नई दिल्ली:

यह भी पढ़ें: राय | निराश ट्रंप अब दोस्तों से ‘मदद’ मांग रहे हैं

यदि आपने चैटजीपीटी या जेमिनी का उपयोग किया है, तो आप इस भावना को जानते हैं। आप एक प्रश्न पूछते हैं, और यह इतनी जल्दी और इतने आत्मविश्वास से उत्तर देता है कि आप इसे दो बार जांचने के बारे में भी नहीं सोचते हैं।

लेकिन भारत और दुनिया भर में एक ऐसी समस्या बढ़ती जा रही है जो लोगों को गंभीर संकट में डाल रही है। इसे “भ्रम” कहा जाता है।

यह भी पढ़ें: मध्य पूर्व संघर्ष से रक्षा शेयरों में अभूतपूर्व तेज़ी: निवेशकों के लिए सुनहरी रैली

सीधे शब्दों में कहें तो AI उस दोस्त की तरह है जिसके पास हर बात का जवाब है लेकिन वह हमेशा सही नहीं होता। यह जानबूझकर आपसे झूठ नहीं बोल रहा है; यह नहीं जानता कि कैसे कहे, “मैं नहीं जानता।”

यह भी पढ़ें: तेज प्रताप और बहन हेमा टू बेल, रबरी देवी ने जॉब केस के लिए भूमि में कहा- जानबूझकर परेशान होना

अदालतों में झूठे मुकदमे चल रहे हैं

भारतीय अदालतों में हाल ही में हुए नाटक को ही लीजिए। न्यायाधीशों ने अपने डेस्क पर आने वाली याचिकाओं में एक अजीब प्रवृत्ति को नोटिस करना शुरू कर दिया है।

एक उदाहरण में, एक वकील ने अपने तर्क का समर्थन करने के लिए मर्सी बनाम मैनकाइंड नामक एक मामला प्रस्तुत किया। यह एक ऐतिहासिक निर्णय जैसा लग रहा था। समस्या? केस मौजूद नहीं है. एआई ने बस तर्क के संदर्भ को देखा और एक ऐसा नाम “खोजा” जो पारित करने के लिए पर्याप्त कानूनी था।

यह भी पढ़ें: “कद्दू, ढोलू कहाँ हैं?”: दिल्ली हवाई अड्डे पर लापता कुत्तों पर विवाद

दरअसल, सुप्रीम कोर्ट ने इस हफ्ते की शुरुआत में अदालती कार्यवाही में एआई टूल के बढ़ते इस्तेमाल पर गंभीर चिंता व्यक्त की थी। शीर्ष अदालत ने कहा कि इस तरह का आचरण न्याय के साधारण गर्भपात से परे है और कानूनी परिणामों के साथ कदाचार की श्रेणी में आ सकता है। इसने बार काउंसिल ऑफ इंडिया से ऐसे मामलों में नकली उद्धरणों और एआई-जनित केस कानून के उपयोग की जांच करने के लिए विशेषज्ञों की एक समिति गठित करने के लिए कहा है, जहां निर्णय स्पष्ट रूप से उत्पन्न केस कानून पर निर्भर करते हैं।

दिल्ली स्थित वकील ऋत्विक साहा ने एनडीटीवी को बताया, “मुकदमेबाजी का मूल सिद्धांत संपूर्ण होना चाहिए, चाहे इसमें मसौदा तैयार करना, दलीलों की तैयारी या कानून के बिंदुओं पर शोध शामिल हो।” “यह वास्तव में चिंताजनक है कि एआई-जनित जानकारी न केवल तर्कों और दलीलों में, बल्कि ट्रायल कोर्ट के फैसलों में भी अपना रास्ता तलाश रही है।”

यह सिर्फ यहीं नहीं हो रहा है. अमेरिका में माता बनाम एवियंका इस आपदा का प्रमुख उदाहरण बनी हुई है। उस मामले में, न्यूयॉर्क की एक कानूनी टीम ने छह गैर-मौजूद मामलों का हवाला देते हुए एक संक्षिप्त मामला दायर किया और अंततः उस पर 5,000 डॉलर का जुर्माना लगाया गया। भारतीय पीठों ने एआई-जनित अधिकारियों पर निर्भरता की सलाह देते हुए उन खामियों को उजागर किया है जो अस्तित्व में ही नहीं हैं।

वकील और इंटरनेट फ़्रीडम फ़ाउंडेशन के संस्थापक निदेशक अपार गुप्ता बताते हैं कि जोखिम एआई ही नहीं बल्कि “ऑटोमेशन पूर्वाग्रह” है। यह वर्बोज़ आउटपुट को आधिकारिक मानने की मानवीय प्रवृत्ति से उत्पन्न होता है। उन्होंने नोट किया कि चैटजीपीटी और जेमिनी जैसे जेनरेटिव मॉडल संभावित टेक्स्ट इंजन हैं, कानूनी डेटाबेस नहीं। वे केस के नामों का आविष्कार करते हैं, उद्धरण तैयार करते हैं, और उसी आत्मविश्वास के साथ गलत सांख्यिकी अनुपात की सटीक मात्रा निर्धारित करते हैं।

साहा ने कहा, “न्यायालय एक ऐसी संस्था है जिसमें एक वादी बहुत अधिक विश्वास रखता है, और इस विश्वास को वकीलों या न्यायपालिका द्वारा अनजाने में एक शॉर्टकट पर भरोसा करके कम नहीं किया जाना चाहिए जो आकर्षक दिखता है लेकिन गंभीर परिणाम दे सकता है।”

ऐसा क्यूँ होता है?

यह समझने के लिए कि एक प्रतिभाशाली मशीन ऐसी मूलभूत गलतियाँ क्यों करती है, हमें यह समझना होगा कि यह कैसे काम करती है।

AI Google की तरह तथ्यों की ‘खोज’ नहीं करता है। इसके बजाय, यह पैटर्न के आधार पर वाक्य में अगले शब्द की भविष्यवाणी करता है। यदि आप एयरलाइंस के बारे में कानूनी मामला पूछते हैं, तो एआई को पता है कि कानूनी मामले आमतौर पर नाम ए बनाम नाम बी की तरह दिखते हैं। फिर यह अपनी ‘मेमोरी’ से नाम पुनर्प्राप्त करता है और उन्हें जोड़ता है।

यह सटीक होने की अपेक्षा चापलूसीपूर्ण लगने की अधिक परवाह करता है। यह अनिवार्य रूप से स्टेरॉयड पर स्वयं कायम रहता है।

चिंता की बात यह है कि ऊपर बताए गए फर्जी मामले फर्जी नहीं लगते हैं। उनके पास उचित कानूनी प्रारूप, विश्वसनीय नाम और विस्तृत सारांश थे। यदि कोई उन्हें शीघ्रता से देख सके, तो वे वैध प्रतीत होते हैं। ऐसा इसलिए है क्योंकि जेनरेटिव एआई को ऐसे उत्तर देने के लिए डिज़ाइन किया गया है जो स्वाभाविक और ठोस लगते हैं।

प्रवाह बनाम सत्य

मामले की सच्चाई यह है कि आज तक एआई प्रवाह के लिए अनुकूल है, सत्य के लिए नहीं। और अधिकांश उपयोगकर्ता अभी भी इस अंतर को पूरी तरह से नहीं समझते हैं।

जैसा कि अपार गुप्ता बताते हैं, अधिवक्ता अधिनियम और बार काउंसिल नियमों के तहत पेशेवर कर्तव्य गैर-प्रत्यायोजित है। एक वकील जो सत्यापन के बिना एआई-जनरेटेड सबमिशन दाखिल करता है, वह उस कर्तव्य का उल्लंघन करता है, जिससे ग्राहक को प्रतिबंधों और प्रतिकूल निष्कर्ष का सामना करना पड़ता है।

बहुत से लोग अब खोज इंजनों, खोजकर्ताओं या सहायकों के प्रतिस्थापन के रूप में AI का उपयोग करते हैं। लेकिन एक पारंपरिक खोज इंजन के विपरीत, एआई अक्सर उत्पन्न पाठ से प्रामाणिक जानकारी को स्पष्ट रूप से अलग नहीं करता है, कम से कम अभी तक नहीं। इससे पवित्रता का खतरनाक भ्रम पैदा होता है।

इस मुद्दे को पहचानना कठिन हो जाता है क्योंकि आधुनिक एआई सिस्टम टोन में बहुत अच्छे हैं। वे बेदाग लिखते हैं. वे तर्क-वितर्क अच्छे ढंग से करते हैं। वे अधिकार की नकल भी करते हैं। इसलिए जब वे गलती करते हैं, तो उपयोगकर्ता मान लेते हैं कि समस्या उनकी है, मशीन की नहीं।

एक व्यापक चिंता मौजूद है क्योंकि अदालतें स्वयं SUPACE और SUVAS जैसे उपकरणों के साथ प्रयोग कर रही हैं। जैसा कि गुप्ता कहते हैं, इसके लिए पारदर्शिता की आवश्यकता है कि ये सिस्टम विश्वसनीय रूप से क्या कर सकते हैं और क्या नहीं। अपार गुप्ता ने कहा, “मैंने पहले ही ड्राफ्ट प्रसारित होते देखा है, जहां अनुभाग संख्याएं गायब हैं, निर्णय गलत हैं, या संदर्भ पूरी तरह से अलग मामले से संबंधित है।”

इसका मतलब यह नहीं है कि AI बेकार है। यदि सही ढंग से उपयोग किया जाए तो ये उपकरण वास्तव में शक्तिशाली होते हैं, जैसे विचारों पर विचार-मंथन करना, जटिल अवधारणाओं को सरल बनाना, या लंबे दस्तावेज़ों का सारांश बनाना।

समस्या तब शुरू होती है जब उपयोगकर्ता सत्यापन करना बंद कर देते हैं।

यदि कोई एआई उपकरण आपको आंकड़े, तारीखें, कानूनी उद्धरण, चिकित्सा सलाह या ब्रेकिंग न्यूज देता है, तो उसे जांचें। मूल स्रोतों की तलाश करें. लिंक खोलें. नामों की पुष्टि करें. एआई-जनित जानकारी को शुरुआती बिंदु मानें, अंतिम उत्तर नहीं।

इन बॉट्स के साथ सबसे बड़ा जोखिम यह है कि ये रोबोट जैसे नहीं लगते; वे बहुत विश्वसनीय लगते हैं.