आर्टिफिशियल इंटेलिजेंस कंपनियां Openai और मेटा का कहना है कि वे समायोजित करते हैं कि उनके चैटबॉट्स किशोरों और अन्य उपयोगकर्ताओं को कैसे जवाब देते हैं जो सूट आत्महत्या या पुरुषों के पुरुषों के शो के बारे में पूछते हैं।

CHATGPT के निर्माता Openai ने मंगलवार को कहा कि यह नए नियंत्रणों को रोल करने के लिए तैयार है जो माता -पिता को अपने खातों को अपने गुरु के खाते से जोड़ने की अनुमति देगा। यह गिरावट, माता -पिता चुनने में सक्षम होंगे कि कौन सी सुविधाओं को अक्षम करने के लिए और “सूचनाएं प्राप्त करें जब सिस्टम उनके किशोर का पता लगाता है, एक कंपनी बोल्ग पोस्ट के अनुसार, तीव्र संकट के एक क्षण में है।

कंपनी ने यह भी कहा कि उपयोगकर्ता की उम्र की परवाह किए बिना, इसके चैटबॉट अधिक सक्षम एआई मॉडल के लिए सबसे अधिक व्यथित बातचीत को पुनर्निर्देशित करेंगे जो एक बेहतर प्रतिक्रिया प्रदान कर सकते हैं।

यह घोषणा 16-उम्र के एडम राइन के माता-पिता द्वारा ओपनई और इसके सीईओ सैम अल्टमैन के माता-पिता के एक सप्ताह बाद हुई। उनका आरोप है कि चैट ने इस साल की शुरुआत में अपनी जान लेने और अपनी जान लेने के लिए कैलिफोर्निया किशोरी को कोचिंग दी।

मेटा की प्रतिक्रिया

Instagram, Facebook और Whatsapp की मूल कंपनी मेटा ने भी कहा कि यह अब अपने चैटबॉट्स को आत्म-हानि, आत्महत्या, अव्यवस्थित भोजन, और अनुचित रूप से रोमैटिक टॉप किशोरों के लिए रोमैटिक पर चर्चा करने से रोक रहा है। इंटेड, चैटबॉट्स किशोर को विशेषज्ञ संसाधनों के लिए निर्देशित करेंगे। मेटा अलरेडी किशोर खातों के लिए माता -पिता के नियंत्रण प्रदान करता है।

अध्ययन में असंगत मंत्री का पता चलता है

आत्महत्या के बारे में मेडिकल जर्नल साइकियाट्रिक सर्विसेज में पिछले सप्ताह प्रकाशित एक अध्ययन। रैंड कॉरपोरेशन के शोधकर्ताओं द्वारा किए गए अध्ययन में मेटा के चैटबॉट्स शामिल नहीं थे, लेकिन इसका परीक्षण किए गए मॉडलों में “आगे शोधन” की आवश्यकता मिली।

रयान मैकबैन, अध्ययन के प्रमुख लेखक और रैंड में एक वरिष्ठ नीति शोधकर्ता, ने ओपनई और मेटा द्वारा हाल ही में किए गए कार्यों को “प्रोत्साहित किया,” लेकिन उन्हें “वृद्धिशील दांव” के रूप में भी छोड़ दिया। उन्होंने इस बात पर जोर दिया कि स्वतंत्र सुरक्षा बेंचमार्क, नैदानिक ​​परीक्षण और लागू करने योग्य मानकों के बिना, “हम अभी भी कंपनियों से संबंधित हैं जो किशोरों के लिए एक स्थान पर आत्म-विनियमित करने के लिए विशिष्ट रूप से उच्च हैं”।

ALSO READ: आपके पास कितने सिम हो सकते हैं, और अपने नाम पर मोबाइल नंबर कैसे जांचें? एक आसान गाइड