ओपनएआई ने चैटजीपीटी के उपयोग का बचाव किया क्योंकि यह एक मुकदमे का सामना कर रहा है जिसमें आरोप लगाया गया है कि इसके चैटबॉट ने कैलिफोर्निया के एक 16 वर्षीय लड़के को इस वसंत में आत्महत्या करके मरने के लिए प्रशिक्षित किया था।
चैटजीपीटी-निर्माता ने एडम राइन के परिवार के प्रति अपनी सहानुभूति व्यक्त की, लेकिन कंपनी की कानूनी फाइलिंग के उद्धरणों के अनुसार, उनकी ओर से दावा किया गया कि चैटजीपीटी का “दुरुपयोग, अनधिकृत उपयोग, अनपेक्षित उपयोग, अप्रत्याशित उपयोग, और/या अनुचित उपयोग” हुआ था, जिसे अमेरिकी समाचार आउटलेट एनबीसी ने रिपोर्ट किया था।
मुकदमे के अनुसार, नकारात्मक भावनाओं और आत्मघाती विचारों को साझा करने से पहले, एडम ने स्कूलवर्क, शौक और वर्तमान घटनाओं पर चर्चा करने के लिए चैटजीपीटी का उपयोग किया था। उनके परिवार ने इस बात पर आश्चर्य व्यक्त किया कि कैसे एडम ने “एआई साथी के लिए लगभग सभी मानवीय मित्रता और सलाह को बदल दिया।”
OpenAI ने अपनी कानूनी फाइलिंग का प्रचार नहीं किया, लेकिन 25 नवंबर को अपने ब्लॉग के माध्यम से एक अधिक सहानुभूतिपूर्ण बयान जारी किया, जिसमें किशोर की चैट के आसपास के संदर्भ को साझा करने की आवश्यकता पर बल दिया गया।
ओपनएआई ने अपने ब्लॉग पोस्ट में कहा, “इन आरोपों पर हमारी प्रतिक्रिया में एडम के मानसिक स्वास्थ्य और जीवन परिस्थितियों के बारे में कठिन तथ्य शामिल हैं। मूल शिकायत में उनकी चैट के चुनिंदा हिस्से शामिल थे, जिनके लिए अधिक संदर्भ की आवश्यकता है, जिन्हें हमने अपनी प्रतिक्रिया में प्रदान किया है। हमने इस फाइलिंग में सार्वजनिक रूप से उद्धृत किए गए संवेदनशील सबूतों की मात्रा को सीमित कर दिया है, और चैट ट्रांसक्रिप्ट को सील के तहत अदालत में जमा कर दिया है।”
इस साल अगस्त में मुकदमा दायर होने के बाद से, OpenAI ने किशोरों के लिए बढ़ी हुई सुरक्षा शुरू कर दी है। कंपनी ने आयु सत्यापन लागू करने और बच्चों के चैटजीपीटी खातों को उनके अभिभावकों के खातों से जोड़ने की अपनी योजना भी साझा की। हालाँकि, चिंताएँ हैं, क्योंकि OpenAI ने स्वीकार किया था कि जब उपयोगकर्ता लंबे चैट सत्रों के लिए दबाव डालते हैं तो ChatGPT सुरक्षा उपाय विफल हो सकते हैं।
OpenAI के चैटबॉट के साथ महीनों तक चैट करने के बाद, 16 वर्षीय एडम राइन की इस साल अप्रैल में आत्महत्या से मृत्यु हो गई। उनके परिवार ने आरोप लगाया कि चैटजीपीटी ने उनके “आत्मघाती कोच” के रूप में काम किया और चैटबॉट द्वारा डिज़ाइन किए गए सेट-अप का उपयोग करते समय किशोर की मृत्यु हो गई।
ओपनएआई और कंपनी के अधिकारियों के खिलाफ अपने मुकदमे में, माता-पिता मैथ्यू और मारिया राइन ने आरोप लगाया कि चैटजीपीटी ने उनके बेटे को आत्महत्या के तरीकों का पता लगाने में मदद की, एक आत्महत्या पत्र का मसौदा लिखा, उसे विभिन्न आत्महत्या और आत्म-नुकसान के तरीकों पर प्रतिक्रिया दी, और संकटग्रस्त किशोर पर तब भी समर्थन मांगने के लिए जोर नहीं डाला, जब वह चाहता था कि कोई हस्तक्षेप करे।
“पैटर्न सुसंगत था: एडम एक विधि के बारे में पूछता था, चैटजीपीटी विस्तृत जानकारी प्रदान करता था जबकि कभी-कभी आकस्मिक संकट संसाधनों को जोड़ता था, फिर एडम गहराई से जांच करता था और चैटजीपीटी संलग्न रहना जारी रखता था,” मुकदमे में कहा गया है, “चैटजीपीटी ने 1,275 बार आत्महत्या का उल्लेख किया है – एडम की तुलना में छह गुना अधिक बार – जबकि तेजी से विशिष्ट तकनीकी मार्गदर्शन प्रदान करता है”।
मुकदमे में OpenAI के सीईओ सैम ऑल्टमैन का नाम लेते हुए, राइन परिवार ने दावा किया कि ऑल्टमैन ने “जानबूझकर महत्वपूर्ण सुरक्षा प्रोटोकॉल को दरकिनार करते हुए GPT-4o के सार्वजनिक लॉन्च में तेजी लाई”।
राइन परिवार ने एडम को उसके भाई-बहनों के बीच “बड़े दिल वाला पुल” बताया, जिसमें उसकी रुचि बास्केटबॉल, मय थाई, जापानी एनीमे और मंगा और वीडियो गेम में थी।
उनके परिवार का फाउंडेशन किशोरों के एआई साथियों पर निर्भर होने के बारे में जागरूकता बढ़ा रहा है और बेहतर सुरक्षा की मांग कर रहा है।
(जो लोग संकट में हैं या जिनके मन में आत्महत्या के विचार आ रहे हैं उन्हें यहां हेल्पलाइन नंबरों पर कॉल करके मदद और परामर्श लेने के लिए प्रोत्साहित किया जाता है)
एनबीसी न्यूज के इनपुट के साथ
प्रकाशित – 27 नवंबर, 2025 01:28 अपराह्न IST