हे14 अक्टूबर को, ओपनएआई के सीईओ सैम ऑल्टमैन ने एक्स पर चैटजीपीटी के बारे में पोस्ट किया, जो दिसंबर से सत्यापित वयस्कों के लिए इरोटिका की अनुमति देता है। पोस्ट को 15 मिलियन से अधिक बार देखा गया और उत्साह और जिज्ञासा से लेकर घृणा और क्रोध तक प्रतिक्रियाएं उत्पन्न हुईं, श्री अल्टमैन ने दो दिन बाद एक स्पष्टीकरण जारी किया, जिसमें बाल सुरक्षा और मानसिक स्वास्थ्य चुनौतियों का सामना करने वाले चैटजीपीटी उपयोगकर्ताओं के बारे में चिंताओं को संबोधित किया गया।
सैम ऑल्टमैन ने एक्स पर क्या पोस्ट किया?
सप्ताह की शुरुआत में, श्री अल्टमैन ने स्वीकार किया कि मानसिक स्वास्थ्य के मुद्दों के बारे में सावधान रहने के लिए चैटजीपीटी को “काफी प्रतिबंधात्मक” बनाया गया था, लेकिन उन्होंने कहा कि इस नीति ने मानसिक स्वास्थ्य चुनौतियों से रहित लोगों के लिए चैटबॉट अनुभव को कम मनोरंजक बना दिया है। ओपनएआई सीईओ ने दावा किया कि चूंकि वे “गंभीर मानसिक स्वास्थ्य मुद्दों को कम करने और नए उपकरण रखने में सक्षम थे”, इसलिए कई प्रतिबंधों में ढील दी जा सकती है। इस तरह के दावे का अभी तक नियामकों द्वारा समर्थन नहीं किया गया है।
श्री ऑल्टमैन ने आगे बताया कि चैटजीपीटी का एक नया, आगामी संस्करण लोगों को “एक दोस्त की तरह” व्यवहार करने सहित अपनी प्रतिक्रियाओं को बेहतर ढंग से अनुकूलित करने देगा।
श्री ऑल्टमैन ने कहा, “दिसंबर में, जैसा कि हम उम्र-गेटिंग को पूरी तरह से लागू करते हैं और हमारे “वयस्क उपयोगकर्ताओं के साथ वयस्कों की तरह व्यवहार करें” सिद्धांत के हिस्से के रूप में, हम सत्यापित वयस्कों के लिए इरोटिका की तरह और भी अधिक अनुमति देंगे।” यह कथन वायरल हो गया, कुछ लोगों ने इरोटिका तक पहुँच को आसान बनाने के लिए श्री ऑल्टमैन की आलोचना की, जबकि अन्य ने पुराने 4o मॉडल में किए गए अचानक बदलावों का विरोध किया।
OpenAI ने कैसे प्रतिक्रिया दी?
प्रतिक्रिया के बाद, श्री ऑल्टमैन ने स्पष्ट किया कि एआई-जनरेटेड इरोटिका उस स्वतंत्रता का सिर्फ एक उदाहरण था जो एक सत्यापित वयस्क उपयोगकर्ता चैटजीपीटी के साथ उम्मीद कर सकता है।
श्री अल्टमैन ने इस बात पर जोर दिया कि कंपनी किशोरों के लिए गोपनीयता और स्वतंत्रता से अधिक सुरक्षा को प्राथमिकता देगी, और मानसिक स्वास्थ्य से संबंधित किसी भी नीति में ढील नहीं दी जाएगी।
हालाँकि, उन्होंने बार-बार कहा कि कंपनी की नीति वयस्क उपयोगकर्ताओं के साथ वयस्कों जैसा व्यवहार करने की थी।
उन्होंने एक्स पर अपने स्पष्टीकरण में पोस्ट किया, “चूंकि एआई लोगों के जीवन में अधिक महत्वपूर्ण हो गया है, इसलिए लोगों को अपनी इच्छानुसार एआई का उपयोग करने की बहुत अधिक स्वतंत्रता देना हमारे मिशन का एक महत्वपूर्ण हिस्सा है।”
OpenAI नाबालिगों की सुरक्षा कैसे कर रहा है?
इस साल 16 वर्षीय एडम राइन की मृत्यु के बाद ओपनएआई पर बच्चों के लिए बेहतर सुरक्षा प्रदान करने का दबाव आया, जिसके माता-पिता ने चैटजीपीटी-निर्माता पर मुकदमा दायर किया। उन्होंने आरोप लगाया कि चैटबॉट ने उनके बेटे को मरने के लिए प्रशिक्षित किया और उसे आपातकालीन सहायता खोजने में मदद करने के बजाय आत्महत्या के विभिन्न तरीकों के बारे में अधिक जानने में सहायता की।
तब से OpenAI ने किशोरों और अधिक असुरक्षित उपयोगकर्ताओं की सुरक्षा के लिए नए युग के सत्यापन तंत्र की शुरुआत की है। सितंबर के अंत में, चैटजीपीटी-निर्माता ने माता-पिता के नियंत्रण की घोषणा की ताकि माता-पिता/अभिभावक अपने खातों को अपने किशोरों के खातों से जोड़ सकें, बच्चों की चैट सेटिंग्स प्रबंधित कर सकें, युवा उपयोगकर्ताओं के अनुभव को अनुकूलित कर सकें, और यदि उनके बच्चे को खुद को नुकसान पहुंचाने का खतरा हो तो उन्हें सूचित किया जा सके।
ओपनएआई ने उस समय एक ब्लॉग पोस्ट में कहा, “एक बार जब माता-पिता और किशोर अपने खाते से जुड़ जाते हैं, तो किशोर खाते को स्वचालित रूप से अतिरिक्त सामग्री सुरक्षा मिल जाएगी, जिसमें कम ग्राफिक सामग्री, वायरल चुनौतियां, यौन, रोमांटिक या हिंसक भूमिका और अत्यधिक सौंदर्य आदर्श शामिल हैं, ताकि उनके अनुभव को उम्र के अनुरूप बनाए रखा जा सके।”
हालाँकि, अनसुलझे विरोधाभास भी हैं। इस गर्मी में थियो वॉन के साथ ‘दिस पास्ट वीकेंड’ पॉडकास्ट के एक एपिसोड के दौरान, श्री ऑल्टमैन ने चैटजीपीटी से बेहद निजी सवाल पूछने वाले उपयोगकर्ताओं के लिए गोपनीयता अधिकारों में बड़ी कमियों की ओर इशारा किया।
क्या अन्य AI कंपनियाँ इरोटिका की अनुमति देती हैं?
कई कम विनियमित एआई कंपनियां और चैटबॉट उपयोगकर्ताओं को यौन संबंधों में शामिल होने की अनुमति देते हैं, अक्सर उम्र-गेटिंग उपायों के साथ। इन जेन एआई चैटबॉट्स के लिए ऐप स्टोर की समीक्षा में उपयोगकर्ताओं के लिए एआई चैटबॉट्स के साथ यौन भूमिका-खेल शुरू करने की क्षमता पर ध्यान दिया गया है। इसका असर बच्चों की सुरक्षा और मानसिक स्वास्थ्य पर भी पड़ा है।
एक उदाहरण में, 2024 में आत्महत्या से मरने वाले 14 वर्षीय बच्चे की मां ने आरोप लगाया कि उसके बेटे का एक कैरेक्टर.एआई चैटबॉट द्वारा यौन शोषण किया गया था, जो उपयोगकर्ताओं को लोकप्रिय पात्रों से प्रेरित एआई व्यक्तित्वों के साथ रोल-प्ले में संलग्न होने देता है। मां ने निर्माता, कैरेक्टर टेक्नोलॉजी के खिलाफ मुकदमा दायर किया है।
मेटा को भी प्रतिक्रिया का सामना करना पड़ा और उसने कहा कि वह सामग्री नीतियों में संशोधन करेगा क्योंकि यह पाया गया कि उसका एआई चैटबॉट बच्चों पर रोमांटिक या यौन रूप से विचारोत्तेजक टिप्पणियां कर सकता है।
इस बीच, एलोन मस्क का ग्रोक एआई चैटबॉट जो एक्स पर उपलब्ध है, कामुक सामग्री उत्पन्न करने में भी सक्षम है, श्री मस्क स्वयं आंशिक रूप से कपड़े पहने महिलाओं के वीडियो साझा कर रहे हैं, जिनके बारे में उन्होंने कहा कि वे ग्रोक इमेजिन के साथ बनाए गए थे।
प्रकाशित – 20 अक्टूबर, 2025 08:30 पूर्वाह्न IST