ऑस्ट्रेलिया के इंटरनेट नियामक ने कहा कि वह खोज इंजनों और ऐप स्टोरों पर उन कृत्रिम बुद्धिमत्ता सेवाओं को ब्लॉक करने के लिए दबाव डाल सकता है जो उपयोगकर्ता की उम्र सत्यापित करने में विफल रहती हैं, क्योंकि रॉयटर्स की समीक्षा में पाया गया कि आधे से अधिक ने अगले सप्ताह की समय सीमा तक अनुपालन के लिए कोई कदम सार्वजनिक नहीं किया है। यह चेतावनी एआई कंपनियों पर लगाम लगाने के लिए विश्व स्तर पर सबसे आक्रामक प्रयासों में से एक को दर्शाती है, जिन्हें रोकने में विफल रहने और यहां तक कि प्रोत्साहित करने, आत्म-नुकसान या हिंसा के लिए मुकदमों की बढ़ती संख्या का सामना करना पड़ता है, जबकि शोधकर्ताओं ने चेतावनी दी है कि ऐसे प्लेटफॉर्म सोशल मीडिया की तुलना में युवाओं के मानसिक स्वास्थ्य के लिए अधिक हानिकारक हैं।
दिसंबर में ऑस्ट्रेलिया मानसिक स्वास्थ्य संबंधी चिंताओं का हवाला देते हुए किशोरों के लिए सोशल मीडिया पर प्रतिबंध लगाने वाला पहला देश बन गया, जिससे विश्व नेताओं ने कहा कि वे भी ऐसा ही करेंगे। अब देश का कहना है कि वह एआई पर इसी तरह की कार्रवाई का नेतृत्व कर रहा है, जिसके तहत लोग प्रौद्योगिकी के माध्यम से जिस सामग्री तक पहुंच सकते हैं, उस पर आयु प्रतिबंध लगा दिया गया है।
9 मार्च से, ऑस्ट्रेलिया में ओपनएआई के चैटजीपीटी और कम-ज्ञात साथी चैटबॉट जैसे खोज टूल सहित इंटरनेट सेवाओं को 18 वर्ष से कम उम्र के ऑस्ट्रेलियाई लोगों को अश्लील साहित्य, अत्यधिक हिंसा, आत्म-नुकसान और खाने की विकार सामग्री प्राप्त करने से प्रतिबंधित करना होगा या ए $ 49.5 मिलियन ($ 35 मिलियन) तक का जुर्माना भरना होगा।
आयुक्त के एक प्रवक्ता ने कहा, “ईसेफ्टी हमारी शक्तियों की पूरी श्रृंखला का उपयोग करेगी जहां गैर-अनुपालन होगा,” जिसमें “विशेष सेवाओं तक पहुंच के प्रमुख बिंदु प्रदान करने वाले खोज इंजन और ऐप स्टोर जैसी गेटकीपर सेवाओं के संबंध में कार्रवाई” शामिल है। ओपनएआई और साथी चैटबॉट स्टार्टअप कैरेक्टर.एआई को युवा उपयोगकर्ताओं के साथ बातचीत को लेकर गलत मौत के मुकदमों का सामना करना पड़ा है, जबकि ओपनएआई ने इस सप्ताह स्वीकार किया कि उसने हमले से महीनों पहले कनाडा में एक किशोर सामूहिक गोलीबारी के संदिग्ध के चैटजीपीटी खाते को अधिकारियों को बताए बिना निष्क्रिय कर दिया था।
ऑस्ट्रेलिया में अभी तक चैटबॉट से जुड़ी हिंसा या खुद को नुकसान पहुंचाने की खबरें नहीं आई हैं, लेकिन नियामक ने बताया है कि 10 साल से कम उम्र के बच्चे एआई-संचालित इंटरैक्टिव टूल पर दिन में छह घंटे तक बात करते हैं। प्रवक्ता ने कहा, ईसेफ्टी को इस बात की चिंता है कि एआई कंपनियां युवाओं को अत्यधिक चैटबॉट उपयोग में शामिल करने, लुभाने और लुभाने के लिए भावनात्मक हेरफेर, मानवरूपता और अन्य उन्नत तकनीकों का लाभ उठा रही हैं।
शीर्ष ऐप स्टोर ऑपरेटर ऐप्पल ने कोई प्रतिक्रिया नहीं दी, लेकिन पिछले हफ्ते अपनी वेबसाइट पर कहा कि वह ऑस्ट्रेलिया और अन्य न्यायक्षेत्रों में 18+ ऐप डाउनलोड करने वाले नाबालिगों को रोकने के लिए “उचित तरीकों” का उपयोग करेगा, जो तरीकों को निर्दिष्ट किए बिना आयु प्रतिबंध लगा रहे हैं।
ऑस्ट्रेलिया के प्रमुख खोज इंजन प्रदाता और नंबर 2 ऐप स्टोर ऑपरेटर, Google के प्रवक्ता ने टिप्पणी करने से इनकार कर दिया।
इंटरनेट उद्योग समूह DIGI में नीति प्रमुख जेनिफर डक्सबरी, जिन्होंने नियामक द्वारा हस्ताक्षर किए जाने से पहले AI कोड के प्रारूपण का नेतृत्व किया था, ने कहा कि eSafety नए नियमों के बारे में चैटबॉट सेवाओं को सूचित करने की कोशिश कर रही थी, लेकिन “आखिरकार ऑस्ट्रेलिया में काम करने वाली कोई भी सेवा अपने कानूनी दायित्वों को समझने और यह सुनिश्चित करने के लिए जिम्मेदार है कि वह उन्हें पूरा करती है”।
रॉयटर्स की समीक्षा में पाया गया कि ऑस्ट्रेलिया की समय सीमा से एक सप्ताह पहले, 50 सबसे लोकप्रिय टेक्स्ट-आधारित एआई उत्पादों में से नौ ने आयु आश्वासन प्रणालियों के लिए योजनाएं शुरू की थीं या घोषणा की थी। समीक्षा प्रतिबंधित सामग्री और मॉडरेशन नीतियों, सेवा की शर्तों सहित प्रकाशित बयानों और रॉयटर्स को दिए गए बयानों के बारे में पूछे जाने वाले संकेतों पर प्रत्येक प्लेटफ़ॉर्म की प्रतिक्रिया पर आधारित थी।
समीक्षा में पाया गया कि अन्य 11 प्लेटफार्मों में कंबल सामग्री फ़िल्टर थे या सभी ऑस्ट्रेलियाई लोगों को उनकी सेवा का उपयोग करने से रोकने की योजना बनाई गई थी, ऐसे उपाय जो सभी उपयोगकर्ताओं से प्रतिबंधित सामग्री रखकर नए कानून का अनुपालन करेंगे, 30 को छोड़कर नए नियमों का पालन करने के लिए कोई स्पष्ट कदम नहीं उठाया गया।
चैटजीपीटी, रेप्लिका और एंथ्रोपिक के क्लाउड जैसे अधिकांश बड़े चैट-आधारित खोज सहायकों ने आयु आश्वासन प्रणाली या ब्लैंकेट फिल्टर को रोल आउट करना शुरू कर दिया है। चैटबॉट प्रदाता कैरेक्टर.एआई ने 18 साल से कम उम्र के लोगों के लिए ओपन-एंडेड चैट को बंद कर दिया है।
सहयोगी चैटबॉट प्रदाताओं कैंडी एआई, पाई, किंड्रॉइड और नोमी ने रॉयटर्स को बताया कि उन्होंने बिना विस्तार से अनुपालन करने की योजना बनाई है, जबकि हैमरएआई ने कहा कि वह कोड का अनुपालन करने के लिए शुरू में ऑस्ट्रेलिया से अपनी सेवाओं को अवरुद्ध कर देगा।
लेकिन वे अल्पसंख्यक थे. सहयोगी चैटबॉट्स में से, तीन-चौथाई के पास कोई कामकाज या योजनाबद्ध फ़िल्टरिंग या आयु आश्वासन नहीं था, जबकि एक-छठे के पास संदिग्ध उल्लंघनों की रिपोर्ट करने के लिए कोई प्रकाशित ईमेल पता नहीं था, जो कि आवश्यक भी है।
एलोन मस्क का चैट-आधारित सर्च टूल ग्रोक, जिसकी बच्चों की सिंथेटिक कामुक छवियों के उत्पादन को रोकने में संदिग्ध विफलता के लिए विश्व स्तर पर जांच चल रही है, में कोई आयु आश्वासन उपाय या पाठ-आधारित सामग्री फ़िल्टर नहीं थे, रॉयटर्स ने पाया। ग्रोक की मूल कंपनी, xAI, ने टिप्पणी के अनुरोध का जवाब नहीं दिया।
आरएमआईटी विश्वविद्यालय के मानव-एआई सूचना वातावरण केंद्र की निदेशक लिसा गिवेन ने कहा कि रॉयटर्स के निष्कर्ष आश्चर्यजनक नहीं थे क्योंकि “इनमें से अधिकांश उपकरण संभावित नुकसान और उन प्रकार के सुरक्षा नियंत्रणों की आवश्यकता के बिना डिजाइन किए जा रहे हैं”।
उन्होंने कहा, “ऐसा लगता है जैसे… हम इन कंपनियों के लिए इन सभी चीजों का बीटा परीक्षण कर रहे हैं और वे यह देखने की कोशिश कर रहे हैं कि समाज कितना आगे बढ़ने को तैयार है।”
प्रकाशित – 02 मार्च, 2026 10:12 पूर्वाह्न IST