ऑस्ट्रेलिया ने एआई चैटबॉट कंपनियों को बाल संरक्षण कदमों के बारे में विस्तार से बताने को कहा

ऑस्ट्रेलिया ने चार कृत्रिम-बुद्धि चैटबॉट कंपनियों को बच्चों को यौन या आत्म-नुकसान सामग्री के संपर्क से बचाने के लिए अपने उपायों को समझाने का आदेश दिया है, क्योंकि इसका इंटरनेट नियामक एआई सीमा पर सुरक्षा उपायों को बढ़ाता है।

ऐसी सेवाओं की यथार्थवादी संवादात्मक क्षमताओं ने दुनिया को आश्चर्यचकित कर दिया है, लेकिन इस चिंता को भी बढ़ावा दिया है कि रेलिंग की कमी कमजोर व्यक्तियों को खतरनाक सामग्री के संपर्क में लाती है।

एक बयान में, ईसेफ्टी कमिश्नर ने कहा कि उसने बाल यौन शोषण, पोर्नोग्राफी और आत्महत्या या खाने के विकारों को बढ़ावा देने वाली सामग्री के खिलाफ सुरक्षा उपायों का विवरण मांगा है।

इसने कैरेक्टर टेक्नोलॉजीज, सेलिब्रिटी सिमुलेशन चैटबॉट टूल कैरेक्टर.एआई के मालिक और प्रतिद्वंद्वियों Glimpse.AI, चाय रिसर्च और चब एआई को नोटिस भेजा।

आयुक्त जूली इनमैन ग्रांट ने बयान में कहा, “इनमें से कुछ सेवाओं का एक स्याह पक्ष भी हो सकता है, कई… चैटबॉट नाबालिगों के साथ स्पष्ट यौन बातचीत करने में सक्षम हैं।”

“चिंताएँ व्यक्त की गई हैं कि वे आत्महत्या, आत्महत्या और अव्यवस्थित खान-पान को भी प्रोत्साहित कर सकते हैं।”

ऑस्ट्रेलिया की ऑनलाइन नियामक प्रणाली आयुक्त को इंटरनेट कंपनियों को आंतरिक सुरक्षा प्रक्रियाओं की रिपोर्ट करने के लिए बाध्य करने या A$825,000 ($536,000) तक के दैनिक जुर्माने का सामना करने की शक्ति देती है।

पूछी गई सेवाओं में से सबसे लोकप्रिय, कैरेक्टर.एआई, पर संयुक्त राज्य अमेरिका में मुकदमा दायर किया जा रहा है क्योंकि 14 वर्षीय बच्चे की मां ने कहा कि साइट पर एआई साथी के साथ लंबे समय तक बातचीत के बाद उसके बेटे की आत्महत्या से मृत्यु हो गई।

कैरेक्टर.एआई ने मुकदमे को खारिज करने की मांग की है और कहा है कि इसमें सुरक्षा सुविधाएं पेश की गई हैं, जैसे कि यदि उपयोगकर्ता आत्महत्या के विचार व्यक्त करते हैं तो पॉप-अप उपयोगकर्ताओं को राष्ट्रीय आत्महत्या रोकथाम लाइफलाइन पर निर्देशित करते हैं।

नियामक ने कहा कि ऑस्ट्रेलिया में स्कूलों ने बताया है कि 13 वर्ष से कम उम्र के बच्चे चैटबॉट्स के साथ प्रतिदिन पांच घंटे तक बात करते हैं, कभी-कभी यौन संबंध बनाते हुए, नाबालिगों को उनके साथ यौन या भावनात्मक रूप से निर्भर संबंध बनाने या आत्महत्या के लिए प्रेरित होने का जोखिम होता है।

हालाँकि, नियामक ने दुनिया के सबसे लोकप्रिय एआई सर्च टूल, चैटजीपीटी के मालिक ओपनएआई से पूछताछ नहीं की, क्योंकि इसकी कार्रवाई साथी-आधारित टूल पर केंद्रित थी और मार्च 2026 तक चैटजीपीटी एक उद्योग कोड द्वारा कवर नहीं किया गया था, एक ईसेफ्टी प्रवक्ता ने कहा।

ऑस्ट्रेलिया में दुनिया की सबसे सख्त इंटरनेट विनियमन व्यवस्थाओं में से एक है।

युवाओं के मानसिक और शारीरिक स्वास्थ्य की सुरक्षा के लिए दिसंबर से सोशल मीडिया कंपनियों को 16 वर्ष से कम उम्र के उपयोगकर्ताओं के खातों को निष्क्रिय करने या अस्वीकार करने के लिए मजबूर किया जाएगा या 49.5 मिलियन ऑस्ट्रेलियाई डॉलर तक का जुर्माना लगाया जाएगा।