नग्नता पर आक्रोश के बाद मलेशिया और इंडोनेशिया ने एलोन मस्क के ग्रोक एआई तक पहुंच निलंबित कर दी

देश के तकनीकी नियामक ने रविवार को कहा कि मलेशिया ने एआई-जनित अश्लील सामग्री को लेकर एलन मस्क के चैटबॉट ग्रोक तक पहुंच निलंबित कर दी है।

यह निर्णय वैश्विक प्रतिक्रिया के बाद आया है जब यह सामने आया कि ग्रोक की छवि निर्माण सुविधा उपयोगकर्ताओं को सरल पाठ संकेतों का उपयोग करके महिलाओं और बच्चों की तस्वीरों को कामुक बनाने की अनुमति देती है।

शनिवार को इंडोनेशिया टूल तक सभी पहुंच से इनकार करने वाला पहला देश बन गया, जिसे अन्यत्र ग्राहकों को भुगतान करने तक सीमित कर दिया गया है।

जब मलेशिया की राजधानी कुआलालंपुर में एक एएफपी रिपोर्टर ने रविवार को ग्रोक प्रॉम्प्ट्स को फीड किया, तो कोई प्रतिक्रिया नहीं हुई।

नियामक ने कहा, “यह कार्रवाई अश्लील, यौन रूप से स्पष्ट, अश्लील, घोर आपत्तिजनक और गैर-सहमति से छेड़छाड़ की गई छवियों को उत्पन्न करने के लिए ग्रोक के बार-बार दुरुपयोग के बाद हुई है।”

बयान में मस्क के एक्स कॉर्प और ग्रोक को विकसित करने वाले एक्सएआई स्टार्टअप को जारी किए गए “पूर्व नियामक जुड़ाव और औपचारिक नोटिस के बावजूद, महिलाओं और नाबालिगों से जुड़ी सामग्री” का हवाला दिया गया।

एआई टूल को सोशल मीडिया प्लेटफॉर्म एक्स में एकीकृत किया गया है।

मलेशियाई नियामक ने कहा कि वह प्लेटफ़ॉर्म के सुरक्षा उपायों को अपर्याप्त मानता है, और कहा कि आवश्यक परिवर्तनों के सत्यापित होने के बाद ही पहुंच फिर से शुरू होगी।

नियामक ने कहा, एक्स कॉर्प “एआई टूल के डिजाइन और संचालन से उत्पन्न अंतर्निहित जोखिमों को संबोधित करने में विफल रहा”, “मुख्य रूप से उपयोगकर्ता द्वारा शुरू की गई रिपोर्टिंग तंत्र पर निर्भर”।

यूरोपीय अधिकारियों और तकनीकी प्रचारकों ने शुक्रवार को ग्रोक की विवादास्पद छवि निर्माण सुविधा को भुगतान करने वाले ग्राहकों तक सीमित करने के बाद आलोचना की, और कहा कि यह परिवर्तन यौन रूप से डीपफेक के बारे में चिंताओं को दूर करने में विफल रहा।

ग्रोक ने एक नई मुद्रीकरण नीति के साथ आलोचना को दूर करने के लिए गुरुवार को एक्स पर पोस्ट किया था कि प्रीमियम सदस्यता के लिंक के साथ छवि निर्माण और संपादन अब “भुगतान करने वाले ग्राहकों तक सीमित” थे।