एलोन मस्क के एआई टूल ग्रोक को महिलाओं और नाबालिगों के यौन डीपफेक बनाने के लिए सोमवार को बढ़ती अंतरराष्ट्रीय प्रतिक्रिया का सामना करना पड़ा, यूरोपीय संघ ने निंदा की और ब्रिटेन ने जांच की चेतावनी दी।
ग्रोक पर “छवि संपादित करें” बटन के हालिया रोलआउट के बाद इंटरनेट पर दुर्व्यवहार की शिकायतों की बाढ़ आ गई, जिसने उपयोगकर्ताओं को “उसे बिकनी पहनाओ” या “उसके कपड़े हटाओ” जैसे संकेतों के साथ ऑनलाइन छवियों को बदलने में सक्षम बनाया।
डिजिटल अनड्रेसिंग होड़, जो एआई “न्यूडिफाई” ऐप्स के प्रसार पर तकनीकी प्रचारकों के बीच बढ़ती चिंताओं के बाद हुई है, ने फ्रांस, भारत और मलेशिया सहित देशों से त्वरित जांच या उपचारात्मक कार्रवाई के लिए कॉल को प्रेरित किया है।
यूरोपीय आयोग, जो ईयू के डिजिटल वॉचडॉग के रूप में कार्य करता है, ने सोमवार को कोरस में शामिल होते हुए कहा कि वह मस्क के स्टार्टअप एक्सएआई द्वारा विकसित और उनके सोशल मीडिया प्लेटफॉर्म एक्स में एकीकृत ग्रोक के बारे में शिकायतों को “बहुत गंभीरता से देख रहा है”।
यूरोपीय संघ के डिजिटल मामलों के प्रवक्ता थॉमस रेग्नियर ने कहा, “ग्रोक अब बच्चों जैसी छवियों के साथ उत्पन्न कुछ आउटपुट के साथ स्पष्ट यौन सामग्री दिखाने वाला ‘मसालेदार मोड’ पेश कर रहा है। यह मसालेदार नहीं है। यह अवैध है। यह भयावह है।”
“इसकी यूरोप में कोई जगह नहीं है।”
यूके के मीडिया नियामक ऑफकॉम ने कहा कि उसने “यूके में उपयोगकर्ताओं की सुरक्षा के लिए अपने कानूनी कर्तव्यों का पालन करने के लिए क्या कदम उठाए हैं, यह समझने के लिए एक्स और एक्सएआई के साथ तत्काल संपर्क किया था।”
उत्तर के आधार पर, ऑफकॉम “यह निर्धारित करेगा कि क्या संभावित अनुपालन मुद्दे हैं जिनकी जांच की आवश्यकता है।”
मलेशिया स्थित वकील अज़ीरा अज़ीज़ ने उस समय भय व्यक्त किया जब एक उपयोगकर्ता ने, जाहिरा तौर पर फिलीपींस में, ग्रोक को उसकी “प्रोफ़ाइल तस्वीर को बिकनी में बदलने” के लिए प्रेरित किया।
अजीज ने एएफपी को बताया, “सार्वजनिक हस्तियों पर धूप का चश्मा लगाने जैसा एआई का मासूम और चंचल उपयोग ठीक है।”
“लेकिन गैर-सहमति वाली महिलाओं और बच्चों के खिलाफ एआई को हथियार बनाने वाली लिंग आधारित हिंसा का दृढ़ता से विरोध किया जाना चाहिए,” उन्होंने उपयोगकर्ताओं से एक्स और मलेशियाई अधिकारियों को उल्लंघन की रिपोर्ट करने का आह्वान किया।
अन्य एक्स उपयोगकर्ताओं ने सीधे तौर पर मस्क से स्पष्ट रूप से पीडोफाइल के खिलाफ कार्रवाई करने का अनुरोध किया, “ग्रोक को बच्चों पर बिकनी पहनने के लिए कह रहे थे।”
मस्क के एक बच्चे की मां एशले सेंट क्लेयर ने एक्स पर लिखा, “ग्रोक अब मेरे बचपन की तस्वीरें उतार रहा है।” “यह वस्तुनिष्ठ रूप से भयावह, अवैध है।”
जब एएफपी ने टिप्पणी के लिए संपर्क किया, तो एक्सएआई ने संक्षिप्त, स्वचालित प्रतिक्रिया के साथ उत्तर दिया: “विरासत मीडिया झूठ बोलता है।”
ऑनलाइन हंगामे के बीच, ग्रोक ने शुक्रवार को उपयोगकर्ताओं को आश्वस्त करने की कोशिश की कि वह टूल में खामियों को ठीक करने के लिए संघर्ष कर रहा है।
ग्रोक ने एक्स पर कहा, “हमने सुरक्षा उपायों में खामियों की पहचान की है और उन्हें तत्काल ठीक कर रहे हैं।”
“सीएसएएम (बाल यौन शोषण सामग्री) अवैध और निषिद्ध है।”
पिछले हफ्ते अलग से, ग्रोक ने “एक उपयोगकर्ता के संकेत के आधार पर कामुक पोशाक में दो युवा लड़कियों (अनुमानित उम्र 12-16) की एक एआई छवि” बनाने और साझा करने के लिए माफी पोस्ट की।
पिछले हफ्ते पेरिस में सरकारी अभियोजक के कार्यालय द्वारा एक्स की जांच का विस्तार करने के बाद प्रतिक्रियाओं की झड़ी लग गई, जिसमें नए आरोप शामिल किए गए कि ग्रोक का इस्तेमाल बाल अश्लीलता पैदा करने और प्रसारित करने के लिए किया जा रहा था।
एक्स के खिलाफ प्रारंभिक जांच जुलाई में उन रिपोर्टों के बाद शुरू की गई थी कि विदेशी हस्तक्षेप के उद्देश्य से प्लेटफॉर्म के एल्गोरिदम में हेरफेर किया जा रहा था।
स्थानीय मीडिया की रिपोर्ट के अनुसार, शुक्रवार को भारतीय अधिकारियों ने एक्स को यौन सामग्री को हटाने, आपत्तिजनक उपयोगकर्ताओं पर नकेल कसने और 72 घंटों के भीतर “कार्रवाई रिपोर्ट” जमा करने या कानूनी परिणाम भुगतने का निर्देश दिया।
समय सीमा सोमवार को समाप्त हो गई, लेकिन अभी तक इस पर कोई अपडेट नहीं है कि एक्स ने जवाब दिया या नहीं।
मलेशियाई संचार और मल्टीमीडिया आयोग ने भी एक्स में “अशोभनीय, अत्यधिक आक्रामक” सामग्री के बारे में सार्वजनिक शिकायतों पर सप्ताहांत में “गंभीर चिंता” व्यक्त की।
इसमें कहा गया है कि वह उल्लंघनों की जांच कर रहा है और एक्स के प्रतिनिधियों को तलब करेगा।
यह आलोचना ग्रोक की बढ़ती जांच को जोड़ती है, जिसे गाजा में युद्ध, भारत-पाकिस्तान संघर्ष, साथ ही ऑस्ट्रेलिया में घातक गोलीबारी जैसे हालिया संकटों के बारे में गलत सूचना देने के लिए आलोचना का सामना करना पड़ा है।
प्रकाशित – 06 जनवरी, 2026 09:28 पूर्वाह्न IST