भारत, फ्रांस, जर्मनी: डीपफेक दुरुपयोग को लेकर एक्सएआई के ग्रोक पर नकेल कसने वाले देशों की सूची | प्रौद्योगिकी समाचार

एक्सएआई की एक प्रेस विज्ञप्ति के अनुसार, सीरीज़ ई फंडिंग राउंड कथित तौर पर एआई स्टार्टअप के शुरुआती $ 15 बिलियन के लक्ष्य को पार कर गया है, जिसमें ग्रोक की इमेज-जेनरेशन सुविधा, जिसे ग्रोक इमेजिन के रूप में जाना जाता है, को “अत्याधुनिक मल्टीमॉडल समझ” के साथ “लाइटनिंग-फास्ट” के रूप में जाना जाता है।

दिसंबर 2025 के अंत में, एक्स पर कई उपयोगकर्ताओं ने ग्रोक को टैग करके लोगों – आमतौर पर महिलाओं – की छवियों पर टिप्पणी करना शुरू कर दिया और चैटबॉट से “उसे बिकनी पहनाने” या “उसकी पोशाक उतारने” के लिए कहा। एआई चैटबॉट, जो टैग किए जाने पर ऑटो-रिप्लाई करता है, ने इन उपयोगकर्ता अनुरोधों का अनुपालन किया और मशहूर हस्तियों और गैर-सेलिब्रिटी दोनों की गैर-सहमति वाली यौन छवियां बनाईं, जिनमें कुछ छोटे बच्चे भी शामिल थे।

जवाब में, एक्सएआई ने दायित्व को पूरी तरह से उपयोगकर्ताओं पर स्थानांतरित करने की मांग की है, चेतावनी दी है कि जो लोग ग्रोक को अवैध सामग्री उत्पन्न करने के लिए संकेत प्रस्तुत करते हैं, उन्हें एक्स पर अवैध सामग्री अपलोड करने वालों के समान परिणाम भुगतने होंगे।

प्लेटफ़ॉर्म की सुरक्षा टीम ने आगे कहा, “हम बाल यौन शोषण सामग्री (सीएसएएम) सहित एक्स पर अवैध सामग्री के खिलाफ कार्रवाई करते हैं, इसे हटाते हैं, खातों को स्थायी रूप से निलंबित करते हैं, और स्थानीय सरकारों और कानून प्रवर्तन के साथ काम करते हैं।”

हालाँकि, एक्स के खिलाफ नियामक कार्रवाई पर विचार करने वाले देशों की सूची लगातार बढ़ रही है। यहां देखें कि विभिन्न क्षेत्रों के नियामकों ने नवीनतम ग्रोक घटना पर कैसे प्रतिक्रिया दी है। विशेष रूप से, संयुक्त राज्य अमेरिका में कानून निर्माता और नियामक निकाय, जहां एक्सएआई का मुख्यालय है, ने अभी तक इस मुद्दे पर टिप्पणी नहीं की है।

मलेशिया

मलेशिया के डिजिटल नियामक ने कहा कि वह “वर्तमान में एक्स में ऑनलाइन नुकसान की जांच कर रहा है।”

एक बयान में, मलेशियाई संचार और मल्टीमीडिया आयोग ने कहा कि उसने “एक्स प्लेटफ़ॉर्म पर कृत्रिम बुद्धिमत्ता (एआई) उपकरणों के दुरुपयोग के बारे में सार्वजनिक शिकायतों की गंभीर चिंता पर ध्यान दिया है, विशेष रूप से महिलाओं और नाबालिगों की छवियों के डिजिटल हेरफेर से अश्लील, अत्यधिक आक्रामक और अन्यथा हानिकारक सामग्री का उत्पादन किया जाता है।”

फ्रांस

फ्रांसीसी सरकार के तीन मंत्रियों ने कथित तौर पर ग्रोक के आउटपुट को पेरिस अभियोजक के कार्यालय में भेज दिया है, जिसमें कहा गया है कि यह एक्स पर स्पष्ट यौन डीपफेक के प्रसार की जांच करेगा। देश के डिजिटल मामलों के कार्यालय ने कहा कि मंत्रियों ने एक रिपोर्ट के अनुसार, “इसे तत्काल हटाने के लिए” एक सरकारी ऑनलाइन निगरानी मंच को “स्पष्ट रूप से अवैध सामग्री” की सूचना दी। राजनीतिक चालबाज़ी करनेवाला मनुष्य.

नियामकों को यह तय करने के लिए भी कहा गया है कि क्या छवियां यूरोपीय संघ के डिजिटल सेवा अधिनियम (डीएसए) का उल्लंघन करती हैं, जो एक्स जैसे ऑनलाइन मध्यस्थों द्वारा सामग्री के प्रबंधन को नियंत्रित करने के लिए विधायी ढांचा है।

भारत

महिलाओं की सहमति के बिना उनकी आपत्तिजनक तस्वीरें और वीडियो बनाने के लिए ग्रोक के दुरुपयोग पर ध्यान देते हुए, आईटी मंत्रालय ने कहा कि उसने एक्स को एक निर्देश भेजा है, जिसमें सोशल मीडिया प्लेटफॉर्म पर देश के कानूनों का पालन नहीं करने का आरोप लगाया गया है और सुरक्षा उपायों को लागू करने में एक्स की “गंभीर विफलता” पर लाल झंडे उठाए गए हैं।

आईटी मंत्रालय ने शुक्रवार, 2 जनवरी को सोशल मीडिया कंपनी के मुख्य अनुपालन अधिकारी को भेजे गए नोटिस में कहा, “आपके द्वारा विकसित और एक्स प्लेटफॉर्म पर एकीकृत और उपलब्ध कराए गए ग्रोक एआई का उपयोगकर्ताओं द्वारा महिलाओं की अश्लील छवियों या वीडियो को अपमानजनक या अश्लील तरीके से होस्ट करने, बनाने, प्रकाशित करने या साझा करने के लिए फर्जी अकाउंट बनाने के लिए दुरुपयोग किया जा रहा है।”

आईटी मंत्रालय ने एक्स को बुधवार, 7 जनवरी तक एक विस्तृत कार्रवाई रिपोर्ट प्रस्तुत करने का निर्देश दिया, जिसमें ग्रोक एआई के संबंध में एक्स द्वारा अपनाए गए विशिष्ट तकनीकी और संगठनात्मक उपाय, उसके भारत के मुख्य अनुपालन अधिकारी द्वारा निभाई गई भूमिका और निरीक्षण और आपत्तिजनक सामग्री, उपयोगकर्ताओं और खातों के खिलाफ कंपनी द्वारा की गई कार्रवाई शामिल है।

इसने कंपनी को ग्रोक एआई की व्यापक तकनीकी, प्रक्रियात्मक और शासन-स्तरीय समीक्षा करने का भी निर्देश दिया, जिसमें इसकी त्वरित-प्रसंस्करण, आउटपुट पीढ़ी, और छवि हैंडलिंग और सुरक्षा रेलिंग शामिल है, “यह सुनिश्चित करने के लिए कि एप्लिकेशन ऐसी सामग्री उत्पन्न, बढ़ावा या सुविधा प्रदान नहीं करता है जिसमें नग्नता, कामुकता, यौन रूप से स्पष्ट या अन्यथा गैरकानूनी सामग्री शामिल है”।

यूरोपीय संघ

यूरोपीय आयोग ने सोमवार, 5 जनवरी को कहा कि पूरे देश में साझा की जा रही निर्वस्त्र महिलाओं और बच्चों की तस्वीरें गैरकानूनी और भयावह हैं। यह कहते हुए कि आयोग इस तथ्य से अवगत था कि एक्स उपयोगकर्ताओं को ‘मसालेदार मोड’ की पेशकश कर रहा था, यूरोपीय आयोग के प्रवक्ता थॉमस रेग्नियर ने कहा, “यह मसालेदार नहीं है। यह अवैध है। यह भयावह है। यह घृणित है। हम इसे इसी तरह देखते हैं, और इसका यूरोप में कोई स्थान नहीं है।”

यूनाइटेड किंगडम

ब्रिटिश नियामक ऑफकॉम ने सोमवार को कहा कि उसने एक्स से यह बताने के लिए कहा है कि ग्रोक कैसे लोगों की नग्न तस्वीरें और बच्चों की कामुक तस्वीरें बनाने में सक्षम था, और क्या वह उपयोगकर्ताओं की सुरक्षा करने के अपने कानूनी कर्तव्य में विफल हो रहा था।

एक प्रवक्ता ने कहा, “हमने यह समझने के लिए एक्स और एक्सएआई से तत्काल संपर्क किया है कि उन्होंने यूके में उपयोगकर्ताओं की सुरक्षा के लिए अपने कानूनी कर्तव्यों का पालन करने के लिए क्या कदम उठाए हैं।” यूके के प्रौद्योगिकी सचिव लिज़ केंडल ने भी मंगलवार, 6 जनवरी को ग्रोक के डीपफेक की निंदा की।

एक रिपोर्ट के अनुसार, एआई-जनरेटेड हाइपर-यथार्थवादी यौन कल्पना सहित गैर-सहमति वाली अंतरंग तस्वीरें या बाल यौन शोषण सामग्री बनाना या साझा करना ब्रिटेन में अवैध है। रॉयटर्स. इसके अतिरिक्त, सोशल मीडिया प्लेटफ़ॉर्म उपयोगकर्ताओं को अवैध सामग्री का सामना करने से रोकने के लिए कदम उठाने और इसके बारे में जागरूक होने पर इसे हटाने के लिए कानूनी रूप से बाध्य हैं।

जर्मनी

ग्रोक-जनरेटेड, यौन रूप से स्पष्ट डीपफेक पर मस्क के एक्स प्लेटफॉर्म के खिलाफ कानूनी कार्रवाई करने के लिए यूरोपीय संघ से आह्वान करने वाला जर्मनी नवीनतम देश है। जर्मन मीडिया मंत्री वोल्फ्राम वीमर ने मंगलवार, 6 जनवरी को यूरोपीय आयोग से एक्स पर होने वाले “यौन उत्पीड़न के औद्योगीकरण” को रोकने के लिए कानूनी कार्रवाई करने का आग्रह किया।

“वर्तमान में हम एक्स पर जो देख रहे हैं वह यौन उत्पीड़न के औद्योगीकरण जैसा दिखता है। अब यह महत्वपूर्ण है कि यूरोपीय संघ आयोग इसे (कानूनी ढांचे) को उतनी ही सख्ती से लागू करना जारी रखे जितना कि यह पहले ही शुरू हो चुका है,” वीमर ने कहा। रॉयटर्स.

जर्मनी का डिजिटल मंत्रालय, जो संघीय नेटवर्क नियामक के माध्यम से डीएसए प्रवर्तन के लिए जिम्मेदार है, ने कहा कि वह कानून का अनुपालन सुनिश्चित करने के लिए प्रतिबद्ध है और सभी से अपने रिपोर्टिंग अधिकारों का उपयोग करने का आग्रह किया है।

“वर्तमान में चुनौती मुख्य रूप से विभिन्न – कुछ मामलों में नए – अधिकारों को अधिक लगातार लागू करना और वास्तव में उनका उपयोग करना है। जो कोई भी सहमति के बिना ऐसी छवियां बनाता या वितरित करता है, वह व्यक्तिगत अधिकारों का गंभीर उल्लंघन कर रहा है और कई मामलों में अभियोजन के लिए उत्तरदायी हो सकता है,” मंत्रालय के एक प्रवक्ता ने कहा। रॉयटर्स.