आईटी मंत्रालय ने एक्स को ग्रोक चैटबॉट में महिलाओं की मॉर्फ्ड तस्वीरों का ‘ऑडिट’ करने और बंद करने का आदेश दिया

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने शुक्रवार (2 जनवरी, 2026) को सोशल मीडिया प्लेटफॉर्म शिवसेना (यूबीटी) की राज्यसभा सांसद प्रियंका चतुर्वेदी ने दिन में आईटी मंत्री अश्विनी वैष्णव को लिखे पत्र में इस मुद्दे पर चिंता जताई थी।

एक्स, पूर्व में ट्विटर, ने इस मुद्दे पर तत्काल कोई प्रतिक्रिया नहीं दी। ग्रोक एक्स की होल्डिंग फर्म के तहत एक अलग कृत्रिम बुद्धिमत्ता फर्म के रूप में काम करता है, लेकिन सोशल मीडिया प्लेटफॉर्म पर एक खाता रखता है, जो स्वचालित रूप से उपयोगकर्ताओं के साथ बातचीत करता है। एक्स के अरबपति मालिक एलोन मस्क ने अक्सर ग्रोक की अपेक्षाकृत अनफ़िल्टर्ड प्रतिक्रियाओं की प्रशंसा की है, जिसमें कुछ सुरक्षा उपाय शामिल हैं जो अन्य बिग टेक फर्मों ने अपने बड़े भाषा मॉडल में शामिल किए हैं।

भारत के लिए एक्स के मुख्य अनुपालन अधिकारी को लिखे चार पेज के पत्र में, आईटी मंत्रालय ने लिखा है कि “यह देखा गया है कि [Grok] उपयोगकर्ताओं द्वारा महिलाओं की अश्लील छवियों या वीडियो को अपमानजनक या अश्लील तरीके से होस्ट करने, बनाने, प्रकाशित करने या साझा करने के लिए फर्जी अकाउंट बनाकर उनका दुरुपयोग किया जा रहा है ताकि उन्हें अशोभनीय रूप से बदनाम किया जा सके। पत्र में कहा गया है कि “आईटी अधिनियम और आईटी नियम, 2021 का अनुपालन वैकल्पिक नहीं है, और आईटी अधिनियम की धारा 79 के तहत वैधानिक छूट उचित परिश्रम दायित्वों के सख्त पालन पर सशर्त है”।

यह इंगित करते हुए कि आईटी अधिनियम के बाहर भी, इस प्रकृति के कृत्यों पर “स्वतंत्र रूप से दंडात्मक कार्रवाई हो सकती है”, मंत्रालय ने कहा कि एक्स को “किसी भी तरह से सबूतों को खराब किए बिना, आईटी नियम, 2021 के तहत निर्धारित समयसीमा के सख्त अनुपालन में, लागू कानूनों के उल्लंघन में पहले से उत्पन्न या प्रसारित सभी सामग्री तक पहुंच को बिना किसी देरी के हटाना या अक्षम करना होगा।”

पत्र में कहा गया है कि सोमवार (5 जनवरी, 2026) तक कंपनी को इन निर्देशों के जवाब में की गई कार्रवाई रिपोर्ट भेजनी होगी। “यह दोहराया जाता है कि उपरोक्त आवश्यकताओं का अनुपालन न करने को गंभीरता से लिया जाएगा और इसके परिणामस्वरूप आपके प्लेटफ़ॉर्म, इसके जिम्मेदार अधिकारियों और प्लेटफ़ॉर्म पर कानून का उल्लंघन करने वाले उपयोगकर्ताओं के खिलाफ आईटी अधिनियम, आईटी नियमों, बीएनएसएस, बीएनएस और अन्य लागू कानूनों के तहत बिना किसी नोटिस के सख्त कानूनी परिणाम हो सकते हैं।”

इससे पहले दिन में, श्री वैष्णव ने कहा कि सोशल मीडिया फर्मों को अपने प्लेटफॉर्म पर सामग्री के लिए “जिम्मेदारी लेनी” चाहिए। श्री वैष्णव ने यह भी बताया कि आईटी पर संसदीय स्थायी समिति ने सोशल मीडिया पर अश्लील सामग्री के लिए एक सख्त कानून की सिफारिश की थी। आईटी मंत्रालय ने इस सप्ताह की शुरुआत में सभी सोशल मीडिया प्लेटफार्मों को एक एडवाइजरी भेजी थी जिसमें उन्हें सक्रिय रूप से “अश्लील” और “अश्लील” सामग्री को हटाने का निर्देश दिया गया था।