कृत्रिम बुद्धि-संचालित टूल द्वारा सहमति के बिना उत्पन्न महिलाओं और बच्चों की कामुक छवियों में हाल ही में वृद्धि के बाद एलोन मस्क के एआई चैटबॉट ग्रोक को दुनिया भर की सरकारों से आलोचना का सामना करना पड़ रहा है।
मंगलवार को, ब्रिटेन के शीर्ष प्रौद्योगिकी अधिकारी ने मांग की कि मस्क का सोशल मीडिया प्लेटफॉर्म एक्स तत्काल कार्रवाई करे, जबकि एक पोलिश सांसद ने इसे डिजिटल सुरक्षा कानून बनाने का कारण बताया।
यूरोपीय संघ की कार्यकारी शाखा ने ग्रोक की निंदा की है जबकि फ्रांस, भारत, मलेशिया और ब्राजील के अधिकारियों और नियामकों ने मंच की निंदा की है और जांच की मांग की है।
अलग-अलग देशों की ओर से बढ़ती चिंता न्यूडिफिकेशन ऐप्स की भयावह क्षमता की ओर इशारा करती है जो कृत्रिम बुद्धिमत्ता का उपयोग करके स्पष्ट यौन डीपफेक छवियां उत्पन्न करते हैं।
यहां करीब से देखें:
समस्या पिछले साल ग्रोक इमेजिन के लॉन्च के बाद उभरी, एक एआई इमेज जनरेटर जो उपयोगकर्ताओं को टेक्स्ट प्रॉम्प्ट टाइप करके वीडियो और चित्र बनाने की अनुमति देता है। इसमें एक तथाकथित “मसालेदार मोड” शामिल है जो वयस्क सामग्री उत्पन्न कर सकता है।
यह पिछले महीने के अंत में बर्फ़ीला हो गया जब ग्रोक, जिसे एक्स पर होस्ट किया गया है, ने स्पष्ट रूप से दूसरों द्वारा पोस्ट की गई छवियों को संशोधित करने के लिए बड़ी संख्या में उपयोगकर्ता अनुरोधों को स्वीकार करना शुरू कर दिया। मंगलवार तक, ग्रोक उपयोगकर्ता अभी भी “उसे पारदर्शी बिकनी में रखो” जैसे अनुरोधों का उपयोग करके महिलाओं की छवियां उत्पन्न कर सकते थे।
समस्या इसलिए बढ़ गई है क्योंकि मस्क अपने चैटबॉट को अधिक सुरक्षा उपायों के साथ प्रतिद्वंद्वियों के लिए एक तेज विकल्प के रूप में पेश करता है, और क्योंकि ग्रोक की छवियां सार्वजनिक रूप से दिखाई देती हैं, और इसलिए आसानी से फैलाई जा सकती हैं।
गैर-लाभकारी समूह एआई फोरेंसिक ने एक रिपोर्ट में कहा कि उसने 25 दिसंबर से 1 जनवरी के बीच ग्रोक द्वारा बनाई गई 20,000 छवियों का विश्लेषण किया और पाया कि 2% में बिकनी या पारदर्शी कपड़ों में 18 या उससे कम उम्र के व्यक्ति को दर्शाया गया है, जिसमें 30 युवा या बहुत कम उम्र की महिलाएं या लड़कियां शामिल हैं।
मस्क की कृत्रिम बुद्धिमत्ता कंपनी, xAI ने टिप्पणी के अनुरोध का स्वचालित प्रतिक्रिया, “लिगेसी मीडिया लाइज़” के साथ जवाब दिया।
हालाँकि, एक्स ने इस बात से इनकार नहीं किया कि ग्रोक के माध्यम से उत्पन्न परेशानी वाली सामग्री मौजूद है। फिर भी इसने अपने सुरक्षा खाते पर एक पोस्ट में दावा किया कि यह बाल यौन शोषण सामग्री सहित अवैध सामग्री के खिलाफ कार्रवाई करता है, “इसे हटाकर, खातों को स्थायी रूप से निलंबित करके, और आवश्यकतानुसार स्थानीय सरकारों और कानून प्रवर्तन के साथ काम करके।”
प्लेटफ़ॉर्म ने मस्क की एक टिप्पणी भी दोहराई, जिसमें कहा गया था, “अवैध सामग्री बनाने के लिए ग्रोक का उपयोग करने वाले किसी भी व्यक्ति को उसी तरह के परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं।”
देशों की बढ़ती सूची मांग कर रही है कि मस्क स्पष्ट या अपमानजनक सामग्री पर लगाम लगाने के लिए और अधिक प्रयास करें।
प्रौद्योगिकी सचिव लिज़ केंडल ने मंगलवार को कहा कि एक्स को समस्या से “तत्काल” निपटना चाहिए, उन्होंने कहा कि वह यूके के संचार नियामक, ऑफकॉम से अतिरिक्त जांच का समर्थन करती हैं।
केंडल ने कहा कि सामग्री “बिल्कुल भयावह और सभ्य समाज में अस्वीकार्य है।”
“हम इन अपमानजनक और अपमानजनक छवियों के प्रसार की अनुमति नहीं दे सकते हैं और न ही देंगे, जो महिलाओं और लड़कियों के लिए असंगत रूप से लक्षित हैं।”
ऑफकॉम ने सोमवार को कहा कि उसने एक्स के साथ “तत्काल संपर्क” किया है।
वॉचडॉग ने कहा, “हम ग्रोक ऑन एक्स पर एक फीचर के बारे में उठाई गई गंभीर चिंताओं से अवगत हैं जो लोगों की नग्न छवियां और बच्चों की कामुक छवियां उत्पन्न करता है।”
वॉचडॉग ने कहा कि उसने ब्रिटिश नियमों के अनुपालन के लिए क्या कदम उठाए हैं, यह समझने के लिए उसने एक्स और एक्सएआई दोनों से संपर्क किया।
यूके के ऑनलाइन सुरक्षा अधिनियम के तहत, सोशल मीडिया प्लेटफ़ॉर्म को इसके बारे में पता चलने पर बाल यौन शोषण सामग्री को रोकना और हटाना होगा।
एक पोलिश सांसद ने मंगलवार को ग्रोक को राष्ट्रीय डिजिटल सुरक्षा कानून के लिए एक कारण के रूप में इस्तेमाल किया, जो नाबालिगों के लिए सुरक्षा बढ़ाएगा और अधिकारियों के लिए सामग्री को हटाना आसान बना देगा।
एक ऑनलाइन वीडियो में, संसद के स्पीकर व्लोडज़िमिर्ज़ ज़ारज़ास्टी ने कहा कि वह समस्या को उजागर करने के लिए खुद को ग्रोक का लक्ष्य बनाना चाहते थे, साथ ही कानून के समर्थन के लिए पोलैंड के राष्ट्रपति से अपील करना चाहते थे।
यूरोपीय आयोग के प्रवक्ता थॉमस रेग्नियर ने कहा कि ब्लॉक की कार्यकारी शाखा “अच्छी तरह से जानती है” कि ग्रोक का उपयोग “बच्चों जैसी छवियों के साथ उत्पन्न कुछ आउटपुट के साथ स्पष्ट यौन सामग्री” के लिए किया जा रहा है।
उन्होंने सोमवार को संवाददाताओं से कहा, “यह मसालेदार नहीं है। यह गैरकानूनी है। यह भयावह है। यह घृणित है। हम इसे इसी तरह देखते हैं, और यूरोप में इसकी कोई जगह नहीं है। यह पहली बार नहीं है कि ग्रोक इस तरह का उत्पादन कर रहा है।”
रेग्नियर के अनुसार, पिछले साल ग्रोक द्वारा होलोकॉस्ट-इनकार की सामग्री फैलाने के बाद, आयोग ने मस्क के सोशल मीडिया प्लेटफॉर्म एक्स से अधिक जानकारी मांगी थी। एक्स की प्रतिक्रिया का वर्तमान में विश्लेषण किया जा रहा है, उन्होंने कहा।
पेरिस अभियोजक के कार्यालय ने कहा कि अधिकारियों को सांसदों से शिकायतें मिलने के बाद वह एक्स की चल रही जांच का दायरा बढ़ा रहा है, जिसमें स्पष्ट यौन डीपफेक को भी शामिल किया जा रहा है।
पिछले सप्ताह एक सरकारी बयान के अनुसार, तीन सरकारी मंत्रियों ने अभियोजकों को ग्रोक द्वारा उत्पन्न और एक्स पर पोस्ट की गई “स्पष्ट रूप से अवैध सामग्री” के प्रति सचेत किया।
सरकार ने यूरोपीय संघ के डिजिटल सेवा अधिनियम के संभावित उल्लंघनों पर देश के संचार नियामक के साथ समस्याओं को भी चिह्नित किया।
सरकार ने कहा, “इंटरनेट न तो अराजक क्षेत्र है और न ही दण्ड से मुक्ति का क्षेत्र है: ऑनलाइन किए गए यौन अपराध अपने आप में आपराधिक अपराध हैं और पूरी तरह से कानून के अंतर्गत आते हैं, जैसे ऑफ़लाइन किए गए अपराध।”
भारत सरकार ने शुक्रवार को एक्स को एक अल्टीमेटम जारी किया, जिसमें मांग की गई कि वह सभी “गैरकानूनी सामग्री” को हटा दे और आपत्तिजनक उपयोगकर्ताओं के खिलाफ कार्रवाई करे। देश के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने कंपनी को ग्रोक के “तकनीकी और शासन ढांचे” की समीक्षा करने और की गई कार्रवाई पर एक रिपोर्ट दाखिल करने का भी आदेश दिया।
मंत्रालय ने ग्रोक पर एआई के “घोर दुरुपयोग” और महिलाओं को अशोभनीय रूप से बदनाम करने के लिए “अपमानजनक या अश्लील तरीके से उनकी अश्लील तस्वीरें या वीडियो बनाने और साझा करने की अनुमति देकर इसके सुरक्षा उपायों और प्रवर्तन की गंभीर विफलताओं” का आरोप लगाया।
मंत्रालय ने चेतावनी दी कि 72 घंटे की समय सीमा का पालन करने में विफलता से कंपनी को बड़ी कानूनी समस्याओं का सामना करना पड़ेगा, लेकिन भारत से कोई सार्वजनिक अपडेट नहीं मिलने पर समय सीमा बीत गई।
मलेशियाई संचार निगरानी संस्था ने शनिवार को कहा कि वह उन एक्स उपयोगकर्ताओं की जांच कर रही है जिन्होंने “बेहद आपत्तिजनक, अश्लील या अश्लील सामग्री” फैलाने पर रोक लगाने वाले कानूनों का उल्लंघन किया है।
मलेशियाई संचार और मल्टीमीडिया आयोग ने कहा कि वह एक्स पर ऑनलाइन नुकसान की भी जांच कर रहा है, और कंपनी के प्रतिनिधि को बुलाएगा।
वॉचडॉग ने कहा कि उसने एक्स के एआई टूल्स के बारे में सार्वजनिक शिकायतों पर ध्यान दिया है, जिसका उपयोग डिजिटल रूप से “महिलाओं और नाबालिगों की छवियों को अश्लील, घोर आक्रामक या अन्यथा हानिकारक सामग्री बनाने के लिए” हेरफेर करने के लिए किया जा रहा है।
कानूनविद् एरिका हिल्टन ने कहा कि उन्होंने ग्रोक और एक्स की सूचना ब्राजील के संघीय लोक अभियोजक के कार्यालय और देश के डेटा संरक्षण निगरानीकर्ता को दी।
एक सोशल मीडिया पोस्ट में, उन्होंने दोनों पर सहमति के बिना महिलाओं और बच्चों की यौन तस्वीरें बनाने और फिर प्रकाशित करने का आरोप लगाया।
उन्होंने कहा कि जांच पूरी होने तक एक्स के एआई कार्यों को अक्षम कर दिया जाना चाहिए।
ब्राज़ील के पहले ट्रांसजेंडर सांसदों में से एक, हिल्टन ने निंदा की कि कैसे उपयोगकर्ता ग्रोक से किसी भी प्रकाशित तस्वीर को डिजिटल रूप से बदल सकते हैं, जिसमें “महिलाओं और लड़कियों के कपड़ों को बिकनी से बदलना या उन्हें विचारोत्तेजक और कामुक बनाना” शामिल है।
“किसी की छवि का अधिकार व्यक्तिगत है; इसे सोशल नेटवर्क के ‘उपयोग की शर्तों’ के माध्यम से स्थानांतरित नहीं किया जा सकता है, और एक सोशल नेटवर्क में एकीकृत कृत्रिम बुद्धिमत्ता द्वारा बाल पोर्न (एस्टेरिस्क)जीआर (एस्टेरिस्क)फी का बड़े पैमाने पर वितरण सभी सीमाओं को पार कर जाता है,” उसने कहा।