कैलिफ़ोर्निया एजी ने डीपफेक छवियों पर एक्सएआई को रोक और विरुद्घ पत्र भेजा

कैलिफोर्निया के अटॉर्नी जनरल, रॉब बोंटा ने शुक्रवार को एलोन मस्क के एक्सएआई को एक संघर्ष विराम पत्र भेजा, जिसमें मांग की गई कि वह गैर-सहमति वाली यौन छवियों के निर्माण और वितरण को रोके।

बोंटा ने शुक्रवार को एक समाचार बयान में कहा, “मुझे पूरी उम्मीद है कि एक्सएआई तुरंत इसका अनुपालन करेगा।”

जेनरेटिव एआई चैटबॉट ग्रोक को उपयोगकर्ताओं को महिलाओं और नाबालिगों की कामुक छवियां बनाने और प्रकाशित करने की अनुमति देने के लिए वैश्विक प्रतिक्रिया का सामना करना पड़ा है, जिससे दुनिया भर के अधिकारियों को टूल के पीछे की फर्म के खिलाफ कार्रवाई करने के लिए प्रेरित किया गया है।

कंपनी ने बुधवार देर रात कहा कि उसने ग्रोक के सभी उपयोगकर्ताओं के लिए छवि-संपादन को सीमित करने वाले प्रतिबंध लगाए हैं।

बोंटा के कार्यालय ने बुधवार को ग्रोक का उपयोग करके उत्पादित गैर-सहमति, यौन रूप से स्पष्ट सामग्री के निर्माण और प्रसार की जांच शुरू की।

जापान, कनाडा और ब्रिटेन ने ग्रोक में जांच शुरू कर दी है, जबकि मलेशिया और इंडोनेशिया ने स्पष्ट छवियों के निर्माण पर ग्रोक तक पहुंच को अस्थायी रूप से अवरुद्ध कर दिया है।

मस्क के एक्सएआई ने पत्र पर टिप्पणी के लिए रॉयटर्स के अनुरोध का जवाब नहीं दिया।