टेनेसी के नाबालिगों ने मस्क के xAI पर मुकदमा दायर किया, और आरोप लगाया कि ग्रोक ने उनकी यौन छवियां बनाईं

दो नाबालिगों सहित तीन टेनेसी वादी ने सोमवार को एलोन मस्क के एक्सएआई पर मुकदमा दायर किया, जिसमें आरोप लगाया गया कि उसने जानबूझकर अपने ग्रोक छवि जनरेटर को डिजाइन किया है ताकि लोग दूसरों की वास्तविक तस्वीरों का उपयोग करके स्पष्ट यौन सामग्री बना सकें।

सैन जोस, कैलिफोर्निया संघीय अदालत में दायर मुकदमा, संयुक्त राज्य अमेरिका में उन लोगों के लिए वर्ग-कार्रवाई की स्थिति की मांग कर रहा है जो स्वयं की वास्तविक छवियों के आधार पर ग्रोक द्वारा उत्पन्न कामुक छवियों या वीडियो में “उचित रूप से पहचाने जाने योग्य” थे।

कृत्रिम बुद्धिमत्ता कंपनी ने टिप्पणी के लिए रॉयटर्स के अनुरोध का तुरंत जवाब नहीं दिया।

चैटबॉट द्वारा उत्पन्न स्पष्ट यौन सामग्री पर नाराजगी के बाद, एक्सएआई ने जनवरी में कहा कि उसने सभी उपयोगकर्ताओं को “खुले कपड़ों में वास्तविक लोगों” की छवियों को संपादित करने और “उन क्षेत्रों में जहां यह अवैध है” कपड़ों में लोगों की छवियों को उत्पन्न करने से रोक दिया है।

दुनिया भर की सरकारों और नियामकों ने भी अवैध और आपत्तिजनक सामग्री पर अंकुश लगाने के लिए जांच शुरू की है, प्रतिबंध लगाए हैं और सुरक्षा उपायों की मांग की है।

मुकदमे में दावा किया गया है कि xAI अपने सिस्टम को नाबालिगों से जुड़ी यौन सामग्री उत्पन्न करने से रोकने के लिए सुरक्षा उपाय स्थापित करने में विफल रहा। जिस समय तस्वीरें बनाई गईं, उस समय तीनों वादी नाबालिग थे।

वादी का आरोप है कि उनकी वास्तविक छवियों को डिजिटल रूप से स्पष्ट सामग्री में बदल दिया गया और फिर प्लेटफार्मों के माध्यम से ऑनलाइन साझा किया गया, जिससे भावनात्मक संकट पैदा हुआ और सार्वजनिक उपद्रव पैदा हुआ।

वे अनिर्दिष्ट क्षति, कानूनी शुल्क और एक्सएआई को कथित प्रथाओं को रोकने के लिए निषेधाज्ञा की मांग कर रहे हैं।

“ये वे बच्चे हैं जिनकी स्कूल की तस्वीरों और पारिवारिक तस्वीरों को बाल यौन शोषण सामग्री में बदल दिया गया था,” लिफ़ कैब्रेसर हेमैन और बर्नस्टीन की वादी की वकील अनिका मार्टिन ने एक बयान में कहा। “एलोन मस्क और एक्सएआई ने जानबूझकर ग्रोक को वित्तीय लाभ के लिए यौन रूप से स्पष्ट सामग्री का निर्माण करने के लिए डिज़ाइन किया था, उन बच्चों और वयस्कों की परवाह किए बिना जिन्हें नुकसान होगा।”