एक्स का ग्रोक बॉलीवुड एक्टर्स, महिला सोशल मीडिया यूजर्स को फोटो के जरिए निर्वस्त्र करता था

एक्स (पूर्व में ट्विटर) पर एआई चैटबॉट ग्रोक का उपयोग टिप्पणीकारों द्वारा वास्तविक जीवन की महिलाओं की तस्वीरों को बदलकर डिजिटल रूप से कपड़े उतारने के लिए किया गया था, ग्रोक के स्वयं के हैंडल के माध्यम से सार्वजनिक रूप से दिखाई देने वाली विकृत छवियों के साथ।

30 दिसंबर को एक्स पर एक फिल्म पत्रकारिता आउटलेट द्वारा साझा की गई दो बॉलीवुड अभिनेताओं की तस्वीर के जवाब में, उपयोगकर्ताओं ने ग्रोक को महिलाओं के कपड़े को बिकनी से बदलने, उन्हें चूमने, उनके कपड़ों को पारदर्शी बनाने, या स्पष्ट कृत्यों को अंजाम देने के लिए प्रेरित किया।

ग्रोक अक्सर अवैध उपयोगकर्ता अनुरोधों का अनुपालन करता है, जिससे आंशिक नग्नता की स्थिति में महिलाओं की तस्वीरें तैयार होती हैं।

हालाँकि, बिना सहमति के कपड़े उतारने की ये हरकतें मशहूर हस्तियों तक ही सीमित नहीं थीं। उपयोगकर्ताओं ने कैज़ुअल सोशल मीडिया उपयोगकर्ताओं की तस्वीरों के नीचे ग्रोक को भी टैग किया, जिसमें चैटबॉट को महिलाओं के कपड़े उतारने या स्पष्ट चित्र बनाने के लिए उनके शरीर को रूपांतरित करने का निर्देश दिया गया।

अनुरोधों को अस्वीकार करने के बजाय, ग्रोक ने अक्सर अनुपालन किया और महिलाओं के यौन डीपफेक बनाए, जो बाद में उसके अपने प्रोफ़ाइल का हिस्सा बन गए।

जबकि एक्स के सहायता केंद्र का कहना है कि उपयोगकर्ता “उनकी सहमति के बिना उत्पादित या वितरित किए गए किसी व्यक्ति की अंतरंग तस्वीरें या वीडियो पोस्ट या साझा नहीं कर सकते हैं”, ऐसी छवियां अभी भी ग्रोक द्वारा उत्पन्न की गई थीं।

एक्स-मालिक एलोन मस्क ने बमुश्किल कपड़े पहने काल्पनिक महिलाओं के वीडियो बनाने के लिए ग्रोक का उपयोग किया है, जिससे उनके 230 मिलियन से अधिक अनुयायियों को भी इस टूल को आज़माने के लिए प्रोत्साहित किया गया है।

द हिंदू टिप्पणी के लिए एक्सएआई की सुरक्षा और मीडिया टीमों से संपर्क किया, और इसकी प्रेस ईमेल आईडी से एक स्वचालित संदेश प्राप्त हुआ जिसमें कहा गया था, “विरासत मीडिया झूठ बोलता है।”