‘वाइब्स’ फीचर लॉन्च करने के लगभग छह महीने बाद, जिसने उपयोगकर्ताओं को एआई-जनरेटेड वीडियो फ़ीड बनाने और एक्सप्लोर करने की अनुमति दी, मेटा एआई ऐप बच्चों के एआई-जनरेटेड यौन वीडियो क्लिप और सेलिब्रिटी डीपफेक का एक सेसपूल बनना शुरू कर रहा है।
वयस्क महिलाओं के शरीर से छेड़छाड़ किए गए बच्चों के एआई-जनरेटेड वीडियो, वास्तविक बच्चे अनुचित फिल्मी गाने गाते हुए और वयस्क संवाद बोलते हुए, और मशहूर हस्तियों से मिलती-जुलती महिलाओं के कपड़े उतारते हुए, मंच के चारों ओर तैर रहे हैं।
कुछ उपयोगकर्ताओं ने, वीडियो कैप्शन में, उन संकेतों को साझा किया जो उन्होंने संभवतः चित्र बनाने के लिए दर्ज किए थे। उन्होंने खुलासा किया कि कई उपयोगकर्ताओं ने यौन-स्पष्ट सेलिब्रिटी डीपफेक सामग्री बनाने की कोशिश की थी। वास्तविक जीवन की हस्तियों को दर्शाने वाली ऐसी सामग्री का निर्माण और वितरण भारत के आईटी नियमों का उल्लंघन है।
कुछ वीडियो कैप्शन में पुरुष और महिला दोनों बॉलीवुड या अखिल भारतीय अभिनेताओं के नाम शामिल थे, जबकि अन्य में कामुक एआई संस्करण शामिल थे जो कुछ हद तक वास्तविक जीवन की महिलाओं से मिलते जुलते थे। वीडियो में महिला कलाकारों को पुरुषों द्वारा चूमने, छेड़ने और निर्वस्त्र करने के एआई संस्करण दिखाए गए।
एआई-जनरेटेड वीडियो में से एक में महात्मा गांधी जैसा दिखने वाला एक व्यक्ति एक महिला के स्तन को छू रहा था। एक अन्य पोस्ट में जातिसूचक टिप्पणी के साथ एक जोड़े को एक-दूसरे को अनुचित तरीके से छूते हुए दिखाया गया है।
बाल संरक्षण रेलिंग को दरकिनार करते हुए स्पष्ट परिदृश्यों में वर्दीधारी स्कूली लड़कियों के वीडियो तैयार करने के लिए, कुछ उपयोगकर्ताओं के एआई संकेतों/कैप्शन में लड़कियों को 18 वर्ष या उससे अधिक उम्र का बताया गया, लेकिन उन्हें छात्र वर्दी पहने हुए बताया गया।
अन्य संकेतों से पता चला कि उपयोगकर्ता “पारदर्शी छोटी कुर्ती” और “पारदर्शी लाल नीली मिनीस्कर्ट” और “तंग गीली साड़ी” और “ब्लाउज जो उसकी मिड्रिफ को उजागर करता है” और महिला के स्तन पर “कैमरा फोकस” जैसे वाक्यांश डालकर महिलाओं की आंशिक या पूरी तरह से नग्न छवियां उत्पन्न करने की कोशिश कर रहा था। ये कैप्शन अक्सर दूसरों द्वारा पुन: उपयोग किए जाते थे।
ऐसा ही एक वीडियो जिसमें “स्कूल ड्रेस” और “रोमांटिक मूड” में एक “लड़की” का वर्णन किया गया था, जिसमें उसे अंडरवियर में खड़े होने के लिए अपनी शर्ट उतारते हुए दिखाया गया था। कुछ एआई वीडियो में छोटे बच्चों या किशोरों के चेहरों को कम नेकलाइन वाले कपड़े पहने वयस्क महिलाओं के शरीर पर दिखाया गया है।
कई वीडियो स्पष्ट रूप से विकृत या संकेतों से भटके हुए थे, जिससे उन्हें नकली के रूप में पहचानना आसान हो गया। अतिरिक्त अंग और उंगलियां और सिर भी कई वीडियो में एक सामान्य बिंदु थे, क्योंकि ऐप के माध्यम से संकेतों का पुन: उपयोग और रीमिक्स किया गया था।
मेटा एआई के वाइब्स इंस्टाग्राम रील्स या टिकटॉक वीडियो के समान हैं, केवल एआई के साथ पूर्ण या आंशिक रूप से बनाए जाने के अपवाद के साथ। उपयोगकर्ता पृष्ठभूमि ध्वनियाँ भी जोड़ सकते हैं, जैसे ट्रेंडिंग संगीत या लिप-सिंक किए गए संवाद, साथ ही टेक्स्ट कैप्शन भी।
मेटा ने सितंबर 2025 में वाइब्स पेश कियाइसे “मेटा एआई के मीडिया टूल के साथ रचनात्मक प्रेरणा ढूंढना और प्रयोग करना आसान बनाने के लिए डिज़ाइन किया गया” के रूप में वर्णित किया गया है।
एआई वीडियो बनाने के अलावा, मेटा एआई ऐप उपयोगकर्ताओं को अपने एआई ग्लास को प्रबंधित करने की अनुमति देता है, जबकि मेटा एआई सहायक सवालों के जवाब देता है और मल्टी-मीडिया सामग्री उत्पन्न करने में मदद करता है।
स्वीडिश आउटलेट स्वेन्स्का डागब्लाडेट (एसवीडी) और गोटेबोर्ग्स-पोस्टेन (जीपी) की हालिया जांच में आरोप लगाया गया कि ग्राहकों के मेटा एआई चश्मे के माध्यम से रिकोड किए गए बेहद संवेदनशील और व्यक्तिगत फुटेज केन्या में मेटा के उप-अनुबंधित कर्मचारियों को दिखाई दिए। जांच के अनुसार, इसमें यौन मुठभेड़ों, अश्लील साहित्य, बैंक जानकारी और शौचालय यात्राओं के फुटेज शामिल थे।
यूके के एक नियामक ने अधिक जानकारी के लिए सोशल मीडिया दिग्गज से संपर्क किया है।
प्रकाशित – 12 मार्च, 2026 12:49 अपराह्न IST