यहां तक कि कोरी डॉक्टरो – वह व्यक्ति जिसने “एनशिटिफिकेशन” शब्द गढ़ा था – ने शायद ऐसे भविष्य की कल्पना नहीं की होगी जहां सोशल मीडिया प्लेटफॉर्म एआई-जनरेटेड पोर्न और डीपफेक को लापरवाही से सामान्य कर देंगे। फिर भी हम यहाँ हैं.
मेटा तथा वे इन सुविधाओं को आशाजनक रचनात्मकता और पहुंच के रूप में पेश करते हैं, लेकिन वे इंटरनेट की गति को और अधिक गहरे स्तर पर ले जाने का जोखिम उठाते हैं – जिसमें डीपफेक पोर्न और सिंथेटिक सामग्री की भारी बाढ़ शामिल है।
“एन्सचिटिफिकेशन 2.0” में, सोशल मीडिया एक नए निचले स्तर पर पहुंच गया है। लाभ के लिए उपयोगकर्ताओं का शोषण करने के लिए अपनी सेवाओं को ख़राब करने के बाद, ये प्लेटफ़ॉर्म एआई-जनित फूहड़ और अश्लील सामग्री का ढेर बनना शुरू कर रहे हैं।
मेटा का वीडियो-जेनरेशन फीचर, वाइब्स, उपयोगकर्ताओं को एआई-जनरेटेड क्लिप को तुरंत रीमिक्स करने और उन्हें इंस्टाग्राम और फेसबुक पर भेजने की सुविधा देता है। इसमें बहुत अधिक रचनात्मकता की आवश्यकता नहीं है – एक लघु वीडियो बनाने के लिए बस कुछ संकेतों की आवश्यकता है जिसे तुरंत साझा किया जा सकता है।
हाल ही में, इस एआई फीचर का उपयोग कथित तौर पर बच्चों और बॉलीवुड अभिनेताओं के एआई-जनित चित्रणों से युक्त यौन रूप से स्पष्ट सामग्री बनाने के लिए किया गया है। कथित तौर पर एक एआई-जनित वीडियो जिसमें एक प्रमुख (अब दिवंगत) राजनीतिक व्यक्तित्व को एक महिला के स्तन को छूते हुए दिखाया गया है, मेटा एआई ऐप पर भी प्रसारित हुआ है।
जेनरेटिव एआई वीडियो टूल एक एकल उपयोगकर्ता को प्रति दिन सैकड़ों वीडियो बनाने की अनुमति देते हैं। और मेटा के एल्गोरिदम पहले से ही उच्च सहभागिता और उच्च पोस्टिंग आवृत्ति का विशेषाधिकार रखते हैं।
दोनों को मिलाएं, और आपके पास एक ऐसा फ़ीड होगा जो मानव-निर्मित सामग्री के बजाय सिंथेटिक मीडिया पर जल्दी हावी हो सकता है।
दूसरी ओर, एलोन मस्क के स्वामित्व वाला एक्स और भी अधिक परेशान करने वाला मामला प्रस्तुत करता है। प्लेटफ़ॉर्म के AI सहायक, ग्रोक ने हाल ही में उपयोगकर्ताओं को छवियों को एनिमेट करने या उन्हें लघु वीडियो में परिवर्तित करने की अनुमति देने वाली सुविधाएँ जोड़ी हैं।
उपयोगकर्ताओं को तुरंत पता चला कि टूल का उपयोग गैर-सहमति वाले यौन डीपफेक बनाने के लिए किया जा सकता है, जिसमें स्पष्ट या विचारोत्तेजक परिदृश्यों में महिलाओं – और कभी-कभी नाबालिगों – को चित्रित करने वाले वीडियो भी शामिल हैं।
एक्स पर आलोचकों ने बताया है कि इनमें से कई वीडियो तुरंत और सार्वजनिक रूप से उत्पन्न होते हैं, जिसका अर्थ है कि वे मॉडरेशन के नोटिस करने से पहले ही फैल सकते हैं।
और यदि यह पर्याप्त नहीं था, तो श्री मस्क ने हाल ही में एक्स पर पोस्ट किया: “यदि आर-रेटेड फिल्म में इसकी अनुमति है, तो @ग्रोक इमेजिन में भी इसकी अनुमति है।”
इससे पता चलता है कि प्लेटफ़ॉर्म का एआई चैटबॉट वयस्क सामग्री तैयार करने में सक्षम है, जिसमें तीव्र हिंसा, मजबूत भाषा, यौन सामग्री, या नशीली दवाओं का दुरुपयोग शामिल है – ऐसी सामग्री जिसमें फिल्मों में आमतौर पर 17 साल से कम उम्र के दर्शकों के लिए माता-पिता या अभिभावक की आवश्यकता होती है।
डीपफेक पोर्न वर्षों से अस्तित्व में है। लेकिन जनरेटिव एआई उपकरण बड़े पैमाने पर सामाजिक प्लेटफार्मों में सीधे एकीकृत होकर प्रवेश की बाधा को नाटकीय रूप से कम कर देते हैं। जिस सॉफ़्टवेयर के लिए पहले विशेष सॉफ़्टवेयर की आवश्यकता होती थी, उसे अब एक संकेत और कुछ सेकंड से कुछ अधिक की आवश्यकता होती है।
और इन प्लेटफार्मों पर मॉडरेशन तेजी से अप्रभावी दिखाई दे रहा है। यह अक्सर हानिकारक सामग्री फैलने के बाद ही प्रतिक्रिया करता है, और शायद ही कभी ऐसी सामग्री को पहली बार में वायरल होने से रोकता है।
उदाहरण के लिए, एआई वीडियो को अक्सर पहचान के बाद ही लेबल किया जाता है, निर्माण के समय नहीं। डीपफेक सुरक्षा उपाय स्वचालित अवरोधन के बजाय रिपोर्टिंग पर बहुत अधिक निर्भर करते हैं। जनरेटिव उपकरण कितनी तेजी से विकसित होते हैं, इसे बनाए रखने के लिए नीतियों को संघर्ष करना पड़ता है।
दूसरे शब्दों में, मॉडरेशन मॉडल अभी भी मानवीय गति से मानव सामग्री निर्माण मानता है। एआई-जनित सामग्री कहीं अधिक तेजी से संचालित होती है।
तात्कालिक नुकसान से परे – उत्पीड़न, गलत सूचना और डीपफेक पोर्न – एक अधिक संरचनात्मक चिंता है: विश्वास।
सोशल मीडिया फ़ीड पहले से ही भरोसे से जूझ रहे थे। अब कोई भी वीडियो सिंथेटिक हो सकता है, किसी भी व्यक्ति को नकली परिदृश्य में एनिमेटेड किया जा सकता है, और प्लेटफ़ॉर्म स्वयं एआई सामग्री उत्पादन को सक्रिय रूप से प्रोत्साहित कर सकता है।
इससे दृश्य साक्ष्य की प्रामाणिकता ख़त्म होने का ख़तरा है। जब सब कुछ नकली हो सकता है, तो सत्यापन मुश्किल हो जाता है और विश्वास ख़त्म होने लगता है।
डॉक्टरो के एनशिटिफिकेशन के मूल सिद्धांत में बताया गया है कि समय के साथ प्लेटफॉर्म कैसे कमजोर होते जाते हैं। सबसे पहले वे उपयोगकर्ताओं की सेवा करते हैं। फिर वे व्यावसायिक ग्राहकों को सेवा प्रदान करते हैं। अंततः वे मुख्य रूप से अपने लिए मूल्य निकालते हैं।
अब, जेनरेटिव एआई के साथ, हम एक और चरण में उतर सकते हैं – एक जहां प्लेटफ़ॉर्म बड़े पैमाने पर सिंथेटिक सामग्री का उत्पादन करते हैं और उपयोगकर्ताओं को तेजी से कम गुणवत्ता वाले जुड़ाव की ओर धकेलते हैं।
इससे एक व्यापक सांस्कृतिक समस्या पैदा हो सकती है जिसका शीघ्र समाधान किया जाना चाहिए। अन्यथा, इंटरनेट की सामाजिक परत सड़ने लग सकती है।
उस चरण तक पहुंचने से पहले, इन प्लेटफार्मों को अनिवार्य रूप से एआई-जनरेटेड वीडियो को दृश्यमान और स्थायी रूप से वॉटरमार्क करना आवश्यक होना चाहिए। उन्हें सहमति के बिना पहचान योग्य वास्तविक लोगों को चित्रित करने वाली एआई-जनित सामग्री के निर्माण को भी रोकना चाहिए। अंत में, उन्हें ऐसी प्रणालियाँ बनानी चाहिए जो सामग्री के निर्माण के समय सुरक्षा और संयम जाँच शुरू करें – उसके फैलने के बाद नहीं।
प्रकाशित – 12 मार्च, 2026 03:00 अपराह्न IST