“क्या नेतन्याहू असली हैं या एआई?” इंटरनेट पर एक हेडलाइन जोरों से बज रही थी, जो एक वीडियो की ओर इशारा कर रही थी, जिसमें कथित तौर पर इजरायली प्रधान मंत्री को छह उंगलियों के साथ दिखाया गया था।
लेकिन क्लिप असली थी.
अनुसरण करें | ईरान-इज़राइल युद्ध लाइव अपडेट
अटकलें ऑनलाइन फैल गईं कि नेतन्याहू ईरानी हमले में मारे जा सकते हैं या घायल हो सकते हैं और इज़राइल इसे कृत्रिम बुद्धि द्वारा उत्पन्न दोहरे तरीके से कवर कर रहा है।
एक्स पर एक पोस्ट में कहा गया, “पिछली बार जब मैंने जांच की थी, तो इंसानों के पास आमतौर पर 6 उंगलियां नहीं होतीं… एआई के पास होती हैं,” लगभग पांच मिलियन बार देखा गया। “क्या नेतन्याहू अब नहीं रहे?”
डिजिटल फोरेंसिक शोधकर्ता “अतिरिक्त” उंगली की व्याख्या करने में तत्पर थे: प्रकाश की एक चाल जिसने उसकी हथेली के हिस्से को एक अतिरिक्त अंक जैसा बना दिया।
लेकिन वह संदेश ऑनलाइन हंगामे में काफी हद तक दब गया। यह भी कम मायने रखता है कि उन्नत एआई विज़ुअल जेनरेटर, जो अब सेकंड के भीतर बेहद वास्तविक दिखने वाले डीपफेक को तैयार करने में सक्षम हैं, ने अतिरिक्त उंगलियों की एक बार-बताने वाली गड़बड़ी को काफी हद तक मिटा दिया है।
तो जब पश्चिम एशिया युद्ध के धुंध में वास्तविकता और मनगढ़ंत के बीच की रेखा इतनी धुंधली हो गई है तो आप यह कैसे साबित करेंगे कि जो वास्तविक है वह वास्तविक है?
कुछ दिनों बाद, नेतन्याहू ने एक और वीडियो पोस्ट किया: एक कॉफ़ी शॉप से जीवन का सबूत देने वाली क्लिप।
उसने दोनों हाथ ऊपर उठाये मानो संशयवादियों को अपनी उंगलियाँ गिनने की चुनौती दे रहा हो।
लेकिन अटकलों को शांत करने के बजाय, वीडियो ने निराधार सिद्धांतों की एक नई लहर को हवा दे दी।
एक वायरल थ्रेड्स पोस्ट में कहा गया, “अधिक एआई,” यह सवाल करते हुए कि एक बड़े घूंट के बाद भी उसका कप भरा हुआ क्यों रहा।
नेतन्याहू द्वारा तीसरा वीडियो पोस्ट करने के बाद भी संदेह कायम रहा, यह वीडियो इज़राइल में अमेरिकी राजदूत माइक हुकाबी के साथ था।
कुछ ऑनलाइन जासूसों ने नेतन्याहू के कानों को ज़ूम इन करके दावा किया कि उनका आकार और आकार पुरानी छवियों से मेल नहीं खाता है।
संघर्ष शुरू होने के बाद से एएफपी के वैश्विक नेटवर्क ने कई भाषाओं में 500 से अधिक झूठी सूचनाओं का खंडन किया है, ऐसी दर इस तरह के संकट में पहले कभी नहीं देखी गई थी। उनमें से एक चौथाई से पाँचवें के बीच AI का उपयोग किया गया।
यूक्रेन पर रूसी आक्रमण, इज़राइल-गाजा युद्ध और भारत और पाकिस्तान के बीच संघर्ष, सभी ने एआई-जनित सामग्री की लहरें शुरू कर दीं।
शोधकर्ताओं का कहना है कि पश्चिम एशिया युद्ध को जो चीज अलग करती है, वह उन्नत उपकरणों द्वारा उत्पादित एआई छवियों की विशाल मात्रा और यथार्थवाद है, जो सस्ते हैं और हेरफेर के कई पुराने संकेतों को खत्म करने में सक्षम हैं।
टेक प्लेटफ़ॉर्म अब उस चीज़ से भर गए हैं जिसे व्यापक रूप से “एआई स्लोप” कहा जाता है।
इसका परिणाम विश्वास का गहराता संकट है क्योंकि अति-यथार्थवादी एआई निर्माण प्रामाणिक छवियों और वीडियो के साथ ध्यान आकर्षित करने के लिए प्रतिस्पर्धा करते हैं और अक्सर गायब हो जाते हैं।
ब्रिटेन में ससेक्स विश्वविद्यालय में एआई अनुसंधान समूह का नेतृत्व करने वाले थॉमस नोवोटनी ने एएफपी को बताया, “मुझे लगता है कि इस समय हम सभी को फोटो, वीडियो और ऑडियो को अफवाहों के समान मानना शुरू करने की जरूरत है।”
आयरलैंड के मेनुथ विश्वविद्यालय के प्रोफेसर, कॉन्स्टेंस डी सेंट लॉरेंट के लिए मुद्दा “इतना नहीं है कि लोग गलत सूचना पर विश्वास करें”, यह है कि “वे वास्तविक समाचार देखते हैं और वे अब इस पर भरोसा नहीं करते हैं।”
नकली उत्पादों की संख्या ने बड़े पैमाने पर पेशेवर तथ्य-जाँचकर्ताओं की सत्यापन क्षमता को पीछे छोड़ दिया है।
काम अक्सर एक अजीब-अजीब खेल जैसा लगता है। फर्जी दावों से भरे प्लेटफार्मों पर खारिज किए गए दावे नियमित रूप से दोबारा सामने आते हैं, एक पैटर्न जिसे कुछ शोधकर्ता “ज़ोंबी” गलत सूचना कहते हैं।
एल्गोरिदम जुड़ाव के आधार पर सामग्री को बढ़ाते हैं, और जुड़ाव अक्सर सनसनीखेज, आक्रोश और गलत सूचना से प्रेरित होता है।
सेंट लॉरेंट ने कहा, “सोशल मीडिया प्लेटफ़ॉर्म अपने उपयोगकर्ताओं को मुख्य रूप से अपने फ़ीड के माध्यम से जो दिखाने का निर्णय लेते हैं, उसके माध्यम से संपादक के रूप में कार्य करते हैं। और अक्सर, इसमें हानिकारक सामग्री और गलत सूचना शामिल होती है।”
वित्तीय प्रोत्साहन समस्या को और अधिक बढ़ा देते हैं। एक्स सहित कुछ प्लेटफ़ॉर्म, रचनाकारों को जुड़ाव के आधार पर राजस्व अर्जित करने की अनुमति देते हैं, जिससे प्रभावशाली लोगों को क्लिक के लिए भ्रामक या पूरी तरह से मनगढ़ंत सामग्री को आगे बढ़ाने के लिए प्रोत्साहित किया जाता है।
लंदन स्थित इंस्टीट्यूट फॉर स्ट्रैटेजिक डायलॉग (आईएसडी) के अनुसार, पश्चिम एशिया युद्ध के बारे में एआई सामग्री पोस्ट करने वाले एक्स खातों के एक नेटवर्क ने संघर्ष शुरू होने के बाद से एक अरब से अधिक बार देखा है।
एक अन्य वायरल उदाहरण में, एक एक्स अकाउंट ने एक एआई वीडियो पोस्ट किया जिसमें दुबई की बुर्ज खलीफा गगनचुंबी इमारत धूल के बादल में ढहती हुई दिखाई दे रही है।
सूचना युद्ध विश्लेषक टैल हागिन ने पोस्ट किए जाने के 20 घंटे बाद एक्स पर लिखा, “10 मिलियन बार देखा गया और कोई सामुदायिक नोट नहीं। हमने आपको पकाया।”
जब तक एक सामुदायिक नोट, एक भीड़-स्रोत सत्यापन प्रणाली, जिसकी प्रभावशीलता पर शोधकर्ताओं द्वारा बार-बार सवाल उठाए गए हैं, कुछ घंटों बाद पोस्ट में जोड़ा गया, तब तक वीडियो को 12 मिलियन से अधिक बार देखा जा चुका था।
एलोन मस्क के स्वामित्व वाले प्लेटफ़ॉर्म की घोषणा के बाद भी एक्स पर सिंथेटिक सामग्री का प्रसार जारी है, अगर वे बिना किसी लेबल के एआई युद्ध वीडियो पोस्ट करते हैं, तो यह रचनाकारों को दंडित करेगा, उन्हें 90 दिनों के लिए अपने राजस्व-साझाकरण कार्यक्रम से निलंबित कर देगा।
मेम-संचालित एआई सामग्री जो गलत सूचना फैलाते हुए संघर्ष को तुच्छ बनाती है, वह तेजी से डिजिटल प्लेटफार्मों पर वास्तविकता को खत्म कर रही है, जिसे आईएसडी शोधकर्ता युद्ध प्रचार का “लेगोफिकेशन” कहते हैं।
युद्ध के पहले सप्ताह में एक नकली ईरानी एआई “लेगो मूवी” वायरल हो गई, जिसमें अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प पर जेफरी एपस्टीन घोटाले में अपनी भूमिका से ध्यान भटकाने के लिए तेहरान पर हमला करने का आरोप लगाया गया।
सजीव मीम वीडियो का उपयोग काल्पनिक ईरानी सैन्य जीतों को चित्रित करने के लिए भी किया गया है और यहां तक कि होर्मुज के रणनीतिक जलडमरूमध्य को एक कार्टूनिस्ट टोल बूथ के रूप में फिर से कल्पना की गई है।
ट्रम्प ने खुद चेतावनी दी है कि एआई एक “दुष्प्रचार का हथियार बन गया है जिसका उपयोग ईरान काफी अच्छे से करता है।”
उन्होंने ट्रुथ सोशल पर लिखा, “जिन इमारतों और जहाजों में आग लगी हुई दिखाई गई है, वे नहीं हैं – यह एआई द्वारा उत्पन्न फर्जी खबर है।”
फिर भी अमेरिकी राष्ट्रपति ने प्रौद्योगिकी को बड़े पैमाने पर अपनाया है, खुद को राजा और सुपरमैन के रूप में चित्रित करने के लिए एआई-जनित छवियों और वीडियो को साझा किया है, जबकि विरोधियों को अपराधियों या हंसी के पात्र के रूप में पेश किया है।
उन्होंने साजिश के सिद्धांतों और झूठी कहानियों को बढ़ावा देने के लिए एआई मेम्स का भी उपयोग किया है।
इस बीच, आईएसडी के अनुसार, रूस से जुड़े समन्वित सूचना संचालन ऑनलाइन अराजकता का फायदा उठा रहे हैं, झूठ फैलाने के लिए बीबीसी जैसे विश्वसनीय मीडिया आउटलेट का प्रतिरूपण कर रहे हैं।
कंटेंट मॉडरेशन निर्णयों की समीक्षा करने के लिए फेसबुक द्वारा बनाई गई संस्था मेटा ओवरसाइट बोर्ड ने पिछले महीने कहा था, “हमारा मानना है कि तकनीकी प्लेटफॉर्म वर्तमान में उपयोगकर्ताओं को यह पहचानने में मदद करने के लिए पर्याप्त प्रयास नहीं कर रहे हैं कि सामग्री एआई-जनरेटेड है या प्रामाणिक है।”
इसमें कहा गया है, “फर्जी सामग्री अधिक हिंसा भड़काने और आगे संघर्ष को बढ़ावा देकर हानिकारक हो सकती है।”
एएफपी एशिया, लैटिन अमेरिका और यूरोपीय संघ सहित फेसबुक के तथ्य-जांच कार्यक्रम के साथ 26 भाषाओं में काम करता है।
मेटा ने पिछले साल अमेरिका में अपने तीसरे पक्ष के तथ्य-जांच कार्यक्रम को समाप्त कर दिया था, मुख्य कार्यकारी मार्क जुकरबर्ग ने कहा था कि इससे “बहुत अधिक सेंसरशिप” हो गई थी; कार्यक्रम के समर्थकों द्वारा एक दावे को दृढ़ता से खारिज कर दिया गया।
इसके बजाय, जुकरबर्ग ने कहा कि मेटा के प्लेटफॉर्म, फेसबुक और इंस्टाग्राम, “सामुदायिक नोट्स” मॉडल का उपयोग करेंगे; आलोचकों का तर्क है कि यह कदम गलत सूचना के खिलाफ सुरक्षा उपायों को और कमजोर कर सकता है।
मेटा के ओवरसाइट बोर्ड ने चेतावनी दी कि संयुक्त राज्य अमेरिका के बाहर मॉडल का विस्तार दमन या संघर्ष के तहत रहने वाले लोगों के लिए “महत्वपूर्ण मानवाधिकार जोखिम पैदा कर सकता है और वास्तविक नुकसान में योगदान दे सकता है”।
एआई का पता लगाने वाले उपकरण सूचना युद्ध के कोहरे को दूर करने के लिए थे। इसके बजाय, वे कभी-कभी इसे सघन बना रहे हैं।
नेतन्याहू मामले में, साजिश सिद्धांतकारों ने एक एआई डिटेक्शन टूल की ओर इशारा किया, जिसने उनके कॉफी शॉप वीडियो को “96.9 प्रतिशत एआई-जनरेटेड” के रूप में गलत लेबल दिया। अन्य उपकरण विपरीत निष्कर्ष पर पहुँचे।
समस्या वीडियो से आगे तक फैली हुई है. शोधकर्ताओं का कहना है कि सोशल मीडिया मनगढ़ंत सैटेलाइट इमेजरी, हीटमैप और अन्य छद्म फोरेंसिक दृश्यों से भरा पड़ा है, जिनका इस्तेमाल युद्ध के वास्तविक सबूतों पर संदेह जताने के लिए किया जाता है।
गलत सूचना निगरानी संस्था न्यूजगार्ड की सोफिया रुबिन्सन ने कहा, “एआई डीपफेक का उदय और वास्तविक फुटेज को खारिज करना एक ही सिक्के के दो पहलू हैं।”
“जब हर चीज़ नकली हो सकती है, तो यह विश्वास करना आसान हो जाता है कि कुछ भी नकली है।”
सोशल मीडिया उपयोगकर्ताओं ने न्यूयॉर्क टाइम्स जैसे प्रमुख मीडिया संगठनों पर एआई-जनित संघर्ष छवियों को प्रकाशित करने का झूठा आरोप लगाया है, जिसमें तेहरान में एक बड़ी भीड़ को नए अयातुल्ला मोजतबा खामेनेई का जश्न मनाते हुए दिखाया गया है।
जो लोग गलत सूचना से लाभान्वित होते हैं वे आसानी से इसका फायदा उठा सकते हैं, एक घटना जिसे शोधकर्ता “झूठे का लाभांश” कहते हैं, जहां वास्तविक लेकिन अप्रिय जानकारी को एआई-जनित के रूप में खारिज कर दिया जाता है।
गैर-लाभकारी समाचार साक्षरता परियोजना में शिक्षा सामग्री के वरिष्ठ निदेशक हन्ना कोविंगटन ने कहा, “एआई तकनीक को आप जो कुछ भी देखते और सुनते हैं उस पर भरोसा करने की अपनी इच्छा को कम न करने दें।”
कोविंगटन ने एएफपी को बताया, “बुरे अभिनेता यही चाहते हैं: लोग यह सोचें कि सब कुछ नकली हो सकता है, इसलिए वे किसी भी चीज़ पर भरोसा नहीं कर सकते।”
उस बदलाव के संकेत पहले से ही दिखाई दे रहे हैं, क्योंकि वास्तविक घटनाओं की नकली छवियां सूचना परिदृश्य को और प्रदूषित करती हैं।
28 फरवरी को मिनाब शहर के एक प्राथमिक विद्यालय पर घातक हमले के बाद, एक्स पर एक आधिकारिक ईरानी अकाउंट ने एक तस्वीर पोस्ट की जिसमें एक बच्चे का बैकपैक खून और धूल से सना हुआ दिख रहा था।
एएफपी ने पाया कि छवि संभवतः एआई-जनरेटेड थी। लेकिन ऑनलाइन कुछ लोग इस बात से परेशान दिखे कि वास्तविक स्कूली बच्चों की मौत को दर्शाने के लिए एक मनगढ़ंत छवि का इस्तेमाल किया गया था।
एक Reddit उपयोगकर्ता ने लिखा, “संभवतः AI द्वारा संपादित, लेकिन अर्थ वास्तविक है।”