पोप लियो ने एआई के भावनात्मक प्रभाव पर चेतावनी दी

रोमन कैथोलिक चर्च के प्रमुख पोप लियो XIV ने अत्यधिक स्नेही एआई चैटबॉट्स के नुकसान के बारे में कड़ी चेतावनी जारी की है, और तथाकथित ‘एआई मनोविकृति’ के बढ़ने पर बढ़ती चिंताओं के बीच विनियमन का आह्वान किया है।

अमेरिका में जन्मे पोंटिफ ने सरकारों से आग्रह किया कि वे एआई चैटबॉट्स और साथी बॉट्स को विनियमित करें ताकि मानव उपयोगकर्ताओं को उनके साथ गंभीर भावनात्मक बंधन बनाने से रोका जा सके। पोप लियो ने शनिवार, 24 जनवरी को लिखा, “जैसे-जैसे हम अपनी सूचना फ़ीड को स्क्रॉल करते हैं, यह समझना मुश्किल हो जाता है कि क्या हम अन्य इंसानों, बॉट्स या आभासी प्रभावशाली लोगों के साथ बातचीत कर रहे हैं।”

उन्होंने कहा, “क्योंकि जो चैटबॉट हमेशा मौजूद और उपलब्ध होने के अलावा अत्यधिक ‘स्नेही’ बनाए जाते हैं, वे हमारी भावनात्मक स्थिति के छिपे हुए आर्किटेक्ट बन सकते हैं और इस तरह से लोगों के अंतरंग क्षेत्रों पर आक्रमण और कब्जा कर सकते हैं।”

उन्होंने आगे लिखा, “उचित विनियमन लोगों को चैटबॉट्स के प्रति भावनात्मक लगाव से बचा सकता है और झूठी, जोड़-तोड़ या भ्रामक सामग्री के प्रसार को रोक सकता है, इसके भ्रामक अनुकरण के खिलाफ जानकारी की अखंडता को संरक्षित कर सकता है।”

पोप लियो की टिप्पणी कैथोलिक चर्च से पहले आई सामाजिक संचार का वार्षिक विश्व दिवस. चूंकि बड़े भाषा मॉडल (एलएलएम) द्वारा संचालित चैटबॉट अधिक लोकप्रिय हो गए हैं, शोधकर्ताओं और मानसिक स्वास्थ्य पेशेवरों ने बार-बार एआई से संबंधित मनोविकृति को उपयोगकर्ताओं के बीच तेजी से आम होने के रूप में चिह्नित किया है।

अनौपचारिक शब्द ‘एआई साइकोसिस’ का उपयोग मोटे तौर पर एआई चैटबॉट्स के गहन उपयोग के बाद वास्तविकता के साथ संपर्क खोने के उपयोगकर्ता अनुभवों का वर्णन करने के लिए किया जाता है। आम तौर पर एआई उद्योग और विशेष रूप से ओपनएआई को चैटजीपीटी जैसे एआई चैटबॉट्स के साथ लंबी बातचीत के बाद कई किशोर उपयोगकर्ताओं की कथित तौर पर आत्महत्या के बाद नीति निर्माताओं, शिक्षकों और बाल-सुरक्षा अधिवक्ताओं की बढ़ती जांच का सामना करना पड़ा है।

ओपनएआई के अपने अध्ययन से यह पता चला है एक मिलियन से अधिक ChatGPT उपयोगकर्ता (साप्ताहिक सक्रिय उपयोगकर्ताओं में से 0.07 प्रतिशत) ने उन्माद, मनोविकृति या आत्मघाती विचारों सहित मानसिक स्वास्थ्य आपात स्थितियों के लक्षण प्रदर्शित किए।

इस विज्ञापन के नीचे कहानी जारी है

पोप लियो XIV ने और क्या कहा?

पोप लियो ने एआई-जनित सामग्री और पत्रकारों सहित लोगों द्वारा बनाई गई सामग्री के बीच स्पष्ट अंतर का आह्वान किया। पोंटिफ ने कहा, “पत्रकारों और अन्य सामग्री निर्माताओं के काम के लेखकत्व और संप्रभु स्वामित्व की रक्षा की जानी चाहिए। सूचना एक सार्वजनिक वस्तु है।”

उन्होंने कहा, “सार्वजनिक संचार के लिए मानवीय निर्णय की आवश्यकता होती है, न कि केवल डेटा पैटर्न की। चुनौती यह सुनिश्चित करना है कि मानवता मार्गदर्शक एजेंट बनी रहे। संचार का भविष्य ऐसा होना चाहिए जहां मशीनें ऐसे उपकरण के रूप में काम करें जो मानव जीवन को जोड़ती हैं और सुविधा प्रदान करती हैं, न कि मानव आवाज को खत्म करती हैं।”

पोप लियो ने कहा, “एआई पर अत्यधिक निर्भरता महत्वपूर्ण सोच और रचनात्मक कौशल को कमजोर करती है, जबकि इन प्रणालियों पर एकाधिकार नियंत्रण शक्ति के केंद्रीकरण और असमानता के बारे में चिंताएं बढ़ाता है।”

ऐसा माना जाता है कि पोप लियो XIV अपने पूर्ववर्तियों की तुलना में डिजिटल दुनिया से अधिक जुड़े हुए हैं। पिछले साल अपने चुनाव के बाद, पोप ने कहा था कि वह एआई को अपने पोप पद का केंद्र बनाना चाहते हैं और प्रौद्योगिकी के विकास के लिए एक नैतिक ढांचे का आह्वान किया था।

इस विज्ञापन के नीचे कहानी जारी है

दिसंबर 2025 में, पोप लियो ने कथित तौर पर एक 14 वर्षीय लड़के के माता-पिता से भी मुलाकात की, जो कथित तौर पर एआई चैटबॉट से जुड़ने के बाद आत्महत्या करके मर गया था।