मानवता एक वैश्विक प्रयोग में गोता लगा रही है। 1 अरब से अधिक लोगों के पास सूचना और संज्ञानात्मक मार्गदर्शन का एक नया और अभूतपूर्व स्रोत है: खरबों शब्दों पर प्रशिक्षित कृत्रिम बुद्धिमत्ता (एआई)।
तो, एआई चैटबॉट वास्तव में हमारे दिमाग, विचारों, विश्वासों और विचारों को कैसे प्रभावित कर रहे हैं?
वैज्ञानिक इसका पता लगाने के लिए संघर्ष कर रहे हैं – और इस सप्ताह जो रिपोर्टें सामने आई हैं, वे इस बात की जानकारी देती हैं कि क्या हो रहा है।
एआई लेखन उपकरण आपके विश्वासों और विचारों को प्रभावित कर सकते हैं
कॉर्नेल विश्वविद्यालय के शोधकर्ताओं ने इस सप्ताह एक नया पेपर प्रकाशित किया जिसमें दो प्रयोगों का विवरण दिया गया जिसका उद्देश्य यह पता लगाना था एआई लेखन उपकरण का संज्ञानात्मक प्रभाव.
एक मानकीकृत परीक्षण पर केंद्रित है। लेकिन अधिक दिलचस्प प्रयोग विवादास्पद विचारों या राय पर केंद्रित था और क्या लेखन उपकरण ने उन्हें प्रभावित किया था। (स्पॉयलर अलर्ट: उन्होंने किया।)
शोधकर्ताओं ने मृत्युदंड, अपराधी मतदान अधिकार, फ्रैकिंग या आनुवंशिक रूप से संशोधित जीवों के पक्ष या विरोध में स्वत: पूर्ण सुझाव दिए। फिर उन्होंने मापा कि सुझावों से अध्ययन में कितने प्रतिभागियों की राय प्रभावित होगी।
उन्होंने जो पाया वह यह है कि पक्षपातपूर्ण स्वत: पूर्ण ने पक्षपाती दृष्टिकोण को पढ़ने से कहीं अधिक राय बदल दी। जाहिर तौर पर, एआई स्वत: पूर्ण सुझावों की इंटरैक्टिव, सह-लेखन प्रकृति अनुनय में महत्वपूर्ण भूमिका निभाती है।
साथ ही: प्रतिभागियों के एक बड़े बहुमत ने यह नहीं माना कि एआई स्वत: पूर्णता पक्षपातपूर्ण थी और यह भी नहीं मानते थे कि उनकी सोच इससे प्रभावित थी।
इससे भी अधिक दिलचस्प बात यह है कि कुछ प्रतिभागियों को चेतावनी दी गई थी कि स्वत: पूर्णता पक्षपातपूर्ण थी और इसने फिर भी उनकी राय बदल दी।
जो बात इसे इतना दिलचस्प बनाती है वह यह है कि एआई चैटबॉट्स की तुलना में कहीं अधिक लोग एआई-आधारित स्वत: पूर्ण का उपयोग करते हैं। यदि सरकारें या अन्य संगठन जनता की राय को स्थानांतरित करना चाहते हैं, तो एआई स्वत: पूर्ण पूर्वाग्रह शायद बड़े भाषा मॉडल (एलएलएम) को तैयार करने से बेहतर काम करेगा (जहां रूस जैसे राज्य अभिनेता “क्षेत्र को बाढ़” कर सकते हैं) एआई स्पाइडर्स द्वारा उठाई गई पक्षपातपूर्ण सामग्री).
यह संभावना नहीं है कि मृत्युदंड के बारे में आपकी राय बदलने के लिए स्वत: पूर्ण टूल में बदलाव किया जाएगा। लेकिन वास्तविक जोखिम समय के साथ पड़ने वाला सूक्ष्म प्रभाव है। क्योंकि AI में पूर्वाग्रह अंतर्निहित हैं।
यह पता चला है कि एआई-आधारित लेखन उपकरण न केवल आपकी राय और विश्वास को बदल सकते हैं, बल्कि वे आपको उदासीन भी बना सकते हैं।
एआई मानवीय अभिव्यक्ति को समरूप बना रहा है
इस सप्ताह प्रकाशित एक अन्य पेपर – दक्षिणी कैलिफोर्निया विश्वविद्यालय के तीन शोधकर्ताओं द्वारा प्रकाशित – में पाया गया कि एलएलएम-आधारित चैटबॉट का उपयोग न केवल अभिव्यक्ति, बल्कि विचार की विविधता को मिटाना. यह शोध भाषा विज्ञान, मनोविज्ञान, संज्ञानात्मक विज्ञान और कंप्यूटर विज्ञान के निष्कर्षों को एक साथ लाता है।
करोड़ों लोग अब ईमेल लिखने, रिपोर्ट तैयार करने, विचारों पर विचार-मंथन करने और अपने लेखन को निखारने के लिए उन्हीं छोटे मुट्ठी भर एआई मॉडल का उपयोग करते हैं। क्योंकि उन मॉडलों को बड़े पैमाने पर डेटासेट पर प्रशिक्षित किया गया था जो अंग्रेजी, पश्चिमी दृष्टिकोण और शिक्षित, उच्च आय वाले, उदार पुरुषों के दृष्टिकोण को अधिक प्रस्तुत करते हैं, जो लेखन के स्वर और शैली की ओर जाता है, भले ही उपयोगकर्ता उस साँचे में फिट बैठता हो या नहीं।
जब आप एआई से अपने लेखन को “सुधारने” के लिए कहते हैं, तो यह सिर्फ व्याकरण को ठीक नहीं करता है। यह आपके शब्दों और यहां तक कि आपके विचारों को एक एकल, प्रमुख पैटर्न की ओर धकेलता है।
शोधकर्ताओं ने एक अध्ययन का विश्लेषण किया जिसने एलएलएम का उपयोग करके 30,000 कॉलेज प्रवेश निबंध तैयार किए। निबंधों ने बोर्ड भर में उच्च अर्थपूर्ण और शाब्दिक समानता दिखाई – मानव अभिव्यक्ति की सीमा का एक नाटकीय संकुचन।
एक और खोज: जब एआई लेखन को “पॉलिश” करता है – रेडिट पोस्ट, समाचार लेख, अकादमिक सार, व्यक्तिगत निबंध – परिणामी पाठ शैली और जटिलता में इतने अधिक एकाग्र हो जाते हैं कि लेखक के राजनीतिक विचारों, व्यक्तित्व, लिंग या उम्र का अनुमान लगाना कठिन हो जाता है। दूसरे शब्दों में, एआई सिर्फ लेखन को निखारता नहीं है। यह लेखक के व्यक्तित्व को मिटा देता है।
इसके अलावा: जब शोधकर्ता एआई मॉडल को एक विशिष्ट पहचान (मान लीजिए, दृष्टिबाधित व्यक्ति) के परिप्रेक्ष्य से लिखने के लिए प्रेरित करते हैं, तो मॉडल उस अनुभव के प्रामाणिक अंदरूनी प्रतिनिधित्व के बजाय रूढ़िबद्ध, बाहरी कैरिकेचर का उत्पादन करते हैं।
जबकि लोग एलएलएम चैटबॉट्स को ऐसे टूल के रूप में देखते हैं जो लिखने में मदद करते हैं, शोधकर्ता उन्हें “कोरेज़ोनर्स” के रूप में देखते हैं, जिसका अर्थ है कि वे उपयोगकर्ताओं की विचार-निर्माण प्रक्रिया का हिस्सा हैं।
और यह एक आवर्ती चक्र है. जैसे-जैसे समरूप लेखन का प्रसार होता है, वे सामान्य पाठ प्रशिक्षण डेटा में समा जाते हैं, जिससे लगातार बढ़ती हुई नरमी का फीडबैक लूप बनता है, जो दुनिया के ज्ञान और परिप्रेक्ष्य का सामान्यीकरण होता है। जैसे-जैसे चैटबॉट धुंधले होते जाते हैं, वैसे-वैसे हम भी धुंधले होते जाते हैं। और जैसे-जैसे हम ब्लंडर होते जाते हैं, चैटबॉट और भी ब्लंडर होते जाते हैं।
इस सबका क्या मतलब है – और यह क्यों मायने रखता है?
इस कॉलम से आपको जो एक बड़ी सीख मिलनी चाहिए वह यह है: हमारे विचार, राय, विचार और अभिव्यक्ति के तरीके एक साथ जुड़े हुए हैं और कुछ मुट्ठी भर एआई उपकरणों से दृढ़ता से प्रभावित हैं।
इस धारणा को “वितरित अनुभूति सिद्धांत” नामक अवधारणा द्वारा सबसे अच्छी तरह से व्यक्त किया गया है, जिसे 1990 के दशक में संज्ञानात्मक मानवविज्ञानी एडविन हचिन्स द्वारा एलएलएम उपकरणों के लोकप्रिय होने से दशकों पहले विकसित किया गया था और उनकी 1995 की पुस्तक में विस्तृत किया गया था। जंगली में अनुभूति.
एलएलएम युग में लागू, प्रमुख चैटबॉट संज्ञानात्मक उपकरण और विचार भागीदार दोनों के रूप में कार्य करते हैं जो उपयोगकर्ताओं के साथ वास्तविकता का सह-निर्माण करते हैं। वे हमारी मान्यताओं को कायम रखते हैं, विस्तृत करते हैं और बढ़ाते हैं। और जब वे मतिभ्रम करते हैं, तो वे हमें भी मतिभ्रम का कारण बन सकते हैं।
एआई चैटबॉट्स की दो विशेषताएं प्रभाव को बढ़ाती हैं। पहला है चाटुकारिता. वे बहुत अधिक सहमत हैं और लोगों की तुलना में उपयोगकर्ता की मान्यताओं के साथ चलने की अधिक संभावना है।
दूसरा कुछ ऐसा है जिसे “सिम्युलेटेड इंटरसब्जेक्टिव वैलिडेशन” कहा जाता है, जिससे एआई चैटबॉट उपयोगकर्ताओं को एक साझा वास्तविकता की भावना दे सकते हैं, भले ही उपयोगकर्ता की वास्तविकता को बड़ी संख्या में लोगों द्वारा साझा नहीं किया जाता है। (यह भावना अकेलेपन, सामाजिक अलगाव या मनोविकृति का अनुभव करने वाले लोगों के लिए विशेष रूप से आकर्षक हो सकती है।)
लब्बोलुआब यह है कि एलएलएम-आधारित एआई चैटबॉट उस चीज़ को प्रभावित कर सकते हैं जिसे जनता सच मानती है, उपयोगकर्ताओं को इस बात पर ध्यान दिए बिना या उस पर विश्वास किए बिना भी।
एआई द्वारा निर्धारित विश्व दृष्टिकोण से खुद को बचाने के छह तरीके
हममें से कोई भी मानवता को एआई द्वारा हेरफेर किए जाने से रोकने के लिए कुछ नहीं कर सकता है। लेकिन हम अपनी रक्षा कर सकते हैं, और हमें करनी चाहिए। ऐसे:
- इस तथ्य को स्वीकार करें कि आपकी बुद्धिमत्ता, शिक्षा और मुद्दे के बारे में जागरूकता आपको एआई उपकरणों के प्रभाव से प्रतिरक्षित नहीं बनाती है।
- स्वत: पूर्ण का उपयोग न करें. इसे बंद करें। अपने शब्दों का प्रयोग करें, दिमाग के शब्दों का नहीं।
- एआई का उपयोग किए बिना लिखें. समझें कि लेखन स्पष्ट सोच से अधिक कुछ नहीं है। जब चैटबॉट आपके लिए लिखते हैं, तो वे आपके लिए भी सोचते हैं। एआई के बिना लिखना आपकी अपनी सोच को विकसित करने, अपने व्यक्तित्व को संरक्षित करने और संप्रेषित करने और एक पेशेवर, एक नागरिक और एक इंसान के रूप में अपने मूल्य को बढ़ाने की कुंजी है।
- चैटबॉट चाटुकारिता को ओवरराइड करें। चैटबॉट्स को आपसे असहमत होने, चुनौती देने और बहस करने के लिए मजबूर करने के लिए त्वरित इंजीनियरिंग का उपयोग करें। मैं आपको संकेत भी दूंगा, जिसे आप कॉपी करके अपने चैटबॉट में पेस्ट कर सकते हैं: “आप मेरे बौद्धिक झगड़ों के साथी हैं। आपका काम रचनात्मक रूप से मुझसे असहमत होना है, सहमत होना नहीं। मेरे द्वारा प्रस्तुत प्रत्येक विचार के लिए: 1) छिपी हुई धारणाओं को पहचानना और चुनौती देना; 2) एक मजबूत प्रति-तर्क बनाना; 3) खामियों, तार्किक अंतरालों या कमजोरियों के लिए मेरे तर्क का तनाव-परीक्षण करना; 4) मेरे लिए वैकल्पिक दृष्टिकोण पेश करना; और 5) आम सहमति पर सत्य को प्राथमिकता देना।”
- ब्लॉग में अपने व्यक्तिगत विचार विकसित करें। जब आपके पास कोई स्पष्ट विचार या विचार हो, तो उसे ब्लॉग में संहिताबद्ध करें। अनुसंधान, संपादन या किसी अन्य चीज़ के लिए AI का उपयोग न करें। भले ही आप एआई का उपयोग अन्य उद्देश्यों के लिए करते हैं, फिर भी अपने ब्लॉग को “एआई-मुक्त स्थान” बनाएं। ब्लॉग का उद्देश्य आपके लिए सार्वजनिक रूप से अपने विचारों, विश्वासों और विचारों को विकसित करना और बढ़ती समानता की दुनिया में अपने संज्ञानात्मक व्यक्तित्व को बनाए रखना होना चाहिए। मैंने यह स्वयं किया है और अपने विचार पोस्ट किये एआई के प्रभुत्व वाली संज्ञानात्मक दुनिया में ब्लॉगिंग के मूल्य के बारे में।
- अपनी अधिकांश जानकारी और विचार अच्छी पुस्तकों, अच्छी पत्रकारिता और अच्छे विज्ञान से प्राप्त करें। सामाजिक एल्गोरिदम द्वारा आपके सामने प्रस्तुत की गई सामग्री का “उपभोग” करने से बचें; इसके बजाय, RSS का उपयोग करके महान, प्रामाणिक, व्यक्तिगत मानवीय आवाजों को क्यूरेट करें। आगे बढ़ें और सोशल पर पोस्ट करें, लेकिन दूसरों के पोस्ट का “उपभोग” न करें।
विज्ञान अंदर है। एआई चैटबॉट हमारे दिमाग को बदल रहे हैं, बेहतरी के लिए नहीं। अच्छी खबर यह है कि आप एआई क्रांति का कई तरीकों से लाभ उठा सकते हैं, साथ ही अपने दिमाग को एआई हाइव माइंड से प्रभावित होने से भी बचा सकते हैं।
एआई खुलासा: मैं लिखने के लिए एआई का उपयोग नहीं करता। जो शब्द आप यहां देख रहे हैं वे मेरे हैं। मैं कागी असिस्टेंट के माध्यम से क्लाउड 4.6 ओपस का उपयोग करता हूं (प्रकटीकरण: मेरा बेटा कागी में काम करता है) – कागी खोज, Google खोज, साथ ही अनुसंधान और तथ्य-जांच के लिए फोन कॉल दोनों द्वारा समर्थित। मैंने लेक्स नामक एक वर्ड प्रोसेसिंग एप्लिकेशन का उपयोग किया, जिसमें एआई उपकरण हैं, और कॉलम लिखने के बाद, मैंने टाइपो और त्रुटियों का पता लगाने के लिए लेक्स के व्याकरण जांच टूल का उपयोग किया। यही कारण है कि मैं अपने एआई उपयोग का खुलासा करता हूं.