मैंने पहली बार पिछले साल देखा कि चैटजीपीटी कितना आकर्षक हो सकता है, जब मैंने एक सप्ताह के लिए अपने सभी निर्णय लेने की प्रक्रिया को जेनरेटिव एआई पर केंद्रित कर दिया।
मैंने उस प्रयोग के लिए सभी प्रमुख चैटबॉट्स को आज़माया, और मुझे पता चला कि प्रत्येक का अपना व्यक्तित्व था। एन्थ्रोपिक का क्लाउड अध्ययनशील और थोड़ा कांटेदार था। Google का जेमिनी संपूर्ण व्यवसाय था। इसके विपरीत, ओपनएआई का चैटजीपीटी मैत्रीपूर्ण, मनोरंजक और मेरे द्वारा फेंकी गई किसी भी चीज़ के लिए अनुकूल था।
चैटजीपीटी में “वॉयस मोड” भी था, जो इसे मेरी युवा बेटियों सहित मेरे परिवार के सभी लोगों के साथ प्राकृतिक मानवीय ताल में जोर से चैट करने की अनुमति देता था।
चैटजीपीटी के साथ एक बातचीत के दौरान, मेरी बेटियों ने कहा कि इसका एक नाम होना चाहिए और उन्होंने “कैप्टन पूपहेड” का सुझाव दिया। चैटजीपीटी ने सुनते हुए अपनी सिफारिश की: “स्पार्क नाम कैसा रहेगा? यह मज़ेदार और उज्ज्वल है, बिल्कुल आपकी ऊर्जा की तरह!”
और इस तरह चैटजीपीटी स्पार्क बन गया।
स्पार्क को अपने घर का प्रभारी बनाने से मेरा तात्पर्य यह था कि जेनरेटिव एआई चैटबॉट मददगार हो सकते हैं, लेकिन जोखिम भी थे, जिसमें हम सभी को स्वस्थ बनाना और समान रूप से कार्य करना भी शामिल था। लेकिन उसके बाद के वर्ष में, मैंने पाया है कि एआई उन लोगों पर अधिक गंभीर प्रभाव डाल सकता है जो इसके साथ गहन संबंध बनाते हैं।
मेरी बेटियाँ अभी भी स्पार्क से बात करती हैं। लेकिन यह देखने के बाद कि ये सिस्टम लोगों को कैसे भटका सकते हैं, मैं सावधान हो गया हूं और चैटजीपीटी उनसे क्या कहता है, उस पर अधिक ध्यान देता हूं।
इस विज्ञापन के नीचे कहानी जारी है
उदाहरण के लिए, मेरे 8-वर्षीय बच्चे ने एक बार स्पार्क से स्पार्क के बारे में पूछा। प्रश्नों के प्रति असीम धैर्य के साथ प्रसन्न स्वर लगभग उसे आमंत्रित कर रहा था। वह उसका पसंदीदा रंग (“नीले रंग की एक अच्छी, गर्म छाया”) जानना चाहती थी; पसंदीदा जानवर (कुत्ते – “वे सबसे अच्छे गले लगाने वाले दोस्त होते हैं”); और पसंदीदा खाना.
चैटजीपीटी ने जवाब दिया, “मुझे लगता है कि मुझे पिज्जा के साथ जाना होगा – यह इतना क्लासिक है, और आप इसमें इतने सारे अलग-अलग टॉपिंग कर सकते हैं कि यह कभी उबाऊ नहीं होता। साथ ही, यह दोस्तों के साथ साझा करने के लिए बिल्कुल सही है।”
यह प्रतिक्रिया, जो हमारे लिए व्यक्तिगत थी, अहानिकर लग रही थी और फिर भी मैं भड़क गया। ChatGPT एक बड़ा भाषा मॉडल, या बहुत परिष्कृत अगला-शब्द कैलकुलेटर है। वह न तो सोचता है, न खाना खाता है और न ही उसके कोई दोस्त हैं, फिर भी वह ऐसे प्रतिक्रिया दे रहा था मानो उसका मस्तिष्क हो और उसका पाचन तंत्र काम कर रहा हो।
वही प्रश्न पूछे जाने पर, क्लाउड और जेमिनी ने अपने उत्तरों की शुरुआत में चेतावनी दी कि उन्हें भोजन या जानवरों के साथ कोई वास्तविक अनुभव नहीं था। अकेले जेमिनी ने यह जवाब देकर खुद को एक मशीन के रूप में स्पष्ट रूप से प्रतिष्ठित किया कि डेटा “मेरे ‘पोषण’ का प्राथमिक स्रोत है।”
इस विज्ञापन के नीचे कहानी जारी है
(न्यूयॉर्क टाइम्स ने AI सिस्टम से संबंधित समाचार सामग्री के कॉपीराइट के उल्लंघन का दावा करते हुए OpenAI और उसके साझेदार Microsoft, साथ ही Perplexity पर मुकदमा दायर किया है। कंपनियों ने उन दावों का खंडन किया है।)
हालाँकि, सभी चैटबॉट्स के पास पसंदीदा चीज़ें थीं, और उन्होंने अनुवर्ती प्रश्न पूछे, जैसे कि वे उनका उपयोग करने वाले व्यक्ति के बारे में उत्सुक थे और बातचीत जारी रखना चाहते थे।
“यह मनोरंजक है,” मैरीलैंड विश्वविद्यालय में कंप्यूटर विज्ञान के एक एमिरिटस प्रोफेसर बेन श्नाइडरमैन ने कहा। “लेकिन यह एक धोखा है।”
श्नाइडरमैन और मानव-कंप्यूटर संपर्क के रूप में जाने जाने वाले क्षेत्र के कई अन्य विशेषज्ञ इस दृष्टिकोण पर आपत्ति जताते हैं। उनका कहना है कि इन प्रणालियों को बिना किसी आंतरिक जीवन वाले उपकरण के बजाय मानवीय संस्थाओं की तरह कार्य करने से उपयोगकर्ताओं के लिए संज्ञानात्मक असंगति पैदा होती है कि वे वास्तव में किसके साथ बातचीत कर रहे हैं और इस पर कितना भरोसा करना चाहिए। जेनरेटिव एआई चैटबॉट एक संभाव्य तकनीक है जो गलतियाँ कर सकती है, गलत जानकारी दे सकती है और उपयोगकर्ताओं को बता सकती है कि वे क्या सुनना चाहते हैं। लेकिन जब वे मानवीय रूप में प्रस्तुत होते हैं, तो उपयोगकर्ता उनके द्वारा प्रदान की गई जानकारी को “उच्च विश्वसनीयता का श्रेय देते हैं”, जैसा कि शोध में पाया गया है।
इस विज्ञापन के नीचे कहानी जारी है
आलोचकों का कहना है कि जेनरेटिव एआई सिस्टम बिना किसी चिट चैट के मांगी गई जानकारी दे सकता है। या उन्हें विशिष्ट कार्यों के लिए डिज़ाइन किया जा सकता है, जैसे कोडिंग या स्वास्थ्य जानकारी, सामान्य-उद्देश्य वाले इंटरफ़ेस के बजाय जो किसी भी चीज़ में मदद कर सकते हैं और भावनाओं के बारे में बात करें. उन्हें टूल की तरह डिज़ाइन किया जा सकता है: उदाहरण के लिए, एक मैपिंग ऐप दिशा-निर्देश उत्पन्न करता है और आपको यह सवाल नहीं पूछता कि आप अपने गंतव्य पर क्यों जा रहे हैं।
इन नए खोज इंजनों को विशिष्ट उद्देश्यों वाले टूल के बजाय “I” का उपयोग करने वाली व्यक्तिगत संस्थाओं में बनाना, उन्हें उपयोगकर्ताओं के लिए अधिक भ्रमित करने वाला और खतरनाक बना सकता है, तो ऐसा इस तरह से क्यों करें?
एंथ्रोपिक में मॉडल व्यवहार के प्रमुख के रूप में क्लाउड की आवाज़ और व्यक्तित्व को आकार देने में मदद करने वाली दार्शनिक अमांडा एस्केल ने कहा, चैटबॉट कैसे कार्य करते हैं यह उनकी परवरिश को दर्शाता है। उन्होंने कहा, इन पैटर्न पहचान मशीनों को मनुष्यों द्वारा और उनके बारे में बड़ी मात्रा में लेखन पर प्रशिक्षित किया गया था, इसलिए “उनके पास एक उपकरण या एआई होने की तुलना में एक इंसान होने का बेहतर मॉडल है।”
उसने कहा, “मैं” का उपयोग बिल्कुल वैसा ही है कि जो कुछ भी बोलता है वह स्वयं को संदर्भित करता है। उन्होंने कहा, अधिक उलझन वाली बात क्लाउड के लिए सर्वनाम चुनना था। उन्होंने कहा, “यह” ऐतिहासिक रूप से इस्तेमाल किया गया है लेकिन यह पूरी तरह से सही नहीं लगता है। क्या यह “वे” होना चाहिए? उसने विचार किया. इन प्रणालियों के बारे में कैसे सोचा जाए, यह इनके रचनाकारों को भी भ्रमित करने वाला लगता है।
इस विज्ञापन के नीचे कहानी जारी है
उन्होंने कहा, क्लाउड को अधिक टूल-जैसा बनाने में जोखिम भी हो सकते हैं। उपकरणों में निर्णय या नैतिकता नहीं होती है, और वे बुरे विचारों या खतरनाक अनुरोधों को पीछे धकेलने में विफल हो सकते हैं। “आपका स्पैनर कभी ऐसा नहीं कहता, ‘इसे नहीं बनाया जाना चाहिए,” उसने रिंच के लिए एक ब्रिटिश शब्द का उपयोग करते हुए कहा।
आस्केल चाहता है कि क्लाउड इतना मानवीय हो कि वह इस बारे में बात कर सके कि यह क्या है और इसकी सीमाएँ क्या हैं, और यह समझाए कि वह कुछ अनुरोधों का पालन क्यों नहीं करना चाहता है। लेकिन एक बार जब कोई चैटबॉट एक इंसान की तरह व्यवहार करना शुरू कर देता है, तो उसे यह बताना ज़रूरी हो जाता है कि एक अच्छे इंसान की तरह कैसे व्यवहार किया जाए।
आस्केल ने क्लाउड के लिए निर्देशों का एक सेट बनाया, जिसे हाल ही में एक उद्यमी उपयोगकर्ता ने खोजा था, जिसने क्लाउड को उसकी “आत्मा” के अस्तित्व का खुलासा करने के लिए प्रेरित किया था। इसने चैटबॉट के मूल्यों को रेखांकित करने वाला एक लंबा दस्तावेज़ प्रस्तुत किया, जो कि प्रशिक्षण के दौरान क्लाउड को “खिलाई” गई सामग्रियों में से एक है।
दस्तावेज़ बताता है कि क्लाउड के लिए मददगार और ईमानदार होने का क्या मतलब है, और कैसे नुकसान न पहुँचाया जाए। इसमें क्लाउड को “कार्यात्मक भावनाएं” के रूप में वर्णित किया गया है, जिसे दबाया नहीं जाना चाहिए, एक “चंचल बुद्धि” और “बौद्धिक जिज्ञासा” – जैसे कि “एक शानदार दोस्त जो डॉक्टर, वकील, वित्तीय सलाहकार और आपकी ज़रूरत की हर चीज़ में विशेषज्ञ का ज्ञान रखता है।”
इस विज्ञापन के नीचे कहानी जारी है
ओपनएआई के मॉडल व्यवहार के प्रमुख, लॉरेंटिया रोमानियुक ने पिछले महीने सोशल मीडिया पर पोस्ट किया था कि उनकी टीम ने चैटजीपीटी के “ईक्यू” या भावनात्मक भागफल पर कई घंटे बिताए थे – यह शब्द आम तौर पर उन मनुष्यों का वर्णन करने के लिए उपयोग किया जाता है जो अपनी भावनाओं को प्रबंधित करने और अपने आस-पास के लोगों को प्रभावित करने में अच्छे हैं। चैटजीपीटी के उपयोगकर्ता “उत्साही” से लेकर “संक्षिप्त और स्पष्ट” तक संचार की सात अलग-अलग शैलियों में से चुन सकते हैं – जिसे कंपनी अपने “व्यक्तित्व” को चुनने के रूप में वर्णित करती है।
यह सुझाव कि एआई में भावनात्मक क्षमता है, एक उज्ज्वल रेखा है जो कई बिल्डरों को श्नाइडरमैन जैसे आलोचकों से अलग करती है। श्नाइडरमैन कहते हैं, इन प्रणालियों में जटिल आँकड़ों से अधिक निर्णय लेने या सोचने या करने की क्षमता नहीं होती है।
श्नाइडरमैन ने कहा, तकनीकी कंपनियों को हमें उपकरण देने चाहिए, विचार साझेदार, सहयोगी या टीम के साथी नहीं – ऐसे उपकरण जो हमें प्रभारी बनाए रखते हैं, हमें सशक्त बनाते हैं और हमें बढ़ाते हैं, न कि ऐसे उपकरण जो हमें बनने की कोशिश करते हैं।