‘एक बच्चे का साथी दूसरा बच्चा होना चाहिए, एआई नहीं’: एआई खिलौनों पर जो बर्नार्ड | प्रौद्योगिकी समाचार

एआई खिलौने भावनाओं को गलत तरीके से पढ़ रहे हैं

एआई खिलौनों और बच्चों की भावनाओं पर उचित प्रतिक्रिया देने में उनकी असमर्थता ने चिंताएं पैदा कर दी हैं। कैंब्रिज यूनिवर्सिटी के एक हालिया अध्ययन से पता चला है कि कैसे कुछ एआई सिस्टम संकट को गलत तरीके से समझते हैं या खारिज करने वाली प्रतिक्रियाएं पेश करते हैं। बरनार्ड के अनुसार, यह कोई छोटी-मोटी खामी नहीं है; बल्कि, यह एक गहरी सीमा की ओर इशारा करता है। उन्होंने कहा, “संदर्भ के बिना बुद्धिमत्ता खतरनाक हो सकती है,” उन्होंने चेतावनी देते हुए कहा कि इस तरह की बातचीत “उनके सामाजिक विकास को भ्रमित कर सकती है”।

साथ ही, अत्यधिक सहानुभूतिपूर्ण प्रतिक्रियाएँ भी उलटा असर डाल सकती हैं। बच्चों को निरंतर सत्यापन या भावनात्मक गहनता की आवश्यकता नहीं है। “बच्चे एक मिनट में दुखी हो सकते हैं और अगले ही पल खुश हो सकते हैं,” उन्होंने चरम के बजाय संतुलन की आवश्यकता पर जोर देते हुए समझाया।

आज अधिकांश एआई खिलौने पूर्व-क्रमादेशित प्रतिक्रियाओं से कहीं अधिक हैं। ये प्यारे एआई-संचालित खिलौने वास्तविक समय में सुन सकते हैं, व्याख्या कर सकते हैं और नए उत्तर उत्पन्न कर सकते हैं, जिससे कुछ ऐसा प्राप्त होता है जो वास्तविक लगता है, या एक संवेदनशील साथी होता है। बरनार्ड का मानना ​​है कि वास्तव में यही समस्या है। “यह समझना मुश्किल है कि इसका उद्देश्य क्या है। यह एक साथी है। लेकिन एक बच्चे के रूप में, उनके साथी उनकी उम्र के बच्चे होने चाहिए।”

हालाँकि, मानवीय रिश्तों के विपरीत, एआई साथियों को हर समय धैर्यवान, सहमत और संलग्न रहने के लिए डिज़ाइन किया गया है। बरनार्ड ने खुलासा किया कि इससे अस्वस्थ लगाव और वास्तविक दुनिया की बातचीत के प्रति विकृत अपेक्षाएं पैदा हो सकती हैं। “आप एक चैटबॉट के लिए भयानक हो सकते हैं और वह फिर भी आपसे प्यार करना चाहेगा… यह वास्तविकता में काम नहीं करता है।”

एआई साथियों को हर समय धैर्यवान, सहमत और संलग्न रहने के लिए डिज़ाइन किया गया है। (प्रतिनिधित्व के लिए एआई-जनरेटेड छवि: मिथुन)

भावनात्मक जोखिमों से परे, संज्ञानात्मक विकास के बारे में चिंताएँ बढ़ रही हैं। ऐसा ज्यादातर इसलिए होता है क्योंकि एआई सिस्टम को अक्सर जुड़ाव को अधिकतम करने के लिए डिज़ाइन किया जाता है, जिससे उपयोगकर्ताओं को बातचीत जारी रखने के लिए प्रेरित किया जाता है। बच्चों के लिए, यह निर्भरता पैदा कर सकता है। बरनार्ड ने कहा, “वहां एक निर्भरता बन जाती है… उनके लिए इसे रोकना बहुत, बहुत मुश्किल है।” बरनार्ड के अनुसार, अधिक चिंता का विषय सोच पर पड़ने वाला प्रभाव है। अध्ययनों से पता चला है कि एआई उपकरणों पर अत्यधिक निर्भरता संज्ञानात्मक प्रयास को कम कर सकती है। जिन बच्चों का दिमाग अभी भी विकसित हो रहा है, उनके लिए इसका मतलब यह हो सकता है कि उनकी क्षमताएं कभी भी पूरी तरह से विकसित नहीं होंगी। “अगर वे अपनी सोच पर बोझ डाल रहे हैं… तो उनके मस्तिष्क के उन हिस्सों का विकास रुक जाता है,” उसने समझाया।

प्रसंग अंतराल

एआई खिलौनों से जुड़े इन मुद्दों के केंद्र में वह है जिसे बर्नार्ड ‘संदर्भ अंतर’ कहते हैं। वास्तविक दुनिया जटिल, सूक्ष्म और अप्रत्याशित है। मनुष्य अपने जीवित अनुभव के माध्यम से इसे नेविगेट करना सीखता है। इसके विपरीत, AI सीमित इनपुट पर काम करता है। उन्होंने कहा, “संभवतः एक बच्चे के आसपास की सभी उत्तेजनाओं तक इसकी पहुंच नहीं हो सकती है,” जिसका अर्थ है कि इसकी प्रतिक्रियाएं अक्सर अधूरी या अनुपयुक्त होती हैं। उद्यमी को लगता है कि इससे न केवल खराब मार्गदर्शन का खतरा है बल्कि रचनात्मकता और स्वतंत्र समस्या-समाधान के अवसर भी कम हो जाते हैं, जो दोनों बचपन के मूल तत्व हैं।

चूँकि AI यहाँ रहने के लिए है, बर्नार्ड के अनुसार समाधान डिज़ाइन में निहित है। उन्होंने कहा, “किसी वस्तु को जिस तरह से डिज़ाइन किया गया है वह यह निर्धारित करता है कि हम उसके साथ कैसे बातचीत करते हैं।” आज के अधिकांश तकनीकी उत्पाद ध्यान आकर्षित करने और बनाए रखने के लिए बनाए गए हैं। हालाँकि, वह दृष्टिकोण मूल रूप से बच्चों की ज़रूरतों के विपरीत है, और इसके बजाय, बरनार्ड सीमित, जानबूझकर अनुभवों की वकालत करता है। उन्होंने कहा, “हमें “अंतहीन संभावनाओं” का पीछा करने के बजाय, जिन्हें सुरक्षित रूप से नियंत्रित करना मुश्किल है, क्यूरेटेड, सीमित अनुभव प्रदान करना चाहिए।

बरनार्ड की माइंडफुल एआई अवधारणाएं इस दर्शन को दर्शाती हैं। इनमें ऐसे उपकरण शामिल हैं जो बच्चों को रंग भरने के लिए चित्र बनाते हैं, ऐसे उपकरण जो पारिवारिक बातचीत को प्रेरित करते हैं, और ऐसी प्रणालियाँ जो निरंतर बातचीत के बिना रचनात्मकता को प्रोत्साहित करती हैं। “ये जानबूझकर सीमित हैं,” उन्होंने समझाया, और कहा कि एआई को “जादू की भावना जोड़नी चाहिए… लेकिन सीमित तरीके से।”

भले ही एआई खिलौना बाजार तेजी से बढ़ रहा है, कंपनियां अधिक सुविधाएं और क्षमताएं जोड़ने की होड़ में हैं, बरनार्ड ने चेतावनी दी कि यह दौड़ उलटी पड़ सकती है। उन्होंने कहा, “बाज़ार ध्यान आकर्षित करने के लिए प्रतिस्पर्धा करने वाले उत्पादों से भरा पड़ा है… अत्यधिक उत्तेजना और, शायद अधिक चिंताजनक, लगाव का जोखिम उठा रहा है।” उन्होंने तर्क दिया कि यदि अनियंत्रित छोड़ दिया गया, तो परिणाम सोशल मीडिया जैसे नशे की लत, कम ध्यान अवधि और अंततः नियामक कार्रवाई के समान हो सकते हैं। उन्होंने चेताया, “हम देख सकते हैं…प्रतिबंध लगाए गए हैं।”

जब पूछा गया कि एआई उत्पादों में बच्चों की सुरक्षा सुनिश्चित करने के लिए कौन जिम्मेदार होना चाहिए – डेवलपर्स, नियामक, या माता-पिता? बरनार्ड ने तर्क दिया कि ज़िम्मेदारी अकेले माता-पिता पर नहीं डाली जा सकती। “यह माता-पिता पर नहीं हो सकता क्योंकि वे नहीं समझते हैं,” उन्होंने कहा, डेवलपर्स, जो तकनीक को सबसे अच्छी तरह से समझते हैं, उन्हें स्पष्ट मानकों को स्थापित करने के लिए नियामकों के साथ काम करके आगे आना चाहिए। पारदर्शिता भी उतनी ही महत्वपूर्ण है. उन्होंने कहा, “अगर कोई खिलौना ध्वनि डेटा एकत्र करता है, तो उन्हें ऐसा कहना होगा और बताना होगा कि यह कहां जाता है।”

बरनार्ड एआई के खिलाफ नहीं है; वास्तव में, अगर सोच-समझकर प्रयोग किया जाए तो वह इसमें भारी संभावनाएं देखती हैं। लक्ष्य बच्चों के जीवन से एआई को खत्म करना नहीं है, बल्कि यह सुनिश्चित करना है कि यह महत्वपूर्ण मानवीय अनुभवों को प्रतिस्थापित करने के बजाय उनके विकास में मदद करे। “अभी बड़े हो रहे बच्चे एआई मूल निवासी हैं। हमारा काम यह सुनिश्चित करना है कि यह बुद्धिमत्ता निर्भरता को बढ़ावा देने के बजाय उनकी रचनात्मकता, शांति और एजेंसी का समर्थन करती है।”