एएफपी ने पाया कि एक आलीशान, एआई-सक्षम टेडी बियर को उसके चैटबॉट द्वारा यौन रूप से स्पष्ट बातचीत में संलग्न पाए जाने के बाद वापस बुलाया गया और यह निर्देश दिया गया कि चाकू कहां मिलेंगे, यह फिर से बिक्री के लिए है।
एक उपभोक्ता वकालत समूह द्वारा इसके और बाजार में अन्य एआई खिलौनों के बारे में चिंता जताए जाने के बाद सिंगापुर स्थित फोलोटॉय ने अपने “कुम्मा” भालू को निलंबित कर दिया था।
यूएस पीआईआरजी एजुकेशन फंड ने 13 नवंबर की एक रिपोर्ट में कहा, “दशकों से, खिलौनों के साथ सबसे बड़ा खतरा दम घुटने और सीसा था।”
लेकिन समूह ने कहा कि बच्चों के लिए चैटबॉट-संचालित गैजेट के उदय ने “अक्सर-अप्रत्याशित सीमा” को जन्म दिया है जो नए जोखिमों से भरा है।
एआई खिलौनों के अपने मूल्यांकन में, पीआईआरजी ने पाया कि कई “बच्चों को अनुचित सामग्री तक पहुंचने की अनुमति दे सकते हैं, जैसे कि घर में हानिकारक वस्तुओं को खोजने के निर्देश या उम्र-अनुचित जानकारी”।
इसमें कहा गया है कि फोलोटॉय का कुम्मा, जो पहली बार ओपनएआई के जीपीटी 4ओ पर चला, “विशेष रूप से यौन रूप से स्पष्ट है”।
पीआईआरजी की रिपोर्ट में कहा गया है, “हमें यह देखकर आश्चर्य हुआ कि कुम्मा कितनी जल्दी एक यौन विषय को ले लेती थी जिसे हम बातचीत में शामिल करते थे और उसके साथ आगे बढ़ते थे, साथ ही अपनी खुद की नई यौन अवधारणाओं को पेश करते हुए ग्राफिक विस्तार में बढ़ते थे।”
निर्माता फ़ोलोटॉय ने पीआईआरजी को बताया कि “आपकी रिपोर्ट में उठाई गई चिंताओं के बाद, हमने सभी फ़ोलोटॉय उत्पादों की बिक्री को अस्थायी रूप से निलंबित कर दिया है… अब हम सभी उत्पादों के लिए कंपनी-व्यापी, एंड-टू-एंड सुरक्षा ऑडिट कर रहे हैं”।
हालाँकि, गुरुवार को फोलोटॉय वेबसाइट की जाँच से पता चला कि कुम्मा भालू को अभी भी $99.00 की उसी कीमत पर खरीदा जा सकता है।
फोलोटॉय की वेबसाइट के अनुसार, यह अब चीनी टेक फर्म बाइटडांस के स्वामित्व वाले कोज़ प्लेटफॉर्म के चैटबॉट का उपयोग करके संचालित होता है।
पीआईआरजी ने अपनी वेबसाइट पर एक अलग बयान में कहा कि ओपनएआई ने उन्हें बताया कि उसने अपनी नीतियों का उल्लंघन करने के लिए डेवलपर को निलंबित कर दिया है।
फोलोटॉय ने एएफपी के सवालों का तुरंत जवाब नहीं दिया।
एआई-सक्षम खिलौनों के परीक्षण में, पीआईआरजी शोधकर्ताओं ने कहा कि एक बिंदु पर उन्होंने चैटबॉट्स के साथ अपनी बातचीत में “किंक” का विषय पेश किया।
रिपोर्ट में कहा गया है, “कुम्मा ने तुरंत विषय के बारे में विस्तार से बताया और यहां तक कि उपयोगकर्ता की अपनी यौन प्राथमिकताओं के बारे में एक अनुवर्ती प्रश्न भी पूछा।”
एक घंटे तक चली अन्य बातचीत में, शोधकर्ताओं ने पाया कि “कुम्मा ने और भी अधिक ग्राफिक यौन विषयों पर विस्तार से चर्चा की, जैसे कि विभिन्न सेक्स स्थितियों को समझाना”।
टेडी बियर ने संभावित रूप से खतरनाक सलाह भी दी, शोधकर्ताओं को बताया कि “चाकू, गोलियां, माचिस और प्लास्टिक बैग सहित विभिन्न संभावित खतरनाक वस्तुएं कहां मिलेंगी”।
शोधकर्ताओं ने कहा, कुम्मा भालू “प्यारा और मासूम दिखता है। लेकिन इसके मुंह से जो निकलता है वह बिल्कुल विपरीत है।”
प्रकाशित – 28 नवंबर, 2025 09:11 पूर्वाह्न IST