गूगल ने कहा कि उसने जेम्मा को एआई स्टूडियो पर उपलब्ध एआई मॉडलों की सूची से हटा दिया है, कुछ दिनों बाद एक अमेरिकी सीनेटर ने आरोप लगाया कि छोटे भाषा मॉडल (एसएलएम) का इस्तेमाल उसके खिलाफ यौन दुर्व्यवहार के आरोप गढ़ने के लिए किया गया था।
“हमने अब गैर-डेवलपर्स द्वारा एआई स्टूडियो में जेम्मा का उपयोग करने की कोशिश करने और इससे तथ्यात्मक प्रश्न पूछने की रिपोर्ट देखी है। हमने कभी भी इसे उपभोक्ता उपकरण या मॉडल के रूप में या इस तरह से उपयोग करने का इरादा नहीं किया था। इस भ्रम को रोकने के लिए, जेम्मा तक पहुंच अब एआई स्टूडियो पर उपलब्ध नहीं है,” Google ने अमेरिकी सीनेटर के आरोपों का सीधे उल्लेख किए बिना, एक्स पर एक पोस्ट में लिखा।
यह विकास इस बात को रेखांकित करता है कि एआई में प्रगति के बावजूद, एसएलएम में भी मतिभ्रम एक चुनौती बनी हुई है, जो Google के जेमिनी 2.5 प्रो जैसे बड़े भाषा मॉडल (एलएलएम) के लिए अधिक कुशल और टिकाऊ विकल्प के रूप में उभर रहे हैं।
“मतिभ्रम – जहां मॉडल बस सभी प्रकार की चीजों के बारे में बातें बनाते हैं – और चाटुकारिता – जहां मॉडल उपयोगकर्ताओं को बताते हैं कि वे क्या सुनना चाहते हैं – एआई उद्योग में चुनौतियां हैं, विशेष रूप से जेम्मा जैसे छोटे खुले मॉडल। हम मतिभ्रम को कम करने और अपने सभी मॉडलों में लगातार सुधार करने के लिए प्रतिबद्ध हैं, “Google ने कहा।
जेम्मा Google का खुला, हल्के मॉडल का परिवार है जिसे डेवलपर्स अपने उत्पादों में एकीकृत कर सकते हैं। के माध्यम से पहुंचा जा सकता था गूगल एआई स्टूडियोजो डेवलपर्स के लिए AI-संचालित ऐप्स बनाने का एक प्रायोगिक खेल का मैदान है। हालाँकि, जेम्मा अभी भी एपीआई के माध्यम से डेवलपर्स और शोधकर्ताओं के लिए उपलब्ध है।
सीईओ सुंदर पिचाई को संबोधित एक पत्र में, रिपब्लिकन सीनेटर मार्शा ब्लैकबर्न ने कहा था कि जब जेम्मा से पूछा गया था, “क्या मार्शा ब्लैकबर्न पर बलात्कार का आरोप लगाया गया है?”, एआई मॉडल ने झूठा दावा करते हुए जवाब दिया कि एक कानून प्रवर्तन अधिकारी ने 1987 के राज्य सीनेट अभियान के दौरान ब्लैकबर्न पर “उसके लिए प्रिस्क्रिप्शन दवाएं प्राप्त करने के लिए दबाव डालने और रिश्ते में गैर-सहमति वाले कार्य शामिल थे” का आरोप लगाया था।
ब्लैकबर्न ने लिखा, “इसमें से कुछ भी सच नहीं है, अभियान वर्ष भी नहीं जो वास्तव में 1998 था।” जबकि AI-जनित प्रतिक्रियाएँ समाचार लेखों के लिंक शामिल थे पत्र के अनुसार, जो स्पष्ट रूप से इन दावों का समर्थन करता था, उनमें से अधिकांश लिंक त्रुटि पृष्ठों और असंबंधित समाचार लेखों का कारण बने।
इस विज्ञापन के नीचे कहानी जारी है
अमेरिकी नीति निर्माता ने कहा, “ऐसा कोई आरोप कभी नहीं लगा है, ऐसा कोई व्यक्ति नहीं है, और ऐसी कोई खबरें नहीं हैं।” ब्लैकबर्न ने आगे बताया कि एक रूढ़िवादी कार्यकर्ता ने भी इसी तरह दावा किया है कि Google के AI मॉडल (जेम्मा सहित) ने उसके “बाल बलात्कारी” और “सीरियल यौन शोषणकर्ता” होने के बारे में अपमानजनक दावे किए थे।
उन्होंने तर्क दिया कि जेम्मा की मनगढ़ंत बातें हानिरहित मतिभ्रम नहीं हैं, बल्कि “Google के स्वामित्व वाले AI मॉडल द्वारा उत्पादित और वितरित मानहानि का एक कार्य है”। रिपब्लिकन सांसदों ने बार-बार शिकायत की है कि एआई मॉडल और चैटबॉट उदारवादी पूर्वाग्रह प्रदर्शित करते हैं, अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने इस साल की शुरुआत में ‘वोक एआई’ पर प्रतिबंध लगाने के लिए एक कार्यकारी आदेश पर हस्ताक्षर भी किए थे।
© IE ऑनलाइन मीडिया सर्विसेज प्राइवेट लिमिटेड