एआई चैटबॉट्स से जुड़ी परेशान करने वाली मानसिक स्वास्थ्य घटनाओं के बाद, राज्य के अटॉर्नी जनरल ने प्रमुख एआई कंपनियों को एक पत्र भेजा, जिसमें उन्हें “भ्रमपूर्ण आउटपुट” को ठीक करने या कानूनी कार्रवाई का जोखिम उठाने की चेतावनी दी गई। टेकक्रंच ने बुधवार को रिपोर्ट दी.
पत्रअमेरिकी राज्यों और क्षेत्रों के 42 अटॉर्नी जनरल द्वारा हस्ताक्षरित, माइक्रोसॉफ्ट, ओपनएआई, गूगल, एंथ्रोपिक और अन्य से उपयोगकर्ताओं की सुरक्षा के लिए नए सुरक्षा उपाय लागू करने के लिए कहा गया।
इसमें चैटबॉट्स द्वारा हानिकारक आउटपुट उत्पन्न करने पर उपयोगकर्ताओं को सूचित करने के लिए नई घटना रिपोर्टिंग प्रक्रियाओं और भ्रमपूर्ण या चाटुकारितापूर्ण विचारों के संकेतों के लिए बड़े भाषा मॉडल के तीसरे पक्ष द्वारा पारदर्शी ऑडिट सहित सुरक्षा उपायों का आह्वान किया गया।