कैलिफ़ोर्निया ने AI निरीक्षण इकाई का निर्माण किया और xAI जांच पर दबाव डाला

कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा एक कृत्रिम बुद्धिमत्ता जवाबदेही कार्यक्रम का निर्माण कर रहे हैं, क्योंकि उनका कार्यालय गैर-सहमति वाली यौन स्पष्ट छवियों की पीढ़ी पर एलोन मस्क के एक्सएआई की जांच कर रहा है, उन्होंने मंगलवार को एक साक्षात्कार में रॉयटर्स को बताया।

बोंटा ने कहा, कैलिफ़ोर्निया अटॉर्नी जनरल के कार्यालय ने पिछले महीने तेजी से कदम उठाते हुए ‌xAI को एक संघर्ष विराम पत्र भेजा, क्योंकि नियामकों ने विश्व स्तर पर कंपनी की यौन सामग्री पर जांच की थी, जो उसके एआई चैटबॉट ग्रोक ने वयस्कों और संभावित रूप से नाबालिगों के लिए तैयार की थी।

बोंटा ने कहा कि उनका कार्यालय इस बात की पुष्टि करना चाहता है कि आचरण बंद हो गया है और कंपनी के साथ चर्चा जारी है। उन्होंने कहा कि एक्सएआई ने जिम्मेदारी से परहेज किया और अभी भी भुगतान करने वाले ग्राहकों के लिए कुछ कामुक सामग्री तैयार करने की अनुमति दी है।

बोंटा ने आगे कहा, “सिर्फ इसलिए कि आप आगे बढ़ना बंद कर देते हैं, इसका मतलब यह नहीं है कि आपने जो किया, उसमें आपको छूट मिल जाएगी।”

XAI, जिसे हाल ही में मस्क के स्पेसएक्स द्वारा अधिग्रहित किया गया है, ने टिप्पणी के अनुरोध का जवाब नहीं दिया। जनवरी में, कंपनी ने कहा कि उसने वास्तविक लोगों की कामुक छवियों के लिए उपयोगकर्ता के अनुरोधों को अस्वीकार करने के लिए उपाय जोड़े हैं, उदाहरण के लिए उन्हें बिकनी में संपादित करना। XAI ने यह भी कहा है कि वह उन न्यायक्षेत्रों में उपयोगकर्ताओं को ऐसी छवियां बनाने से रोकता है जहां यह अवैध है।

कैलिफ़ोर्निया के प्रवर्तन से पता चलता है कि डेमोक्रेटिक गढ़ ⁠AI प्रहरी के रूप में अपनी भूमिका निभा रहा है, उद्योग और कुछ रिपब्लिकन सांसदों द्वारा कानून और विनियमन पर संघीय अधिकारियों को टालने के लिए चल रहे दबाव के बावजूद। बोंटा ने डेटा सुरक्षा और एआई पर पूर्व गतिरोध को देखते हुए कांग्रेस को विशेष नियामक प्राधिकरण देने के खिलाफ चेतावनी दी।

बोंटा ने कहा, कैलिफ़ोर्निया अटॉर्नी जनरल का कार्यालय अपने “एआई निरीक्षण, जवाबदेही और विनियमन कार्यक्रम” के माध्यम से अपनी आंतरिक विशेषज्ञता को “बढ़ा रहा” है। उन्होंने कहा कि एआई चैटबॉट जो युवाओं के साथ यौन रूप से स्पष्ट बातचीत करते हैं या उन्हें आत्महत्या करने के तरीके बताते हैं, अस्वीकार्य हैं।

उन्होंने कहा कि राज्य के अधिकारियों ने सैन फ्रांसिस्को स्थित ओपनएआई को यह भी बताया है कि बोंटा के कार्यालय द्वारा पिछले साल इसके कॉर्पोरेट पुनर्गठन की देखरेख में मदद करने के बाद कैलिफ़ोर्निया को अपने उत्पादों और सेवाओं को सुरक्षित रखने के प्रयासों में “निरंतर रुचि” है।

राज्य की विधायिका एक विधेयक पर विचार कर रही है जिसके लिए अटॉर्नी जनरल के कार्यालय को ⁠AI में विशेषज्ञता बनाने के लिए एक कार्यक्रम स्थापित करने की आवश्यकता होगी।

रॉयटर्स के साथ एक संयुक्त साक्षात्कार में बोलते हुए, कनेक्टिकट अटॉर्नी जनरल विलियम टोंग ने एआई और सोशल मीडिया नुकसान को “हमारे समय की उपभोक्ता संरक्षण लड़ाई” कहा, जो ओपिओइड से भी बड़ी लड़ाई है। “यह हमारे सभी बच्चों को प्रभावित करता है,” उन्होंने कहा।