मेटा ने शुक्रवार को कहा कि वह माता-पिता को एआई पात्रों के साथ अपने किशोरों की निजी चैट को अक्षम करने देगा, इसके फ्लर्टी चैटबॉट्स के व्यवहार पर तीखी आलोचना के बाद अपने सोशल मीडिया प्लेटफॉर्म को नाबालिगों के लिए सुरक्षित बनाने के लिए एक और उपाय जोड़ा जाएगा।
इस सप्ताह की शुरुआत में, कंपनी ने कहा कि किशोरों के लिए उसके एआई अनुभवों को पीजी-13 मूवी रेटिंग सिस्टम द्वारा निर्देशित किया जाएगा, क्योंकि यह नाबालिगों को अनुचित सामग्री तक पहुंचने से रोकता है।
चैटबॉट्स के संभावित नकारात्मक प्रभावों को लेकर अमेरिकी नियामकों ने एआई कंपनियों की जांच तेज कर दी है। अगस्त में, रॉयटर्स ने बताया कि कैसे मेटा के एआई नियम नाबालिगों के साथ उत्तेजक बातचीत की अनुमति देते हैं।
एक ब्लॉग पोस्ट के अनुसार, इंस्टाग्राम प्रमुख एडम मोसेरी और मुख्य एआई अधिकारी एलेक्जेंडर वांग द्वारा विस्तृत नए टूल अगले साल की शुरुआत में अमेरिका, यूनाइटेड किंगडम, कनाडा और ऑस्ट्रेलिया में इंस्टाग्राम पर लॉन्च होंगे।
मेटा ने कहा कि माता-पिता भी विशिष्ट एआई वर्णों को ब्लॉक करने में सक्षम होंगे और एआई पहुंच को पूरी तरह से बंद किए बिना, उनके किशोर चैटबॉट्स और मेटा के एआई सहायक के साथ व्यापक विषयों पर चर्चा देख सकेंगे।
मेटा ने कहा, इसका एआई सहायक आयु-उपयुक्त डिफ़ॉल्ट के साथ उपलब्ध रहेगा, भले ही माता-पिता किशोरों की एआई वर्णों के साथ एक-पर-एक चैट अक्षम कर दें।
कंपनी ने कहा कि पर्यवेक्षण सुविधाएं पहले से ही किशोर खातों पर लागू सुरक्षा पर बनाई गई हैं, यह संदिग्ध किशोरों को सुरक्षा में रखने के लिए एआई सिग्नल का उपयोग करती है, भले ही वे कहते हैं कि वे वयस्क हैं।
इस विज्ञापन के नीचे कहानी जारी है
सितंबर में एक रिपोर्ट से पता चला कि मेटा द्वारा पिछले कुछ वर्षों में इंस्टाग्राम पर लागू की गई कई सुरक्षा सुविधाएँ अच्छी तरह से काम नहीं करती हैं या मौजूद नहीं हैं।
मेटा ने कहा कि इसके एआई पात्रों को किशोरों के साथ उम्र के हिसाब से खुद को नुकसान पहुंचाने, आत्महत्या या अव्यवस्थित खान-पान के बारे में अनुचित चर्चा में शामिल नहीं होने के लिए डिज़ाइन किया गया है।
पिछले महीने, ओपनएआई ने वेब और मोबाइल पर चैटजीपीटी के लिए माता-पिता का नियंत्रण शुरू किया था, एक किशोर के माता-पिता द्वारा मुकदमा दायर करने के बाद, जो स्टार्टअप के चैटबॉट द्वारा कथित तौर पर आत्म-नुकसान के तरीकों पर प्रशिक्षित होने के बाद आत्महत्या से मर गया था।