जैसे ही भारत ने ऑनलाइन नियमों को कड़ा किया, Google ने गैर-सहमति वाली छवियों की रिपोर्ट करना आसान बना दिया | प्रौद्योगिकी समाचार

गूगल का घोषणा यह उसी दिन आया जब भारत सरकार ने सोशल मीडिया कंपनियों और ऑनलाइन प्लेटफ़ॉर्म के लिए एक नए नियामक ढांचे को अधिसूचित किया।

सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 में आईटी मंत्रालय द्वारा अधिसूचित संशोधनों के अनुसार, ऑनलाइन प्लेटफ़ॉर्म को अब दो घंटे के भीतर गैर-सहमति वाली अंतरंग छवियों को हटाना होगा, जबकि पहले यह 24 घंटे के भीतर था। गैरकानूनी सामग्री के अन्य रूपों को तीन घंटे के भीतर हटाना होगा, जबकि पहले इस पर 36 घंटे के भीतर कार्रवाई करने की आवश्यकता थी।

नए नियमों में यूट्यूब, इंस्टाग्राम और स्नैपचैट जैसे सोशल मीडिया प्लेटफॉर्म पर एआई-जनरेटेड सामग्री की अनिवार्य लेबलिंग की भी आवश्यकता है। जबकि मसौदा नियमों में यह आवश्यक था कि एआई-जनरेटेड सामग्री में जोड़े गए लेबल को कम से कम 10 प्रतिशत स्थान को कवर करना चाहिए, नए अधिसूचित नियमों में केवल ऐसे लेबल को “प्रमुखता से” दिखाई देने की आवश्यकता है।

जेनेरिक एआई के उदय के साथ गैर-सहमति वाली स्पष्ट कल्पना का प्रसार हुआ है। इस साल के पहले, ग्रोक, एलोन मस्क के स्वामित्व वाली xAI द्वारा विकसित AI चैटबॉट सेवा हैने एक्स (पूर्व में ट्विटर) पर उपयोगकर्ताओं को सोशल मीडिया प्लेटफॉर्म पर लोगों की वास्तविक तस्वीरों के आधार पर आसानी से गैर-सहमति वाली, यौन रूप से स्पष्ट छवियां उत्पन्न करने में सक्षम बनाकर भारत सहित दुनिया भर के नियामकों का गुस्सा आकर्षित किया।

Google ने अपने ब्लॉग पोस्ट में कहा, “हम समझते हैं कि मौजूदा सामग्री को हटाना समाधान का केवल एक हिस्सा है। अतिरिक्त सुरक्षा के लिए, नई प्रक्रिया आपको सुरक्षा उपायों का विकल्प चुनने की अनुमति देती है जो समान खोजों में दिखाई देने वाले किसी भी अतिरिक्त स्पष्ट परिणामों को सक्रिय रूप से फ़िल्टर कर देगी।”

उपयोगकर्ता ‘आपके बारे में परिणाम’ टैब के अंतर्गत अपने सभी निष्कासन अनुरोधों की स्थिति को भी ट्रैक कर सकेंगे। जब उनके निष्कासन अनुरोधों की स्थिति में कोई बदलाव होगा तो उन्हें ईमेल सूचनाएं भी प्राप्त होंगी। इसके अतिरिक्त, Google ने कहा कि वह निष्कासन अनुरोध सबमिट करने वाले उपयोगकर्ताओं को “भावनात्मक और कानूनी सहायता प्रदान करने वाले विशेषज्ञ संगठनों” को निर्देशित करेगा।

स्नैपचैट, ओपनएआई घोषणाएँ

अपने मौजूदा ‘होम सेफ’ फीचर का विस्तार करते हुए, जो उपयोगकर्ताओं को सुरक्षित घर पहुंचने पर दोस्तों और परिवार को सूचित करने की सुविधा देता है, स्नैपचैट ने कहा कि अब यह उपयोगकर्ताओं को अन्य स्थानों पर पहुंचने के बाद भी अतिरिक्त अलर्ट भेजने की अनुमति देगा।

कंपनी ने एक ब्लॉग पोस्ट में लिखा, “आगमन सूचनाएं अब रोजमर्रा के क्षणों के लिए काम करती हैं – जैसे यात्रा के दौरान किसी को यह बताना कि आप रात के लिए वापस आ गए हैं, या जब आप साप्ताहिक कक्षा, अभ्यास या बैठक में पहुंचते हैं तो स्वचालित रूप से साझा करना – संदेश भेजने की आवश्यकता के बिना।”

इस बीच, ओपनएआई ने कहा कि वह नीति निर्माताओं, नियामकों, शिक्षकों और बाल सुरक्षा विशेषज्ञों के साथ काम करके उम्र की भविष्यवाणी, उम्र-उपयुक्त नीतियों और माता-पिता के नियंत्रण के माध्यम से भारतीय किशोरों के लिए सुरक्षा को मजबूत करने के लिए कदम उठा रहा है।

इसमें चैटजीपीटी उपयोगकर्ताओं के लिए पहले से ही उपलब्ध सुरक्षा उपायों पर प्रकाश डाला गया है, जिसमें ब्रेक लेने के लिए इन-ऐप अनुस्मारक, आत्मघाती इरादे व्यक्त करने पर उपयोगकर्ताओं को वास्तविक दुनिया के संसाधनों की ओर निर्देशित करना और बाल यौन शोषण सामग्री (सीएसएएम) और बाल यौन शोषण सामग्री (सीएसईएम) उत्पन्न करने के लिए चैटजीपीटी के उपयोग को रोकना शामिल है। यह कहते हुए कि यह गोपनीयता और स्वतंत्रता से पहले सुरक्षा को प्राथमिकता देता है, ओपनएआई ने कहा, “चैटजीपीटी जिस तरह से 15 साल के बच्चे को प्रतिक्रिया देता है वह एक वयस्क को प्रतिक्रिया देने के तरीके से भिन्न होना चाहिए।” […] यह दृष्टिकोण भारत में विशेष रूप से महत्वपूर्ण है: जैसे-जैसे एआई अपनाने में तेजी आ रही है, एआई साक्षरता को शिक्षा के अन्य क्षेत्रों के साथ-साथ पढ़ाए जाने की आवश्यकता है।