जैसे-जैसे सरकारें सार्वजनिक प्रशासन, राष्ट्रीय सुरक्षा और नीति निर्माण में आर्टिफिशियल इंटेलिजेंस (एआई) उपकरण तैनात करना शुरू करती हैं, इसके सुरक्षित उपयोग और जवाबदेही के बारे में सवाल केंद्र-मंच पर आ गए हैं। पेंटागन और एआई कंपनी एंथ्रोपिक के बीच विवाद का खुलासा होने के बाद यह मुद्दा अमेरिका में फोकस में आया, जिसने बड़े पैमाने पर निगरानी और स्वायत्त हथियारों के उपयोग को रोकने के लिए सुरक्षा उपायों को हटाने से इनकार कर दिया। इस घटना ने एआई सिस्टम तैनात करने की इच्छुक सरकारों और उन्हें नियंत्रित करने वाली कंपनियों के बीच गहरे तनाव को रेखांकित किया।
चूंकि राज्य एआई कंपनियों के साथ अधिक निकटता से सहयोग करते हैं, अंततः उन प्रणालियों को कौन नियंत्रित करता है जो हमें नियंत्रित करती हैं? ईशा सूरी और रमन जीत सिंह चीमा द्वारा संचालित बातचीत में प्रश्न पर चर्चा करें अरीना अरोरा.
AI वास्तव में किस प्रकार की राज्य क्षमता को मजबूत कर सकता है? और कहां सरकारों को इस पर भरोसा करने को लेकर सतर्क रहना चाहिए?
टिप्पणी | भारत में एआई-संचालित कर प्रशासन और इसकी चुनौतियाँ
ईशा सूरी: एआई सिस्टम अच्छे दायरे वाले उपयोग के मामलों में सबसे अच्छा काम करते हैं। उदाहरण के लिए, COVID-19 महामारी के दौरान, छवि-प्रसंस्करण उपकरण विभिन्न प्रकार के फेफड़ों के संक्रमण के बीच अंतर कर सकते थे क्योंकि समस्या स्पष्ट रूप से परिभाषित थी और पैरामीटर ज्ञात थे।
सरकारों को एआई को तैनात करने के उद्देश्य को परिभाषित करके शुरुआत करनी चाहिए। वह स्पष्टता अक्सर गायब रहती है। किसी भी प्रणाली को अपनाने से पहले, उन्हें पूछना चाहिए कि क्या एआई आवश्यक है, क्या कम दखल देने वाले विकल्प मौजूद हैं, और जोखिम क्या हैं। एक आवश्यकता और आनुपातिकता परीक्षण महत्वपूर्ण है। एआई को केवल इसलिए नहीं अपनाया जाना चाहिए क्योंकि यह मौजूद है।
यदि एआई सिस्टम के साथ अधिक डेटा साझा करने से सरकारी सेवाएं तेज और अधिक कुशल हो जाती हैं, तो लोगों को गोपनीयता के बारे में चिंता क्यों करनी चाहिए? मेज पर क्या नुकसान हैं?
यह भी पढ़ें | प्रधानमंत्री ने कहा, एआई पूर्वाग्रह और जोखिमों से निपटने के लिए वैश्विक सहयोग महत्वपूर्ण है
यह विचार कि नागरिकों को डेटा साझा करने में कोई आपत्ति नहीं है, इसमें सूचित सहमति शामिल है, जो अक्सर मामला नहीं होता है। बहुत से लोग पूरी तरह से नहीं समझते कि उनके डेटा का उपयोग कैसे किया जाता है। भारत जैसे देशों में, जिसे अक्सर कम गोपनीयता के साथ सांस्कृतिक आराम के रूप में देखा जाता है, वह वास्तव में कम डिजिटल साक्षरता का परिणाम है।
यह भी पढ़ें | कर्नाटक सरकार ने रिस्पॉन्सिबल एआई पर समिति का गठन किया
इसलिए, व्यक्ति पूरी जानकारी के बिना निर्णय ले सकते हैं, जबकि दीर्घकालिक परिणाम सामने आते हैं। इसीलिए राज्य को नुकसान का अनुमान लगाना चाहिए और तैनाती के बाद नहीं, बल्कि डिज़ाइन चरण में सुरक्षा उपाय करने चाहिए।
रमन जीत सिंह चीमा: यह विचार कि बेहतर AI के लिए अधिक व्यक्तिगत डेटा की आवश्यकता होती है, त्रुटिपूर्ण है। इससे कुछ व्यावसायिक अभिनेताओं को लाभ होता है लेकिन यह तकनीकी रूप से आवश्यक नहीं है। अधिक डेटा हमेशा बेहतर नहीं होता. यह मुख्य रूप से उन कंपनियों के लिए अकुशल, जोखिम भरा और फायदेमंद हो सकता है जो बड़े पैमाने पर डेटा निष्कर्षण और कंप्यूटिंग-भारी बुनियादी ढांचे पर निर्भर हैं। विकल्प मौजूद हैं. उदाहरण के लिए, छोटे मॉडल सीमित डेटा का उपयोग करते हैं और स्पष्ट आउटपुट दे सकते हैं। ऐसे ऑन-डिवाइस AI सिस्टम भी हैं जिन्हें बड़े डेटा केंद्रों पर निरंतर डेटा स्थानांतरण की आवश्यकता नहीं होती है। हमें इस धारणा को चुनौती देनी चाहिए कि डेटा सौंपना बेहतर सेवाओं की कीमत है।
एआई कंपनियों का कहना है कि बेहतर सिस्टम बनाने के लिए उन्हें बड़े सार्वजनिक डेटासेट तक पहुंच की आवश्यकता है। क्या सरकारों को इन डेटासेट को रणनीतिक राष्ट्रीय संपत्ति के रूप में मानना चाहिए, या क्या इन्हें विकास में तेजी लाने के लिए निजी कंपनियों के साथ साझा किया जा सकता है?
यह भी पढ़ें | प्रशासनिक प्रणालियों को सरल बनाने के लिए एआई-संचालित समाधानों को पूरी तरह से अपनाएं: राष्ट्रपति मुर्मू ने आईएएस अधिकारियों से कहा
ईशा सूरी: डेटा को राष्ट्रीय या आर्थिक संपत्ति के रूप में परिभाषित करना समस्याग्रस्त है क्योंकि यह गोपनीयता से जुड़े मौलिक अधिकार के रूप में इसकी प्रकृति से ध्यान हटा देता है। सहमति के मुद्दे भी हैं. नागरिक एक उद्देश्य के लिए डेटा प्रदान कर सकते हैं, लेकिन व्यावसायिक साझेदारी में इसके उपयोग के लिए नहीं। हमें यह भी सवाल करने की ज़रूरत है कि बड़े डेटासेट तक पहुंच की मांग को कौन चला रहा है। अक्सर, ये स्पष्ट आर्थिक प्रोत्साहन वाली निजी कंपनियाँ होती हैं।
यह भी पढ़ें | सरकार शिक्षकों को एआई का उपयोग करने में मदद करेगी; मुक्त विद्यालयी शिक्षा ढांचे को आसान बनाएगा
अंततः, हम जो जोखिम उठाते हैं वह ऐसी स्थिति है जहां सार्वजनिक डेटा और सार्वजनिक धन सीमित जवाबदेही के साथ मूल्य के निजी निष्कर्षण को सक्षम बनाते हैं। इससे सरकारों के लिए यह महत्वपूर्ण हो जाता है कि वे पीछे हटें और मूल्यांकन करें कि ऐसी व्यवस्थाओं से किसे लाभ होता है और क्या वे सार्वजनिक हित के साथ संरेखित हैं।
सरकारें हमेशा निजी क्षेत्र के साथ काम करती आई हैं। क्या हमें उस साझेदारी में एआई से अलग व्यवहार करना चाहिए या उससे डरना चाहिए?
टिप्पणी | एआई और राष्ट्रीय सुरक्षा गणना
ईशा सूरी: आधार और डिजीयात्रा जैसी परियोजनाओं को सतर्क उदाहरण के रूप में देखा जाना चाहिए। कल्याण वितरण में लेन-देन को हल्के में नहीं लिया जा सकता। यहां तक कि छोटी बहिष्करण दरों के भी गंभीर परिणाम हो सकते हैं। जब सार्वजनिक बुनियादी ढांचे को हाइब्रिड या निजी संस्थाओं के माध्यम से चलाया जाता है तो जवाबदेही में भी अंतर होता है।
यदि अन्य सरकारें एआई को अपनाना शुरू कर देती हैं और यह विश्व स्तर पर अपरिहार्य हो जाता है, तो क्या भारत को भी इसे अपनाना चाहिए?
समझाया | भारत में AI को कैसे विनियमित किया जाएगा?
ईशा सूरी: अपरिहार्यता का विचार अतिरंजित है और अक्सर उद्योग की कहानियों से प्रेरित होता है। सरकारों को चूक जाने के डर पर प्रतिक्रिया करने के बजाय अपने स्वयं के उद्देश्यों को परिभाषित करना चाहिए।
यदि अन्य सरकारें एआई को अधिक धाराप्रवाह अपनाती हैं, तो क्या भारत के पिछड़ने का जोखिम है?
वर्तमान उद्योग कथा से पता चलता है कि बड़ी एआई कंपनियों और उनके बुनियादी ढांचे का समर्थन करना वहां पहुंचने का तरीका है। यह वास्तव में वास्तविक क्षमताओं के निर्माण से ध्यान भटकाने वाला हो सकता है। यदि आप भारत के अतीत को देखें, तो मूल विज्ञान में निवेश ने अंतरिक्ष और परमाणु विकास में प्रमुख कार्यक्रमों को सक्षम बनाया। यदि हम संप्रभु तकनीकी क्षमता चाहते हैं तो यहां भी इसी तरह के दृष्टिकोण की आवश्यकता है।
यह भी पढ़ें | भारत के नए एआई शासन दिशानिर्देश हाथों-हाथ दृष्टिकोण को आगे बढ़ाते हैं
ईशा सूरी: हमें यह भी सवाल करने की ज़रूरत है कि “पीछे पड़ जाना” का क्या मतलब है। एआई सिर्फ एक एप्लीकेशन नहीं है, यह एक पूर्ण स्टैक है, जिसमें कंप्यूट, डेटा और मॉडल शामिल हैं। यदि घरेलू प्रणालियाँ बड़ी वैश्विक कंपनियों द्वारा नियंत्रित बुनियादी ढांचे या साझेदारी पर बनाई जाती हैं, तो हम वास्तव में स्वदेशी क्षमता का निर्माण नहीं कर रहे हैं। हम बस मौजूदा निर्भरता के ऊपर परत चढ़ा रहे हैं। इससे विदेशी प्रौद्योगिकी एकाधिकार पर लॉक-इन और दीर्घकालिक निर्भरता का जोखिम पैदा होता है। यह संप्रभुता और नियंत्रण को लेकर भी चिंता पैदा करता है। साथ ही, कृत्रिम सामान्य बुद्धिमत्ता और सुपरइंटेलिजेंस के आसपास बहुत अधिक प्रचार श्रम प्रभाव, पर्यावरणीय लागत और शक्ति की एकाग्रता सहित वर्तमान नुकसान से ध्यान भटका सकता है।
तो वह हमें कहां छोड़ता है?
यह भी पढ़ें | आईआईटी-एम का अध्ययन एआई प्रशासन के लिए सहभागी दृष्टिकोण की वकालत करता है
ईशा सूरी: सरकारों को किसी भी तकनीक को अपनाने से पहले अपने उद्देश्यों को स्पष्ट रूप से परिभाषित करने की आवश्यकता है। पूछें कि क्या एआई आवश्यक है, और क्या जोखिम लाभ के समानुपाती हैं।
बातचीत को सुनने के लिए
ईशा सूरी सेंटर फॉर इंटरनेट एंड सोसाइटी में रिसर्च लीड हैं। रमन जीत सिंह चीमा एक्सेस नाउ में एशिया प्रशांत नीति निदेशक और वरिष्ठ अंतर्राष्ट्रीय वकील हैं, जो डिजिटल अधिकारों की रक्षा के लिए प्रतिबद्ध एक गैर-लाभकारी संस्था है।