सरकारों को AI का उपयोग करने में कितनी दूर तक जाना चाहिए?

AI वास्तव में किस प्रकार की राज्य क्षमता को मजबूत कर सकता है? और कहां सरकारों को इस पर भरोसा करने को लेकर सतर्क रहना चाहिए?

रमन जीत सिंह चीमा: यह इस बात पर निर्भर करता है कि सरकार किस समस्या को हल करने का प्रयास कर रही है और वह किससे निपट रही है। एआई के कभी-कभी परिवर्तनकारी प्रभाव हो सकते हैं, जैसे डेटा तक पहुंच में सुधार या बेहतर विश्लेषण को सक्षम करना, लेकिन इसे अक्सर समस्या, उपलब्ध डेटा या इसमें शामिल लागत पर स्पष्टता के बिना तैनात किया जाता है। चेहरे की पहचान, निगरानी और कुछ स्वास्थ्य अनुप्रयोगों जैसे उच्च जोखिम वाले क्षेत्र भी हैं, जहां दुरुपयोग से महत्वपूर्ण नुकसान हो सकता है। ऐसे मामलों में, ‘कोई नुकसान न करें’ सिद्धांत लागू होना चाहिए, और कुछ संदर्भों में, पूर्ण निषेध को उचित ठहराया जा सकता है।

टिप्पणी | भारत में एआई-संचालित कर प्रशासन और इसकी चुनौतियाँ

ईशा सूरी: एआई सिस्टम अच्छे दायरे वाले उपयोग के मामलों में सबसे अच्छा काम करते हैं। उदाहरण के लिए, COVID-19 महामारी के दौरान, छवि-प्रसंस्करण उपकरण विभिन्न प्रकार के फेफड़ों के संक्रमण के बीच अंतर कर सकते थे क्योंकि समस्या स्पष्ट रूप से परिभाषित थी और पैरामीटर ज्ञात थे।

सरकारों को एआई को तैनात करने के उद्देश्य को परिभाषित करके शुरुआत करनी चाहिए। वह स्पष्टता अक्सर गायब रहती है। किसी भी प्रणाली को अपनाने से पहले, उन्हें पूछना चाहिए कि क्या एआई आवश्यक है, क्या कम दखल देने वाले विकल्प मौजूद हैं, और जोखिम क्या हैं। एक आवश्यकता और आनुपातिकता परीक्षण महत्वपूर्ण है। एआई को केवल इसलिए नहीं अपनाया जाना चाहिए क्योंकि यह मौजूद है।

यदि एआई सिस्टम के साथ अधिक डेटा साझा करने से सरकारी सेवाएं तेज और अधिक कुशल हो जाती हैं, तो लोगों को गोपनीयता के बारे में चिंता क्यों करनी चाहिए? मेज पर क्या नुकसान हैं?

ईशा सूरी: हमें यह सवाल करने की जरूरत है कि ‘दक्षता’ का मतलब क्या है और किसके लिए है। उत्पादकता लाभ पर साक्ष्य अभी भी कमजोर है। कई मामलों में, दक्षता के दावे श्रम प्रतिस्थापन में तब्दील हो जाते हैं। पारदर्शिता का भी अभाव है. एक उद्देश्य के लिए एकत्र किए गए डेटा का उपयोग कहीं और किया जा सकता है। कल्याण डेटा का उपयोग पुलिसिंग या लाभ से इनकार करने के लिए किया जा सकता है।

यह भी पढ़ें | प्रधानमंत्री ने कहा, एआई पूर्वाग्रह और जोखिमों से निपटने के लिए वैश्विक सहयोग महत्वपूर्ण है

यह विचार कि नागरिकों को डेटा साझा करने में कोई आपत्ति नहीं है, इसमें सूचित सहमति शामिल है, जो अक्सर मामला नहीं होता है। बहुत से लोग पूरी तरह से नहीं समझते कि उनके डेटा का उपयोग कैसे किया जाता है। भारत जैसे देशों में, जिसे अक्सर कम गोपनीयता के साथ सांस्कृतिक आराम के रूप में देखा जाता है, वह वास्तव में कम डिजिटल साक्षरता का परिणाम है।

यह भी पढ़ें | कर्नाटक सरकार ने रिस्पॉन्सिबल एआई पर समिति का गठन किया

इसलिए, व्यक्ति पूरी जानकारी के बिना निर्णय ले सकते हैं, जबकि दीर्घकालिक परिणाम सामने आते हैं। इसीलिए राज्य को नुकसान का अनुमान लगाना चाहिए और तैनाती के बाद नहीं, बल्कि डिज़ाइन चरण में सुरक्षा उपाय करने चाहिए।

रमन जीत सिंह चीमा: यह विचार कि बेहतर AI के लिए अधिक व्यक्तिगत डेटा की आवश्यकता होती है, त्रुटिपूर्ण है। इससे कुछ व्यावसायिक अभिनेताओं को लाभ होता है लेकिन यह तकनीकी रूप से आवश्यक नहीं है। अधिक डेटा हमेशा बेहतर नहीं होता. यह मुख्य रूप से उन कंपनियों के लिए अकुशल, जोखिम भरा और फायदेमंद हो सकता है जो बड़े पैमाने पर डेटा निष्कर्षण और कंप्यूटिंग-भारी बुनियादी ढांचे पर निर्भर हैं। विकल्प मौजूद हैं. उदाहरण के लिए, छोटे मॉडल सीमित डेटा का उपयोग करते हैं और स्पष्ट आउटपुट दे सकते हैं। ऐसे ऑन-डिवाइस AI सिस्टम भी हैं जिन्हें बड़े डेटा केंद्रों पर निरंतर डेटा स्थानांतरण की आवश्यकता नहीं होती है। हमें इस धारणा को चुनौती देनी चाहिए कि डेटा सौंपना बेहतर सेवाओं की कीमत है।

एआई कंपनियों का कहना है कि बेहतर सिस्टम बनाने के लिए उन्हें बड़े सार्वजनिक डेटासेट तक पहुंच की आवश्यकता है। क्या सरकारों को इन डेटासेट को रणनीतिक राष्ट्रीय संपत्ति के रूप में मानना ​​चाहिए, या क्या इन्हें विकास में तेजी लाने के लिए निजी कंपनियों के साथ साझा किया जा सकता है?

रमन जीत सिंह चीमा: हमें इस विचार से बहुत सावधान रहना चाहिए कि डेटा एक ऐसी चीज़ है जिसका मुद्रीकरण किया जा सकता है। निजी अभिनेताओं के लिए डेटा खोलना गोपनीयता, सुरक्षा और संप्रभुता के लिए जोखिम पैदा करता है। यह पिछली गलतियों को भी दोहराता है जहां सार्वजनिक प्रणालियों को पर्याप्त सुरक्षा उपायों के बिना सौंप दिया गया था।

यह भी पढ़ें | प्रशासनिक प्रणालियों को सरल बनाने के लिए एआई-संचालित समाधानों को पूरी तरह से अपनाएं: राष्ट्रपति मुर्मू ने आईएएस अधिकारियों से कहा

ईशा सूरी: डेटा को राष्ट्रीय या आर्थिक संपत्ति के रूप में परिभाषित करना समस्याग्रस्त है क्योंकि यह गोपनीयता से जुड़े मौलिक अधिकार के रूप में इसकी प्रकृति से ध्यान हटा देता है। सहमति के मुद्दे भी हैं. नागरिक एक उद्देश्य के लिए डेटा प्रदान कर सकते हैं, लेकिन व्यावसायिक साझेदारी में इसके उपयोग के लिए नहीं। हमें यह भी सवाल करने की ज़रूरत है कि बड़े डेटासेट तक पहुंच की मांग को कौन चला रहा है। अक्सर, ये स्पष्ट आर्थिक प्रोत्साहन वाली निजी कंपनियाँ होती हैं।

यह भी पढ़ें | सरकार शिक्षकों को एआई का उपयोग करने में मदद करेगी; मुक्त विद्यालयी शिक्षा ढांचे को आसान बनाएगा

अंततः, हम जो जोखिम उठाते हैं वह ऐसी स्थिति है जहां सार्वजनिक डेटा और सार्वजनिक धन सीमित जवाबदेही के साथ मूल्य के निजी निष्कर्षण को सक्षम बनाते हैं। इससे सरकारों के लिए यह महत्वपूर्ण हो जाता है कि वे पीछे हटें और मूल्यांकन करें कि ऐसी व्यवस्थाओं से किसे लाभ होता है और क्या वे सार्वजनिक हित के साथ संरेखित हैं।

सरकारें हमेशा निजी क्षेत्र के साथ काम करती आई हैं। क्या हमें उस साझेदारी में एआई से अलग व्यवहार करना चाहिए या उससे डरना चाहिए?

रमन जीत सिंह चीमा: हमें पिछली डिजिटल बुनियादी ढांचा परियोजनाओं से सीखना चाहिए। सिस्टम को पहले तैनात नहीं किया जाना चाहिए और बाद में विनियमित नहीं किया जाना चाहिए। एक जोखिम यह भी है कि प्रौद्योगिकी अपने आप में एक लक्ष्य बन जाए। सरकारें प्रणालियों का विस्तार इसलिए नहीं कर सकतीं क्योंकि वे परिणामों में सुधार करती हैं, बल्कि पूर्व निवेशों को उचित ठहराने के लिए। बड़ी साझेदारियाँ सरकारों को महँगी और अनम्य व्यवस्थाओं में भी फँसा सकती हैं।

टिप्पणी | एआई और राष्ट्रीय सुरक्षा गणना

ईशा सूरी: आधार और डिजीयात्रा जैसी परियोजनाओं को सतर्क उदाहरण के रूप में देखा जाना चाहिए। कल्याण वितरण में लेन-देन को हल्के में नहीं लिया जा सकता। यहां तक ​​कि छोटी बहिष्करण दरों के भी गंभीर परिणाम हो सकते हैं। जब सार्वजनिक बुनियादी ढांचे को हाइब्रिड या निजी संस्थाओं के माध्यम से चलाया जाता है तो जवाबदेही में भी अंतर होता है।

यदि अन्य सरकारें एआई को अपनाना शुरू कर देती हैं और यह विश्व स्तर पर अपरिहार्य हो जाता है, तो क्या भारत को भी इसे अपनाना चाहिए?

रमन जीत सिंह चीमा: सरकारों को वैश्विक रुझानों का आंख मूंदकर अनुसरण नहीं करना चाहिए। एआई का उपयोग केवल वहीं किया जाना चाहिए जहां यह सार्वजनिक हित और लोकतांत्रिक मूल्यों को आगे बढ़ाता है। नीति निर्माताओं को डेटा सुरक्षा, खरीद और बाजार एकाग्रता जैसी व्यावहारिक चिंताओं पर ध्यान देना चाहिए।

समझाया | भारत में AI को कैसे विनियमित किया जाएगा?

ईशा सूरी: अपरिहार्यता का विचार अतिरंजित है और अक्सर उद्योग की कहानियों से प्रेरित होता है। सरकारों को चूक जाने के डर पर प्रतिक्रिया करने के बजाय अपने स्वयं के उद्देश्यों को परिभाषित करना चाहिए।

यदि अन्य सरकारें एआई को अधिक धाराप्रवाह अपनाती हैं, तो क्या भारत के पिछड़ने का जोखिम है?

रमन जीत सिंह चीमा: यदि हम कृत्रिम सामान्य बुद्धिमत्ता के बारे में चिंतित हैं, तो ध्यान मूलभूत वैज्ञानिक क्षमता के निर्माण पर होना चाहिए।

वर्तमान उद्योग कथा से पता चलता है कि बड़ी एआई कंपनियों और उनके बुनियादी ढांचे का समर्थन करना वहां पहुंचने का तरीका है। यह वास्तव में वास्तविक क्षमताओं के निर्माण से ध्यान भटकाने वाला हो सकता है। यदि आप भारत के अतीत को देखें, तो मूल विज्ञान में निवेश ने अंतरिक्ष और परमाणु विकास में प्रमुख कार्यक्रमों को सक्षम बनाया। यदि हम संप्रभु तकनीकी क्षमता चाहते हैं तो यहां भी इसी तरह के दृष्टिकोण की आवश्यकता है।

यह भी पढ़ें | भारत के नए एआई शासन दिशानिर्देश हाथों-हाथ दृष्टिकोण को आगे बढ़ाते हैं

ईशा सूरी: हमें यह भी सवाल करने की ज़रूरत है कि “पीछे पड़ जाना” का क्या मतलब है। एआई सिर्फ एक एप्लीकेशन नहीं है, यह एक पूर्ण स्टैक है, जिसमें कंप्यूट, डेटा और मॉडल शामिल हैं। यदि घरेलू प्रणालियाँ बड़ी वैश्विक कंपनियों द्वारा नियंत्रित बुनियादी ढांचे या साझेदारी पर बनाई जाती हैं, तो हम वास्तव में स्वदेशी क्षमता का निर्माण नहीं कर रहे हैं। हम बस मौजूदा निर्भरता के ऊपर परत चढ़ा रहे हैं। इससे विदेशी प्रौद्योगिकी एकाधिकार पर लॉक-इन और दीर्घकालिक निर्भरता का जोखिम पैदा होता है। यह संप्रभुता और नियंत्रण को लेकर भी चिंता पैदा करता है। साथ ही, कृत्रिम सामान्य बुद्धिमत्ता और सुपरइंटेलिजेंस के आसपास बहुत अधिक प्रचार श्रम प्रभाव, पर्यावरणीय लागत और शक्ति की एकाग्रता सहित वर्तमान नुकसान से ध्यान भटका सकता है।

तो वह हमें कहां छोड़ता है?

रमन जीत सिंह चीमा: सरकार में एआई को कैसे और कहां तैनात किया जाता है, इसके बारे में सतर्क रहें। स्पष्ट उपयोग के मामलों पर ध्यान दें, बड़े निजी खिलाड़ियों पर अनावश्यक निर्भरता से बचें और सार्वजनिक हित, सुरक्षा और दीर्घकालिक स्थिरता को प्राथमिकता दें।

यह भी पढ़ें | आईआईटी-एम का अध्ययन एआई प्रशासन के लिए सहभागी दृष्टिकोण की वकालत करता है

ईशा सूरी: सरकारों को किसी भी तकनीक को अपनाने से पहले अपने उद्देश्यों को स्पष्ट रूप से परिभाषित करने की आवश्यकता है। पूछें कि क्या एआई आवश्यक है, और क्या जोखिम लाभ के समानुपाती हैं।

बातचीत को सुनने के लिए