कृत्रिम बुद्धिमत्ता (एआई) के तेजी से लोकतंत्रीकरण और अपनाने की अभूतपूर्व गति के कारण, उद्यम उत्पन्न होने वाले अपरिचित जोखिमों और उसके बाद के अनुपालन और नियामक दबावों से निपटने में सक्षम नहीं हो सकते हैं। आईटी प्रशासन के लिए पारंपरिक दृष्टिकोण एआई संदर्भ में कम पड़ रहे हैं, जो नवाचारों की गति के साथ तालमेल नहीं बिठा पाया है। एआई कार्यान्वयन अक्सर पूरे उद्यम में अत्यधिक विकेन्द्रीकृत और विशिष्ट होते हैं, जिससे जोखिम प्रबंधन तंत्र स्थापित करना मुश्किल हो जाता है। एआई अक्सर तीसरे पक्ष के सॉफ्टवेयर, हार्डवेयर और सेवाओं में अंतर्निहित होता है जो विशिष्ट व्यावसायिक इकाइयों में तैनात होते हैं, जो संभावित रूप से कानूनी, प्रतिष्ठित, डेटा गोपनीयता और परिचालन क्षेत्रों में अनदेखे जोखिमों के संपर्क में आते हैं। एआई शासन ढांचे को निम्नलिखित सिद्धांतों पर आधारित होना चाहिए, जिन्हें पूरे जीवनचक्र में शामिल करने की आवश्यकता है, न कि केवल मॉडल सत्यापन के दौरान।
पूर्वाग्रह शमन
मनुष्यों में अक्सर संज्ञानात्मक पूर्वाग्रह और नकारात्मक संबंध होते हैं, जो अक्सर और अनजाने में एआई सिस्टम में घुस जाते हैं। किसी उद्यम के लिए, अनुचित पूर्वाग्रह भर्ती में व्याप्त हो सकते हैं या कुछ ग्राहक जनसांख्यिकी के लिए सेवाओं के स्तर में अंतर हो सकते हैं, जैसे लिंग या जातीयता से जुड़ी ऋण स्वीकृति दरें। विकल्प-आधारित वर्गीकरण जैसी उचित पूर्व और बाद की प्रसंस्करण तकनीकें सुधारात्मक भार निर्दिष्ट करने और पूर्वाग्रह को खत्म करने में मदद करती हैं। प्रतिकूल डिबियासिंग एक इन-प्रोसेसिंग तकनीक है जिसमें पहले मॉडल की संवेदनशील विशेषताओं की भविष्यवाणी करने के लिए एक दूसरा मॉडल विकसित किया जाता है जो पूर्वाग्रह का कारण बनता है। पूर्वाग्रह को कम करने के लिए इसी तरह की अन्य जांच और संतुलन मौजूद हैं, जैसे कि क्या-क्या विश्लेषण उपकरण जो तनाव परीक्षण मॉडल के लिए इंटरैक्टिव दृश्य विश्लेषण प्रदान करते हैं और इसके ब्लाइंड स्पॉट और बाधाओं का पता लगाते हैं।
व्याख्यात्मकता
reproducibility
एआई लर्निंग वर्कफ़्लो में पुनरुत्पादन का मतलब है कि डेटा प्रोसेसिंग, मॉडल प्रशिक्षण और मॉडल परिनियोजन के प्रत्येक चरण को समान इनपुट दिए जाने पर समान परिणाम उत्पन्न करना चाहिए। हितधारकों के बीच किसी परियोजना के एमएल घटकों में विश्वास बनाने के लिए निरंतरता की आवश्यकता होती है। उचित मॉडल दस्तावेज़ीकरण प्रतिलिपि प्रस्तुत करने योग्यता में सुधार कर सकता है। प्रतिलिपि प्रस्तुत करने योग्यता के लिए सर्वोत्तम संभव परिणाम प्राप्त करने के लिए, उद्यमों को तीन फोकस क्षेत्रों-डेटा, मॉडल और हार्डवेयर और सॉफ्टवेयर वातावरण पर केंद्रित एमएलओपीएस सर्वोत्तम प्रथाओं को अपनाना चाहिए।
सुरक्षा
एआई सिस्टम की सुरक्षा और सुरक्षा के लिए कई खतरे मौजूद हैं। एक प्रमुख मुद्दा यह है कि समय से पहले सभी संभावित डाउनस्ट्रीम प्रभावों की भविष्यवाणी करना कठिन है, विशेष रूप से स्वचालन की कई परतों वाली जटिल प्रणालियों में। हमलावर विभिन्न प्रकार की कमजोरियों को लक्षित कर सकते हैं, उनमें से एक एआई सिस्टम को शक्ति देने के लिए उपयोग किए जाने वाले डेटा के साथ छेड़छाड़ करना है, जिससे विनाशकारी परिणाम हो सकते हैं। आवश्यक सुरक्षा प्रोटोकॉल के साथ सिस्टम विकसित करना और यह सुनिश्चित करना चुनौतीपूर्ण है कि वे बदलते रुझानों और इनपुट के अनुकूल लचीले बने रहें। जहां तक पुनरुत्पादन की बात है, डेटा और मॉडल प्रबंधन के लिए जांच और संतुलन कई चिंताओं को कम करने में मदद करते हैं।