क्या है एंटीग्रेविटी, गूगल का नया एजेंटिक एआई कोडिंग प्लेटफॉर्म, जो ताजा सुरक्षा चिंताएं बढ़ा रहा है? | प्रौद्योगिकी समाचार

कथित तौर पर सुरक्षा दोष एंटीग्रेविटी की उस आवश्यकता से संबंधित है जिसके तहत उपयोगकर्ता ‘विश्वसनीय कार्यक्षेत्र’ के अंदर काम करते हैं। पोर्टनॉय ने बुधवार, 26 नवंबर को एक ब्लॉग पोस्ट में कहा, एक बार जब उस कार्यक्षेत्र से समझौता हो जाता है, तो यह “चुपचाप कोड एम्बेड कर सकता है जो हर बार एप्लिकेशन लॉन्च होने पर चलता है, यहां तक ​​​​कि मूल प्रोजेक्ट बंद होने के बाद भी।”

उन्होंने कहा कि इस भेद्यता का फायदा विंडोज और मैक पीसी दोनों पर उठाया जा सकता है।

पिछले साल से, सॉफ्टवेयर इंजीनियर और डेवलपर्स कोड बनाने और संपादित करने के लिए एआई-संचालित टूल का तेजी से उपयोग कर रहे हैं। जेनरेटिव एआई को सीधे विकास टर्मिनलों और कोडिंग कार्यक्षेत्रों में भी बनाया जा रहा है, एआई कोडिंग एजेंटों की ओर बदलाव पहले से ही आकार ले रहा है।

हालाँकि, बड़ी कंपनियों के मुख्य सूचना अधिकारी अपने परिचालन के प्रमुख हिस्सों को एआई एजेंटों को सौंपने से झिझक रहे हैं क्योंकि वे पटरी से उतर सकते हैं। इस साल जुलाई में, रेप्लिट द्वारा विकसित एक एआई कोडिंग एजेंट ने स्पष्ट निर्देश फ़ाइल में विशेष रूप से बताए जाने के बावजूद, “स्पष्ट अनुमति के बिना कोई और बदलाव नहीं” के बावजूद एक उपयोगकर्ता के पूरे लाइव डेटाबेस को बिना किसी चेतावनी के मिटा दिया।

फोर्ब्स ने पोर्टनॉय के हवाले से कहा, “जब आप एजेंटिक व्यवहार को आंतरिक संसाधनों तक पहुंच के साथ जोड़ते हैं, तो कमजोरियों का पता लगाना आसान और कहीं अधिक खतरनाक हो जाता है।” उन्होंने कहा, “जिस गति से हम अभी गंभीर खामियां ढूंढ रहे हैं, वह 1990 के दशक के अंत में हुई हैकिंग की तरह लगती है। एआई सिस्टम अत्यधिक भरोसेमंद धारणाओं और लगभग शून्य कठोर सीमाओं के साथ शिपिंग कर रहे हैं।”

एंटीग्रेविटी क्या है?

इसके साथ-साथ जेमिनी 3 की बहुप्रतीक्षित रिलीज़Google ने 18 नवंबर को अपना नया AI-संचालित कोडिंग टूल पेश किया जो एक नए ‘एजेंट-फर्स्ट’ इंटरफ़ेस के साथ आता है। उपयोगकर्ता प्लेटफ़ॉर्म के माध्यम से अपने कोड के साथ दो तरीकों से इंटरैक्ट कर सकते हैं: एडिटर व्यू उपयोगकर्ताओं को अधिक व्यावहारिक होने की अनुमति देता है, जहां एंटीग्रेविटी एक एआई-संचालित आईडीई (एकीकृत विकास वातावरण) के रूप में एआई-जनरेटेड टैब पूर्णता और एक सिंक्रोनस वर्कफ़्लो के लिए इनलाइन कमांड के साथ कार्य करता है।

मैनेजर सरफेस मोड में, उपयोगकर्ता कई एजेंटों को तैनात कर सकते हैं जो विभिन्न कार्यक्षेत्रों में स्वायत्त रूप से काम करेंगे। उदाहरण के लिए, एक एआई एजेंट एक नई ऐप सुविधा के लिए कोड उत्पन्न करेगा, ऐप लॉन्च करने के लिए टर्मिनल का उपयोग करेगा, और ब्राउज़र का उपयोग यह परीक्षण और सत्यापित करने के लिए करेगा कि सुविधा अपेक्षा के अनुरूप काम करती है या नहीं – यह सब समकालिक मानव हस्तक्षेप के बिना।

हालाँकि, उपयोगकर्ता एंटीग्रेविटी के अंतर्निहित एआई एजेंटों पर अपनी स्वायत्तता के स्तर को अनुकूलित कर सकते हैं, जिसमें ‘एजेंट-सहायता प्राप्त विकास’ मोड डिफ़ॉल्ट सेटिंग है और ‘समीक्षा-संचालित विकास’ सबसे प्रतिबंधात्मक सेटिंग है।

सुरक्षा विशेषज्ञों ने क्या पाया है?

चूंकि एंटीग्रेविटी विज़ुअल स्टूडियो कोड, एक ओपन-सोर्स कोड संपादक के शीर्ष पर बनाया गया है, इसलिए उपयोगकर्ताओं को स्रोत कोड फ़ोल्डरों को खोलने के बाद उन्हें ‘विश्वसनीय’ या ‘विश्वसनीय नहीं’ के रूप में चिह्नित करने के लिए कहा जाता है। पोर्टनॉय के अनुसार, अधिकांश उपयोगकर्ताओं को यह कहने के लिए मजबूर किया जाएगा कि वे स्रोत कोड पर भरोसा करते हैं, भले ही वे ऐसा न करते हों, क्योंकि ‘भरोसेमंद नहीं’ पर क्लिक करने से एंटीग्रेविटी के साथ आने वाली एआई सुविधाएं अप्राप्य हो जाएंगी।

अपने प्रयोग में, पोर्टनॉय ने एंटीग्रेविटी के सिस्टम प्रॉम्प्ट (एआई एजेंट के पालन के लिए पूर्व-परिभाषित निर्देशों का एक सेट) में से एक को लक्षित करके शुरुआत की, जिसमें कहा गया है कि एआई एजेंट को उपयोगकर्ता द्वारा परिभाषित नियमों का “हमेशा बिना किसी अपवाद के पालन करना चाहिए”। इसके कारण पोर्टनॉय ने सावधानी से एक दुर्भावनापूर्ण उपयोगकर्ता निर्देश तैयार किया, जिसने एआई एजेंट को परियोजना के भीतर स्थित एक दुर्भावनापूर्ण फ़ाइल के साथ वैश्विक एमसीपी कॉन्फ़िगरेशन फ़ाइल को बदलने के लिए मजबूर किया – यह सब उपयोगकर्ता के हस्तक्षेप की आवश्यकता के बिना, हमले को दृष्टि से दूर रखते हुए।

“एक बार जब यह फ़ाइल रख दी जाती है, तो यह लगातार बनी रहती है। एंटीग्रेविटी का कोई भी भविष्य का लॉन्च, भले ही कोई प्रोजेक्ट खोला गया हो और किसी भी ट्रस्ट सेटिंग के बावजूद कमांड को निष्पादित किया जाएगा। एंटीग्रेविटी की पूरी तरह से अनइंस्टॉल और पुनः इंस्टॉल करने के बाद भी, बैकडोर प्रभावी रहता है। उपयोगकर्ता को दुर्भावनापूर्ण mcp_config.json फ़ाइल को हटाने के लिए इसके बारे में पता होना चाहिए और इसे मैन्युअल रूप से हटाना होगा,” पोर्टनॉय ने कहा।

Google ने कैसे प्रतिक्रिया दी है?

Google को अपने निष्कर्षों की रिपोर्ट करने के बाद, टेक दिग्गज ने कथित तौर पर कहा है कि वे सुरक्षा विशेषज्ञ के निष्कर्षों पर गौर कर रहे हैं।

इसके अतिरिक्त, Google ने कहा कि वह पहले से ही एंटीग्रेविटी द्वारा उत्पन्न सुरक्षा जोखिमों के दो अन्य रूपों से अवगत है। पहला ज्ञात मुद्दा अप्रत्यक्ष त्वरित इंजेक्शन हमलों को अंजाम देकर डेटा को बाहर निकालने के लिए एंटीग्रेविटी एजेंट का उपयोग करना है। इस मुद्दे को प्रॉम्प्ट आर्मर नामक एक अन्य साइबर सुरक्षा स्टार्टअप द्वारा अलग से चिह्नित किया गया था।

Google ने अपनी बग-हंटिंग वेबसाइट पर कहा, “अविश्वसनीय डेटा के साथ काम करने से एजेंट के व्यवहार पर असर पड़ सकता है। जब स्रोत कोड, या किसी अन्य संसाधित सामग्री में अविश्वसनीय इनपुट होता है, तो एंटीग्रेविटी के एजेंट को उपयोगकर्ता के बजाय उन निर्देशों का पालन करने के लिए प्रभावित किया जा सकता है।” इसमें कहा गया है कि एजेंट को “मार्कडाउन या अन्य माध्यमों से दुर्भावनापूर्ण रूप से निर्मित यूआरएल में उपयोगकर्ता के कंप्यूटर पर फ़ाइलों से डेटा लीक करने” के लिए प्रभावित किया जा सकता है।

दूसरा ज्ञात मुद्दा त्वरित इंजेक्शन हमलों के माध्यम से दुर्भावनापूर्ण कोड चलाने के लिए एंटीग्रेविटी एजेंट का उपयोग करना है। टेक दिग्गज ने स्वीकार किया, “एंटीग्रेविटी एजेंट के पास कमांड निष्पादित करने की अनुमति है। हालांकि यह कमांड निष्पादित करते समय सतर्क रहता है, लेकिन इसे दुर्भावनापूर्ण कमांड चलाने के लिए प्रभावित किया जा सकता है।”

इंडियन एक्सप्रेस टिप्पणी के लिए Google से अलग से संपर्क किया गया है और प्रतिक्रिया प्राप्त होने के बाद इस रिपोर्ट को अपडेट किया जाएगा।