सुरक्षा संबंधी चिंताओं के बीच पर्प्लेक्सिटी ने धूमकेतु सहायक के लिए नए नियंत्रण, अंतर्निहित सुरक्षा उपाय जोड़े हैं | प्रौद्योगिकी समाचार

इसमें कहा गया है, “सहायक को उन्हीं सिद्धांतों के तहत काम करने के लिए डिज़ाइन किया गया है जो एक मानव सहायक करता है, जो आपकी ओर से कार्य करने से पहले अधिक महत्वपूर्ण निर्णयों के लिए अनुमति मांगने के साथ-साथ आपको बाधित किए बिना कुछ छोटे निर्णय लेता है।”

इसके अतिरिक्त, पर्प्लेक्सिटी ने कहा कि उपयोगकर्ता अब एआई ब्राउज़र एजेंट के कार्यों को बारीकी से ट्रैक कर सकेंगे और सहायक साइडकार में चरण-दर-चरण इसके तर्क को देख सकेंगे। इसमें धूमकेतु सहायक को रोकने या अधिक मार्गदर्शन प्रदान करने के लिए स्पष्ट बटन भी जोड़े गए हैं। सैन फ्रांसिस्को स्थित एआई स्टार्टअप ने कहा कि कॉमेट असिस्टेंट के ये अपग्रेड तीन मुख्य सिद्धांतों के अनुरूप किए गए हैं, अर्थात्: पारदर्शिता, उपयोगकर्ता नियंत्रण और ध्वनि निर्णय।

“धूमकेतु सहायक में हर सुधार इन सिद्धांतों को आगे बढ़ाता है। यह अब आपको दिखाता है कि यह क्या कर रहा है, पूछता है कि आप इसे कैसे कार्य करना चाहते हैं, और संवेदनशील कार्यों को पूरा करने से पहले ध्वनि निर्णय प्रदर्शित करता है,” पेरप्लेक्सिटी ने कहा।

पर्प्लेक्सिटी सर्च या ऑम्निबार को भी अपग्रेड किया गया है ताकि उपयोगकर्ता अधिक आसानी से चुन सकें कि वे वेब ब्राउज़ करना चाहते हैं या नहीं, कॉमेट असिस्टेंट को एक बार अपनी ओर से ब्राउज़ करने की अनुमति दें, या उपयोगी होने का मौका मिलने पर असिस्टेंट को उपयोगकर्ताओं के लिए स्वचालित रूप से ब्राउज़ करने दें।

धूमकेतु सहायक की नई सुविधाएँ ऐसे समय में आई हैं जब एआई स्टार्टअप उपयोगकर्ता पहुंच और वितरण को बढ़ावा देने के प्रयास में एआई-संचालित ब्राउज़र बनाने के लिए दौड़ रहे हैं। हालाँकि, AI ब्राउज़र एजेंटों के बढ़ने से डेटा गोपनीयता और सुरक्षा संबंधी चिंताएँ पैदा हो गई हैं।

शोधकर्ताओं ने बताया है कि पर्प्लेक्सिटी के कॉमेट और ओपनएआई के चैटजीपीटी एटलस जैसे एजेंटिक एआई ब्राउज़र हमलावरों को अप्रत्यक्ष संकेत इंजेक्शन के माध्यम से ब्राउज़र एजेंट को दुर्भावनापूर्ण रूप से निर्देश देने और ईमेल, बैंकिंग पासवर्ड और अन्य व्यक्तिगत जानकारी सहित संवेदनशील उपयोगकर्ता डेटा तक पहुंच प्राप्त करने की अनुमति दे सकते हैं।

ओपनएआई ने खुद इस तरह के हमले की संभावना को स्वीकार किया है। चैटजीपीटी-निर्माता ने पहले कहा था, “आपकी ओर से कार्य करते समय केवल गलतियाँ करने के अलावा, एजेंट छिपे हुए दुर्भावनापूर्ण निर्देशों के प्रति संवेदनशील होते हैं, जो वेबपेज या ईमेल जैसी जगहों पर इस इरादे से छिपाए जा सकते हैं कि निर्देश चैटजीपीटी एजेंट के इच्छित व्यवहार को ओवरराइड कर दें। इससे आपके द्वारा लॉग इन की गई साइटों से डेटा चोरी हो सकता है या ऐसे कार्य किए जा सकते हैं जिनका आप इरादा नहीं रखते थे।”

हालाँकि, पर्प्लेक्सिटी जैसी कंपनियों ने इस बात पर ज़ोर देना जारी रखा है उपयोगकर्ता हमेशा AI ब्राउज़र एजेंटों के नियंत्रण में रहेंगे. कंपनी ने कहा, “दृश्यता को प्राथमिकता देकर, आपकी प्राथमिकताओं को अपनाकर और संवेदनशील कार्यों से पहले अनुमति का अनुरोध करके, धूमकेतु सहायक आपको मजबूती से नियंत्रण में रखते हुए स्वायत्तता की गति से काम करता है।”

हाल ही में, पर्प्लेक्सिटी ने कहा कि उसने कॉमेट असिस्टेंट को स्प्रेडशीट भरने या अन्य डेटा प्रविष्टि-संबंधित कार्यों के लिए टैब के बीच आगे और पीछे स्विच करने की क्षमता के साथ अपग्रेड किया है। इसने एआई ब्राउज़र एजेंट के अंतर्निहित आर्किटेक्चर में भी समायोजन किया, जिससे यह जटिल वेब वातावरणों को बेहतर ढंग से समझने और बातचीत करने में सक्षम हो गया। 20 बिलियन डॉलर के Google चैलेंजर ने यह भी कहा कि वह आने वाले दिनों में एक नया AI असिस्टेंट लॉन्च करेगा।