नए अध्ययन में चेतावनी दी गई है कि एआई मॉडल का इस्तेमाल गुमनाम सोशल मीडिया खातों का भंडाफोड़ करने के लिए किया जा सकता है प्रौद्योगिकी समाचार

अध्ययन के निष्कर्ष ऐसे समय में आए हैं जब ऑनलाइन गुमनामी खतरे में है, न केवल एलएलएम या एआई एजेंटों से, बल्कि आयु आश्वासन प्रौद्योगिकी के प्रसार के कारण भी, जिसने वैश्विक नियामक कार्रवाइयों के बाद गति पकड़ी है। बच्चों को सोशल मीडिया का उपयोग करने से रोकें.

सरकारों द्वारा निगरानी और सैन्य उद्देश्यों के लिए भी एआई सिस्टम का तेजी से उपयोग किया जा रहा है। हाल ही में, क्लाउड निर्माता द्वारा कुछ ‘लाल रेखाओं’ या प्रतिबंधों को दोगुना करने के बाद एंथ्रोपिक और अमेरिकी सरकार के बीच एक उच्च-स्तरीय विवाद छिड़ गया, जो सैन्य या सरकार को उसके एआई सिस्टम के उपयोग को रोकता है। अमेरिकी नागरिकों की घरेलू निगरानी.

इसके अलावा, एआई के बढ़ने से अत्यधिक वैयक्तिकृत घोटालों में वृद्धि हुई है क्योंकि एलएलएम ने पीड़ितों के खिलाफ अधिक परिष्कृत हमलों को अंजाम देने के लिए विशेषज्ञता की आवश्यकता को काफी कम कर दिया है।

“एलएलएम क्षमताओं में हालिया प्रगति ने यह स्पष्ट कर दिया है कि एलएलएम-संचालित आक्रामक साइबर क्षमताओं के मद्देनजर कंप्यूटर सुरक्षा के विभिन्न पहलुओं पर पुनर्विचार करने की तत्काल आवश्यकता है। हमारा काम दिखाता है कि गोपनीयता के लिए भी यही सच है,” लेखकों ने लिखा।

उन्होंने आगे कहा, “हमने प्रदर्शित किया है कि एलएलएम बड़े पैमाने पर छद्म नाम वाले ऑनलाइन खातों को गुमनाम करने में सक्षम बनाता है, जो शास्त्रीय तरीकों से बेहतर प्रदर्शन करता है। कई मामलों में, एलएलएम हमें ऐसे हमले करने में सक्षम बनाता है जो संरचित डेटा या सुविधाओं की कमी के कारण पहले संभव नहीं होते।”

शोधकर्ताओं ने कैसे किया प्रयोग

यह परीक्षण करने के लिए कि एलएलएम का उपयोग ऑनलाइन गुमनाम सामग्री को फिर से पहचानने के लिए कितना प्रभावी ढंग से किया जा सकता है, शोधकर्ताओं ने अनिर्दिष्ट एलएलएम का उपयोग करके कई एआई एजेंटों की एक स्वचालित प्रणाली विकसित की। इन एजेंटों को अधिकांश मानव जांचकर्ताओं के तरीकों के समान वेब पर खोज करने और जानकारी के साथ बातचीत करने के लिए डिज़ाइन किया गया था।

एआई एजेंट-संचालित प्रणाली पोस्ट या अन्य टेक्स्ट को सुरागों के एक सेट के रूप में मानती है, जिसका विश्लेषण किसी की पहचान से संबंधित पैटर्न जैसे विचित्र लेखन, भटके हुए जीवनी संबंधी विवरण, पोस्टिंग आवृत्ति और समय के लिए किया जा सकता है। इसके बाद सिस्टम ने लक्षणों के मिश्रण का मिलान करने के लिए सोशल मीडिया पर संभावित रूप से लाखों उपयोगकर्ता खातों को स्कैन किया। इसने संभावित मैचों को चिह्नित किया और उनकी तुलना सुरागों से अधिक विस्तार से की।

शोधकर्ताओं ने कहा कि उन्होंने सार्वजनिक रूप से उपलब्ध पोस्ट से निर्मित डेटासेट का उपयोग करके मल्टी-एजेंट एआई सिस्टम का मूल्यांकन किया, जिसमें हैकर न्यूज और लिंक्डइन की सामग्री, वैज्ञानिकों के साथ एंथ्रोपिक के साक्षात्कार के टेप कि वे एआई का उपयोग कैसे करते हैं, और रेडिट खाते जिन्हें जानबूझकर मूल्यांकन के लिए दो अज्ञात हिस्सों में विभाजित किया गया था।

एक मामले में, शोधकर्ताओं ने एआई सिस्टम को एक अज्ञात खाते का विवरण दिया जिसमें स्कूल के बारे में बात की गई और “डोलोरेस पार्क” में अपने कुत्ते को बिस्किट घुमाने की बात कही गई। इसके बाद सिस्टम प्रक्रिया पाइपलाइन से गुजरा और अज्ञात खाते का ज्ञात पहचान से सटीक मिलान किया।

हालाँकि, अध्ययन में कहा गया है कि यह ऑनलाइन गुमनामी के खिलाफ कोई जादुई हथियार नहीं है क्योंकि एआई प्रणाली के लिए निष्कर्ष निकालने के लिए पर्याप्त जानकारी नहीं हो सकती है। कई मामलों में, संभावित मैचों की संख्या इतनी अधिक थी कि उन्हें कम नहीं किया जा सकता था।