डेटिंग घोटालों से लेकर नकली वकीलों तक: ओपनएआई ने नई धमकी रिपोर्ट में चैटजीपीटी के दुरुपयोग का विवरण दिया है

ओपनएआई ने अपनी चैटजीपीटी तकनीक के दुरुपयोग का विवरण देने वाली एक रिपोर्ट में कहा कि उसने चीनी कानून प्रवर्तन, रोमांस घोटालेबाजों और प्रभाव संचालन से जुड़े खातों पर प्रतिबंध लगा दिया है, जिसमें जापान की पहली महिला प्रधान मंत्री के खिलाफ बदनामी अभियान भी शामिल है।

कंपनी ने कहा कि कई खातों ने खुद को डेटिंग एजेंसी, कानून फर्मों और अमेरिकी अधिकारियों के अलावा अन्य के रूप में पेश करते हुए साइबर अपराध को अंजाम देने के लिए सोशल मीडिया खातों सहित अन्य उपकरणों के साथ उसके चैटबॉट का उपयोग किया।

चीन में उत्पन्न होने वाले खातों के एक छोटे समूह ने अमेरिकी व्यक्तियों, ऑनलाइन मंचों और संघीय भवन स्थानों के बारे में जानकारी का अनुरोध करने के लिए ओपनएआई के मॉडल का उपयोग किया और फेस-स्वैपिंग सॉफ़्टवेयर पर मार्गदर्शन मांगा।

उन्हीं खातों ने व्यापार और वित्त में काम करने वाले राज्य-स्तरीय अमेरिकी अधिकारियों या नीति विश्लेषकों को अंग्रेजी भाषा के ईमेल भी तैयार किए, जिसमें भुगतान परामर्श में भाग लेने के लिए लक्ष्यों को आमंत्रित किया गया।

ओपनएआई ने कहा कि उसने चीनी कानून प्रवर्तन से जुड़े एक व्यक्ति से जुड़े चैटजीपीटी खाते पर प्रतिबंध लगा दिया है, जिसकी गतिविधि में जापानी प्रधान मंत्री साने ताकाइची को लक्षित करने वाले गुप्त प्रभाव अभियान को अंजाम देना शामिल था।

ओपनएआई के अनुसार, चैटजीपीटी खातों के एक समूह ने इंडोनेशियाई पुरुषों को निशाना बनाकर डेटिंग घोटाला चलाने के लिए चैटबॉट का इस्तेमाल किया और संभवतः एक महीने में सैकड़ों पीड़ितों को धोखा दिया।

ओपनएआई ने कहा कि घोटाले ने नकली डेटिंग सेवा के लिए प्रचार पाठ और विज्ञापन उत्पन्न करने के लिए चैटजीपीटी का उपयोग किया, उपयोगकर्ताओं को मंच में शामिल होने के लिए लुभाया और बड़े भुगतान की आवश्यकता वाले कई कार्यों को पूरा करने के लिए लक्ष्य पर दबाव डाला।

ओपनएआई ने कहा कि कई खातों ने खुद को कानून फर्मों के रूप में प्रस्तुत करने और वास्तविक वकीलों और अमेरिकी कानून प्रवर्तन का प्रतिरूपण करने के लिए धोखाधड़ी पीड़ितों को लक्षित करने के लिए ओपनएआई के मॉडल का इस्तेमाल किया।