कनाडाई अधिकारियों ने स्कूल में गोलीबारी के मद्देनजर ओपनएआई प्रतिनिधियों के प्रति निराशा व्यक्त की

कनाडाई अधिकारियों ने निराशा व्यक्त की कि ओपनएआई प्रतिनिधियों ने मंगलवार को एक बैठक में नए सुरक्षा उपाय पेश नहीं किए, जब चैटजीपीटी निर्माता ने कहा कि उसने एक कथित सामूहिक शूटर से संबंधित खाते पर प्रतिबंध लगाने के बारे में पुलिस से संपर्क नहीं किया।

18 वर्षीय जेसी वैन रूटसेलर पर 10 फरवरी को ब्रिटिश कोलंबिया के एक छोटे से शहर में अपनी जान लेने से पहले आठ लोगों की हत्या करने का संदेह है। ओपनएआई ने कहा कि उसने पिछले साल नीति उल्लंघनों के लिए चैटजीपीटी पर उसके खाते पर प्रतिबंध लगा दिया था, जिसके बारे में उसने कहा था कि यह कानून प्रवर्तन को रिपोर्ट करने के लिए आंतरिक मानदंडों को पूरा नहीं करता है।

कृत्रिम बुद्धिमत्ता के प्रभारी संघीय मंत्री इवान सोलोमन ने ओटावा में एक बैठक के लिए ⁠OpenAI के शीर्ष सुरक्षा अधिकारियों को बुलाया।

सोलोमन ने बैठक के बाद एक बयान में कहा, “हमने यह स्पष्ट कर दिया है कि कनाडाई गंभीर हिंसा के विश्वसनीय चेतावनी संकेतों को समय पर और जिम्मेदार तरीके से बढ़ाने की उम्मीद करते हैं। जब सार्वजनिक सुरक्षा दांव पर हो तो अकेले आंतरिक समीक्षा पर्याप्त नहीं है।”

“हमने अपनी निराशा व्यक्त की कि इस समय कोई महत्वपूर्ण नए सुरक्षा उपाय प्रस्तुत नहीं किए गए। ओपनएआई ने संकेत दिया कि वे कनाडाई संदर्भ के अनुरूप अधिक ठोस प्रस्तावों के साथ जल्द ही वापस आएंगे।”

सोलोमन ने कहा कि ओपनएआई ने पुष्टि की है कि कंपनी कनाडाई पुलिस के साथ सहयोग कर रही है, हालांकि चल रही जांच के विवरण पर चर्चा नहीं की गई। सार्वजनिक सुरक्षा, संस्कृति और न्याय मंत्री भी बैठक में शामिल हुए।

ओपनएआई ने कहा कि उसने सुरक्षा उपायों को मजबूत करने के लिए हाल के महीनों में कदम उठाए हैं और हिंसक गतिविधियों से जुड़े मामलों के लिए कानून प्रवर्तन रेफरल प्रोटोकॉल में बदलाव किए हैं।

कंपनी ने एक बयान में कहा, “मंत्रियों ने इस बात पर जोर दिया कि कनाडाई निरंतर ठोस कार्रवाई की उम्मीद करते हैं और हमने उस संदेश को जोर से और स्पष्ट रूप से सुना है।” “हम आने वाले दिनों में अपने द्वारा उठाए जा रहे अतिरिक्त कदमों के बारे में अपडेट देने के लिए प्रतिबद्ध हैं, क्योंकि हम कानून प्रवर्तन का समर्थन करना जारी रखेंगे और सभी कनाडाई लोगों के लिए एआई सुरक्षा को मजबूत करने पर सरकार के साथ काम करेंगे।”

2024 में, कनाडा की लिबरल सरकार ने ऑनलाइन नफरत पर नकेल कसने के लिए मसौदा कानून पेश किया, लेकिन आलोचना के कारण यह प्रयास रुक गया क्योंकि इसका दायरा बहुत व्यापक था। मंत्रियों का कहना है कि वे इस साल संशोधित विधेयक के साथ फिर कोशिश करेंगे।

वान रूटसेलेर, जिनके बारे में पुलिस का कहना है कि उनका जन्म पुरुष के रूप में हुआ था, लेकिन उनकी पहचान एक महिला के रूप में हुई और छह साल पहले उनका संक्रमण शुरू हुआ, उन्हें मानसिक स्वास्थ्य समस्याओं का इतिहास था। हत्याएं ब्रिटिश कोलंबिया के टंबलर रिज में हुईं, जहां लगभग 2,400 लोग रहते हैं।

OpenAI का कहना है कि उसने 2025 में वैन रूटसेलेर के खाते पर प्रतिबंध लगा दिया था, क्योंकि इसे उन प्रणालियों द्वारा चिह्नित किया गया था जो “हिंसक गतिविधियों को आगे बढ़ाने में हमारे मॉडलों के दुरुपयोग” की पहचान करते थे।

कंपनी ने पुलिस से संपर्क करने पर विचार किया, लेकिन निर्धारित किया कि खाता दूसरों को गंभीर शारीरिक नुकसान पहुंचाने के आसन्न और विश्वसनीय जोखिम की सीमा को पूरा नहीं करता है।