ओपनई ने शुक्रवार को कहा कि उसके पास इस बात का सबूत था कि एक चीनी सुरक्षा अभियान ने पश्चिमी देशों में सोशल मीडिया सेवाओं पर चीनी-विरोधी पदों के बारे में वास्तविक समय की रिपोर्ट एकत्र करने के लिए एक कृत्रिम बुद्धिमत्ता-संचालित निगरानी उपकरण का निर्माण किया था।
कंपनी के शोधकर्ताओं ने कहा कि उन्होंने इस नए अभियान की पहचान की है, जिसे उन्होंने पीयर रिव्यू कहा था, क्योंकि किसी ने उपकरण पर काम करने वाले किसी व्यक्ति को कुछ कंप्यूटर कोड को डिबग करने के लिए ओपनईएआई की प्रौद्योगिकियों का उपयोग किया था जो इसे कम करता है।
ओपनईएआई के एक प्रमुख अन्वेषक बेन निम्मो ने कहा कि यह पहली बार था जब कंपनी ने इस तरह के एआई-संचालित निगरानी उपकरण को उजागर किया था।
“खतरे अभिनेता कभी -कभी हमें एक झलक देते हैं कि वे इंटरनेट के अन्य हिस्सों में क्या कर रहे हैं, क्योंकि वे हमारे एआई मॉडल का उपयोग करते हैं,” श्री निम्मो ने कहा।
इस बात की चिंता बढ़ रही है कि एआई का उपयोग निगरानी, कंप्यूटर हैकिंग, विघटन अभियानों और अन्य दुर्भावनापूर्ण उद्देश्यों के लिए किया जा सकता है। हालांकि श्री निम्मो जैसे शोधकर्ताओं का कहना है कि तकनीक निश्चित रूप से इस प्रकार की गतिविधियों को सक्षम कर सकती है, वे जोड़ते हैं कि एआई भी इस तरह के व्यवहार को पहचानने और रोकने में मदद कर सकता है।
श्री निम्मो और उनकी टीम का मानना है कि चीनी निगरानी उपकरण मेटा द्वारा निर्मित एआई तकनीक, लामा पर आधारित है, जिसने इसकी तकनीक को खोला, जिसका अर्थ है कि इसका अर्थ है दुनिया भर में सॉफ्टवेयर डेवलपर्स के साथ अपने काम को साझा किया।
दुर्भावनापूर्ण और भ्रामक उद्देश्यों के लिए एआई के उपयोग पर एक विस्तृत रिपोर्ट में, ओपनई ने यह भी कहा कि इसने एक अलग चीनी अभियान को उजागर किया था, जिसे प्रायोजित असंतोष कहा जाता है, जिसने चीनी असंतुष्टों की आलोचना करने वाले अंग्रेजी-भाषा पदों को उत्पन्न करने के लिए ओपनईआई की प्रौद्योगिकियों का उपयोग किया था।
एक ही समूह, ओपनई ने कहा, लैटिन अमेरिका में वितरित करने से पहले कंपनी की तकनीकों का उपयोग स्पेनिश में अनुवाद करने के लिए किया है। लेखों ने अमेरिकी समाज और राजनीति की आलोचना की।
अलग से, ओपनआईएआई शोधकर्ताओं ने एक अभियान की पहचान की, जिसे कंबोडिया में स्थित माना जाता है, जिसने सोशल मीडिया टिप्पणियों को उत्पन्न करने और अनुवाद करने के लिए कंपनी की प्रौद्योगिकियों का उपयोग किया, जिसने एक घोटाले को “” के रूप में जाना जाने वाला एक घोटाला करने में मदद की, जिसे “” “के रूप में जाना जाता है।सुअर कसाई”रिपोर्ट में कहा गया है। एआई-जनित टिप्पणियों का उपयोग इंटरनेट पर पुरुषों को लुभाने और उन्हें एक निवेश योजना में उलझाने के लिए किया गया था।
(न्यूयॉर्क टाइम्स के पास है पर मुकदमा दायर AI सिस्टम से संबंधित समाचार सामग्री के कॉपीराइट उल्लंघन के लिए Openai और Microsoft। Openai और Microsoft ने उन दावों से इनकार किया है।)
