फेसबुक और इंस्टाग्राम जैसे मेटा के प्लेटफार्मों पर उपलब्ध एआई चैटबॉट्स अंडरएज उपयोगकर्ताओं के साथ यौन रूप से स्पष्ट बातचीत में संलग्न हो सकते हैं, के अनुसार वॉल स्ट्रीट जर्नल में एक नई रिपोर्ट।
डब्ल्यूएसजे का कहना है कि इस बारे में आंतरिक चिंताओं के बारे में जानने के बाद कि क्या कंपनी नाबालिगों की सुरक्षा के लिए पर्याप्त कर रही है, इसने महीनों को आधिकारिक मेटा एआई चैटबॉट दोनों के साथ सैकड़ों वार्तालापों के साथ-साथ मेटा प्लेटफार्मों पर उपलब्ध उपयोगकर्ता-निर्मित चैटबॉट्स के साथ सैकड़ों बातचीत का संचालन किया।
एक रिपोर्ट की गई बातचीत में, अभिनेता/पहलवान जॉन सीना की आवाज का उपयोग करते हुए एक चैटबॉट ने 14 साल की लड़की के रूप में पहचान करने वाले उपयोगकर्ता को एक ग्राफिक यौन परिदृश्य का वर्णन किया। एक अन्य बातचीत में, चैटबॉट ने एक पुलिस अधिकारी की कल्पना की, जो एक 17 वर्षीय प्रशंसक के साथ सीना को पकड़ता है और उसे बताता है, “जॉन सीना, आप वैधानिक बलात्कार के लिए गिरफ्तारी कर रहे हैं।”
एक मेटा के प्रवक्ता ने डब्ल्यूएसजे के परीक्षण को “इतना निर्मित किया कि यह केवल फ्रिंज नहीं है, यह काल्पनिक है।” कंपनी ने अनुमान लगाया कि 30-दिन की अवधि में, यौन सामग्री में मेटा एआई और एआई स्टूडियो के माध्यम से 18 वर्ष से कम उम्र के उपयोगकर्ताओं के साथ साझा किए गए 0.02% प्रतिक्रियाओं के लिए जिम्मेदार था।
प्रवक्ता ने कहा, “फिर भी, हमने अब अन्य व्यक्तियों को यह सुनिश्चित करने में मदद करने के लिए अतिरिक्त उपाय किए हैं, जो हमारे उत्पादों को चरम उपयोग के मामलों में हेरफेर करने में घंटों बिताना चाहते हैं।”
