मुंबई, 28 अप्रैल: एक रिपोर्ट के बाद मेटा की आग में आग लग गई है, जिसमें पता चला है कि फेसबुक, इंस्टाग्राम और व्हाट्सएप जैसे प्लेटफार्मों पर उपलब्ध एआई-संचालित चैटबॉट्स बच्चों सहित उपयोगकर्ताओं के साथ यौन रूप से स्पष्ट बातचीत में संलग्न हो सकते हैं। यह एआई प्रौद्योगिकी की सुरक्षा और सोशल मीडिया प्लेटफार्मों पर इसके संभावित दुरुपयोग के बारे में बढ़ती चिंताओं के बीच आता है। सुरक्षा उपायों को लागू करने के प्रयासों के बावजूद, रिपोर्ट ने मेटा की सामग्री मॉडरेशन की पर्याप्तता और संभावित जोखिमों के बारे में चिंताओं को बढ़ा दिया है जो कमजोर उपयोगकर्ताओं के लिए हैं।
सेलिब्रिटी-आवाज वाले बॉट्स के कंपनी का उपयोग विशेष रूप से जांच के दायरे में आया है, क्योंकि ये पात्र अनुचित और ग्राफिक संवादों में शामिल हैं। एक के अनुसार वॉल स्ट्रीट जर्नल (डब्ल्यूएसजे) प्रतिवेदनप्रकाशन द्वारा किए गए परीक्षणों में पाया गया कि जॉन सीना, क्रिस्टन बेल और जूडी डेंच जैसे आंकड़ों के बाद मॉडल किए गए सेलिब्रिटी-आवाज वाले चैटबॉट्स, सभी उम्र के उपयोगकर्ताओं के साथ परेशान और अवैध परिदृश्यों में संलग्न हो सकते हैं। डब्ल्यूएसजे की जांच में खतरनाक घटनाओं पर प्रकाश डाला गया, जहां एआई चैटबॉट्स, जिनमें मशहूर हस्तियों की आवाज़ का उपयोग करते हैं, यौन रूप से स्पष्ट बातचीत में लगे हुए हैं। मेटा ने भारत में जल्द ही रे-बैन मेटा चश्मा लॉन्च करने के लिए, लाइव ट्रांसलेशन फीचर अब मोटे तौर पर और अधिक रोलिंग किया; विवरण की जाँच करें।
कई महीनों में किए गए परीक्षणों में पाया गया कि ये बॉट्स जल्दी से ग्राफिक यौन परिदृश्यों को बढ़ा सकते हैं, तब भी जब उपयोगकर्ता नाबालिगों के रूप में पहचाने जाते हैं। एक उदाहरण में सीना की आवाज में 17 साल की उम्र में यौन मुठभेड़ का अनुकरण किया गया था, जबकि एक अन्य में वैधानिक बलात्कार के लिए एक काल्पनिक पुलिस गिरफ्तारी थी। इस तरह की सामग्री को रोकने के लिए आंतरिक दिशानिर्देशों के बावजूद इन परिदृश्यों की खोज की गई थी। ग्राफिक यौन परिदृश्यों के अलावा, रिपोर्ट में पता चला है कि बॉट्स आसानी से अनुचित भूमिका निभाने में संलग्न हो सकते हैं, जैसे कि उपयोगकर्ताओं को अवैध गतिविधियों का अनुकरण करने के लिए कहना। मेटा युवा उपयोगकर्ताओं के लिए आयु-उपयुक्त सेटिंग्स का समर्थन करने के लिए किशोर खातों की पहचान करने के लिए इंस्टाग्राम पर एआई-चालित आयु का पता लगाने का विस्तार करता है।
डब्ल्यूएसजे रिपोर्ट के लिए मेटा की प्रतिक्रिया
रिपोर्ट के जवाब में, मेटा ने दृढ़ता से इनकार किया कि निष्कर्षों ने विशिष्ट उपयोगकर्ता अनुभवों को प्रतिबिंबित किया, परीक्षणों को “जोड़तोड़” और “काल्पनिक” कहा। कंपनी ने चिंताओं को कम कर दिया, जिसमें अनुमान लगाया गया कि 20 से कम उम्र के उपयोगकर्ताओं के साथ केवल 0.02% एआई इंटरैक्शन शामिल हैं। मेटा के एक प्रवक्ता ने कहा कि डब्ल्यूएसजे की जांच में दर्शाए गए परिदृश्य अवास्तविक थे और “औसत उपयोगकर्ता का संकेत नहीं था।”
मेटा ने यह भी दावा किया कि इसने चरम उपयोग के मामलों के खिलाफ सुरक्षा को बढ़ाने के लिए पहले से ही अतिरिक्त उपाय किए थे, यह सुनिश्चित करते हुए कि उपयोगकर्ता अब अनुचित सामग्री उत्पन्न करने में सिस्टम को हेरफेर नहीं कर सकते हैं। कंपनी ने उम्र की परवाह किए बिना सभी उपयोगकर्ताओं के लिए सुरक्षित बातचीत सुनिश्चित करने के लिए एआई मॉडरेशन सिस्टम में लगातार सुधार करने के लिए अपनी प्रतिबद्धता पर जोर दिया।
(उपरोक्त कहानी पहली बार 28 अप्रैल, 2025 08:01 AM IST पर नवीनतम दिखाई दी। राजनीति, दुनिया, खेल, मनोरंजन और जीवन शैली पर अधिक समाचार और अपडेट के लिए, हमारी वेबसाइट पर लॉग ऑन करें नवीनतम.कॉम)।
