चैटबॉट प्लेटफ़ॉर्म कैरेक्टर.एआई किशोरों के लिए अपने काम करने के तरीके में बदलाव कर रहा है, यह वादा करते हुए कि यह माता-पिता के लिए अतिरिक्त नियंत्रण के साथ एक “सुरक्षित” स्थान बन जाएगा।
साइट को अमेरिका में दो मुकदमों का सामना करना पड़ रहा है – एक किशोर की मौत पर – और इसे “ब्रांड किया गया है”स्पष्ट और वर्तमान ख़तरा“युवा लोगों के लिए.
इसमें कहा गया है कि नई सुविधाओं के माध्यम से अब सभी कार्यों में सुरक्षा का समावेश किया जाएगा, जो माता-पिता को बताएगा कि उनका बच्चा प्लेटफ़ॉर्म का उपयोग कैसे कर रहा है – जिसमें वे चैटबॉट्स से बात करने में कितना समय व्यतीत कर रहे हैं और जिनसे वे सबसे अधिक बात करते हैं।
प्लेटफ़ॉर्म – जो उपयोगकर्ताओं को डिजिटल व्यक्तित्व बनाने की अनुमति देता है जिसके साथ वे बातचीत कर सकते हैं – मार्च 2025 के अंत तक माता-पिता के नियंत्रण का “पहला पुनरावृत्ति” प्राप्त करेगा।
लेकिन मौली रोज़ फ़ाउंडेशन के प्रमुख एंडी बरोज़ ने इस घोषणा को “विलंबित, प्रतिक्रियाशील और पूरी तरह से असंतोषजनक प्रतिक्रिया” कहा, जो उन्होंने कहा “यह उनके मूलभूत सुरक्षा मुद्दों पर एक चिपका हुआ प्लास्टर फिक्स जैसा लगता है”।
उन्होंने कहा, “कैरेक्टर.एआई जैसे प्लेटफार्मों के साथ पकड़ बनाना और पूरी तरह से टाले जा सकने वाले नुकसान से निपटने में उनकी लगातार विफलता के खिलाफ कार्रवाई करना ऑफकॉम के लिए एक प्रारंभिक परीक्षा होगी।”
चरित्र.एआई अक्टूबर में आलोचना की गई थी जब मंच पर किशोरों मौली रसेल और ब्रियाना घी के चैटबॉट संस्करण पाए गए।
और नई सुरक्षा सुविधाएँ तब आई हैं जब इसे अतीत में बाल सुरक्षा को संभालने के तरीके के बारे में चिंताओं पर अमेरिका में कानूनी कार्रवाई का सामना करना पड़ा है। एक परिवार दावा कर रहा है एक चैटबॉट ने 17 वर्षीय एक लड़के से कहा कि अपने माता-पिता की हत्या करना उनके स्क्रीन समय को सीमित करने के लिए एक “उचित प्रतिक्रिया” थी।
नई सुविधाओं में उपयोगकर्ताओं को एक घंटे तक चैटबॉट से बात करने के बाद एक अधिसूचना देना और नए अस्वीकरण पेश करना शामिल है।
उपयोगकर्ताओं को अब आगे की चेतावनियां दिखाई जाएंगी कि वे किसी वास्तविक व्यक्ति के बजाय चैटबॉट से बात कर रहे हैं – और जो कुछ भी वह कहता है उसे काल्पनिक मानें।
और यह चैटबॉट्स में अतिरिक्त अस्वीकरण जोड़ रहा है जो मनोवैज्ञानिक या चिकित्सक होने का दावा करते हैं, ताकि उपयोगकर्ताओं को पेशेवर सलाह के लिए उन पर भरोसा न करने के लिए कहा जा सके।
सोशल मीडिया विशेषज्ञ मैट नवारा ने कहा कि उनका मानना है कि नई सुरक्षा सुविधाओं को पेश करने का कदम “हमारे दैनिक जीवन में एआई के तेजी से एकीकरण से उत्पन्न चुनौतियों की बढ़ती पहचान को दर्शाता है”।
उन्होंने कहा, “ये प्रणालियाँ केवल सामग्री वितरित नहीं कर रही हैं, वे बातचीत और रिश्तों का अनुकरण कर रही हैं जो विशेष रूप से विश्वास और गलत सूचना के आसपास अद्वितीय जोखिम पैदा कर सकती हैं।”
“मुझे लगता है कि कैरेक्टर.एआई एक महत्वपूर्ण भेद्यता, दुरुपयोग की संभावना या युवा उपयोगकर्ताओं के लिए अनुचित सामग्री का सामना करने की संभावना से निपट रहा है।
“यह एक स्मार्ट कदम है, और जिम्मेदार एआई विकास के आसपास बढ़ती अपेक्षाओं को स्वीकार करता है।”
लेकिन उन्होंने कहा कि हालांकि बदलाव उत्साहवर्धक थे, लेकिन उन्हें यह देखने में दिलचस्पी थी कि कैरेक्टर.एआई के लगातार बड़े होने के कारण सुरक्षा उपाय कैसे जारी रहेंगे।
