XAI ने अपने AI- संचालित ग्रोक चैटबॉट में एक बग के लिए एक “अनधिकृत संशोधन” को दोषी ठहराया, जिससे ग्रोक का कारण बना बार -बार संदर्भित करें “दक्षिण अफ्रीका में सफेद नरसंहार” जब एक्स पर कुछ संदर्भों में आमंत्रित किया गया।
बुधवार को, ग्रोक ने एक्स पर दर्जनों पदों का जवाब देना शुरू कर दिया, जो दक्षिण अफ्रीका में सफेद नरसंहार के बारे में जानकारी के साथ, यहां तक कि असंबंधित विषयों के जवाब में भी। जब भी कोई व्यक्ति “@grok” टैग करता है, तो एआई-जनित पोस्ट वाले उपयोगकर्ताओं को जवाब देता है, जो कि एक्स खाते से उपजी है।
XAI के आधिकारिक एक्स खाते से गुरुवार को एक पोस्ट के अनुसार, ग्रोक बॉट के सिस्टम प्रॉम्प्ट में बुधवार सुबह एक बदलाव किया गया था-उच्च-स्तरीय निर्देश जो बॉट के व्यवहार को निर्देशित करते हैं-जिसने ग्रोक को “राजनीतिक विषय” पर “विशिष्ट प्रतिक्रिया” प्रदान करने का निर्देश दिया। XAI का कहना है कि ट्विक “उल्लंघन” [its] आंतरिक नीतियां और मुख्य मूल्य, “और यह कि कंपनी ने” पूरी तरह से जांच की है। ”
यह दूसरी बार है जब XAI ने सार्वजनिक रूप से ग्रोक के कोड में एक अनधिकृत बदलाव को स्वीकार किया है, जिससे एआई को विवादास्पद तरीकों से जवाब दिया गया है।
फरवरी में, ग्रोक संक्षेप में सेंसर XAI के अरबपति संस्थापक और Xai इंजीनियरिंग लीड के X. इगोर बाबुसकिन के मालिक, डोनाल्ड ट्रम्प और एलोन मस्क के अप्रभावी उल्लेख ने कहा कि ग्रोक को निर्देशित किया गया था दुष्ट कर्मचारी उन स्रोतों को नजरअंदाज करने के लिए, जिन्होंने कस्तूरी या ट्रम्प को गलत सूचना फैलाने का उल्लेख किया था, और जब उपयोगकर्ताओं ने इसे इंगित करना शुरू किया तो XAI ने परिवर्तन को वापस कर दिया।
XAI ने गुरुवार को कहा कि इसी तरह की घटनाओं को भविष्य में होने से रोकने के लिए कई बदलाव करने जा रहे हैं।
आज से, XAI ग्रोक के सिस्टम प्रॉम्प्ट को GitHub के साथ -साथ एक चांगेलॉग पर प्रकाशित करेगा। कंपनी का कहना है कि यह यह भी सुनिश्चित करने के लिए कि “अतिरिक्त चेक और उपायों को लागू करेगा” यह सुनिश्चित करने के लिए कि XAI कर्मचारी समीक्षा के बिना सिस्टम प्रॉम्प्ट को संशोधित नहीं कर सकते हैं और “24/7 मॉनिटरिंग टीम को स्थापित कर सकते हैं, जो ग्रोक के उत्तरों के साथ घटनाओं का जवाब देने के लिए स्वचालित प्रणालियों द्वारा पकड़े गए नहीं हैं।”
कस्तूरी के खतरों की लगातार चेतावनी के बावजूद ऐ गया अनियंत्रितXAI में एक गरीब AI सुरक्षा ट्रैक रिकॉर्ड है। एक हालिया रिपोर्ट पाया गया कि ग्रोक ने पूछे जाने पर महिलाओं की तस्वीरें लेंगे। चैटबॉट भी हो सकता है काफी अधिक crass Google के मिथुन और चैटगेट की तरह एआई, बोलने के लिए बहुत अधिक संयम के बिना कोसना।
सुरक्षिताई द्वारा एक अध्ययन, एआई लैब्स की जवाबदेही में सुधार करने के लिए एक गैर -लाभकारी संस्था, पाया गया कि उसके साथियों के बीच सुरक्षा पर XAI ने खराब रैंक पाया है, इसके कारण “बहुत कमजोर” जोखिम प्रबंधन प्रथाओं। इस महीने की शुरुआत में, xai एक स्व-लगाए गए समय सीमा को याद किया एक अंतिम एआई सुरक्षा ढांचे को प्रकाशित करने के लिए।
