एन्थ्रोपिक के सीईओ डारियो अमोडीई, चीनी एआई कंपनी, प्रतियोगी दीपसेक के बारे में चिंतित हैं तूफान से सिलिकॉन वैली ले गया साथ इसका R1 मॉडल। और उनकी चिंताएं चीन में उपयोगकर्ता डेटा भेजने के बारे में दीपसेक के बारे में उठाए गए विशिष्ट लोगों की तुलना में अधिक गंभीर हो सकती हैं।
में एक साक्षात्कार जॉर्डन श्नाइडर के चाइनाटलक पॉडकास्ट पर, अमोडी ने कहा कि डीपसेक ने एन्थ्रोपिक द्वारा चलाए जा रहे एक सुरक्षा परीक्षण में बायोविपन्स के बारे में दुर्लभ जानकारी उत्पन्न की।
दीपसेक का प्रदर्शन “मूल रूप से किसी भी मॉडल का सबसे बुरा था जिसे हमने कभी परीक्षण किया था,” अमोडी ने दावा किया। “यह इस जानकारी को उत्पन्न करने के खिलाफ कोई ब्लॉक नहीं था।”
Amodei ने कहा कि यह मूल्यांकन का हिस्सा था, जो अपने संभावित राष्ट्रीय सुरक्षा जोखिमों का आकलन करने के लिए विभिन्न AI मॉडल पर नियमित रूप से चलता है। उनकी टीम यह देखती है कि क्या मॉडल Bioweapons- संबंधित जानकारी उत्पन्न कर सकते हैं जो आसानी से Google पर या पाठ्यपुस्तकों में नहीं मिलती है। एंथ्रोपिक एआई फाउंडेशनल मॉडल प्रदाता के रूप में ही स्थिति जो सुरक्षा को गंभीरता से लेता है।
अमोडी ने कहा कि उन्होंने नहीं सोचा था कि दीपसेक के मॉडल आज दुर्लभ और खतरनाक जानकारी प्रदान करने में “शाब्दिक रूप से खतरनाक” हैं, लेकिन वे निकट भविष्य में हो सकते हैं। यद्यपि उन्होंने दीपसेक की टीम को “प्रतिभाशाली इंजीनियरों” के रूप में प्रशंसा की, लेकिन उन्होंने कंपनी को “इन एआई सुरक्षा विचारों को गंभीरता से लेने” की सलाह दी।
Amodei भी है समर्थित मजबूत निर्यात नियंत्रण चीन के चिप्स पर, चिंताओं का हवाला देते हुए कि वे चीन की सेना को बढ़त दे सकते हैं।
Amodei ने चिनटॉक साक्षात्कार में स्पष्ट नहीं किया कि किससेक मॉडल एंथ्रोपिक परीक्षण किया गया, और न ही उन्होंने इन परीक्षणों के बारे में अधिक तकनीकी विवरण दिए। एंथ्रोपिक ने तुरंत TechCrunch से टिप्पणी के लिए एक अनुरोध का जवाब नहीं दिया। न ही दीपसेक।
दीपसेक के उदय ने अपनी सुरक्षा के बारे में कहीं और भी चिंता जताई है। उदाहरण के लिए, सिस्को सुरक्षा शोधकर्ता पिछले सप्ताह कहा था डीपसेक आर 1 अपने सुरक्षा परीक्षणों में किसी भी हानिकारक संकेतों को अवरुद्ध करने में विफल रहा, जिससे 100% जेलब्रेक सफलता दर प्राप्त हुई।
सिस्को ने बायोविपन्स का उल्लेख नहीं किया, लेकिन कहा कि यह साइबर अपराध और अन्य अवैध गतिविधियों के बारे में हानिकारक जानकारी उत्पन्न करने के लिए दीपसेक को प्राप्त करने में सक्षम था। हालांकि, यह ध्यान देने योग्य है कि मेटा के लामा -3.1-405B और Openai के GPT-4O में भी क्रमशः 96% और 86% की उच्च विफलता दर थी।
यह देखा जाना बाकी है कि क्या इस तरह की सुरक्षा चिंताएं दीपसेक में एक गंभीर सेंध लगाएगी तेजी से गोद लेना। जैसे कंपनियां एडब्ल्यूएस और माइक्रोसॉफ्ट सार्वजनिक रूप से R1 को अपने क्लाउड प्लेटफॉर्म में एकीकृत करने के लिए टाउट किया है – विडंबना यह है कि अमेज़ॅन है एन्थ्रोपिक का सबसे बड़ा निवेशक।
वहीं दूसरी ओर, एक बढ़ती हुई सूची है देशों की, कंपनियोंऔर विशेष रूप से अमेरिकी नौसेना जैसे सरकारी संगठन और पेंटागन इसने दीपसेक पर प्रतिबंध लगाना शुरू कर दिया है।
समय बताएगा कि क्या ये प्रयास पकड़ते हैं या यदि दीपसेक का वैश्विक वृद्धि जारी रहेगी। किसी भी तरह से, अमोडी का कहना है कि वह दीपसेक को एक नए प्रतियोगी पर विचार करता है जो अमेरिका की शीर्ष एआई कंपनियों के स्तर पर है।
“यहाँ नया तथ्य यह है कि एक नया प्रतियोगी है,” उन्होंने चिनटॉक पर कहा। “बड़ी कंपनियों में जो एआई – एंथ्रोपिक, ओपनई, गूगल, शायद मेटा और एक्सई को प्रशिक्षित कर सकते हैं – अब डीपसेक को शायद उस श्रेणी में जोड़ा जा रहा है।”
