सिग्नल के अध्यक्ष मेरेडिथ व्हिटकर ने शुक्रवार को चेतावनी दी कि एजेंट एआई उपयोगकर्ता गोपनीयता के लिए एक जोखिम के साथ आ सकता है।
ऑस्टिन, टेक्सास में एसएक्सएसडब्ल्यू सम्मेलन में मंच पर बोलते हुए, सुरक्षित संचार के अधिवक्ता ने एआई एजेंटों के उपयोग को “अपने मस्तिष्क को एक जार में डालने” के रूप में संदर्भित किया, और चेतावनी दी कि कंप्यूटिंग का यह नया प्रतिमान – जहां एआई उपयोगकर्ताओं की ओर से कार्य करता है – दोनों की गोपनीयता और सुरक्षा के साथ एक “गहरा मुद्दा” है।
Whittaker ने बताया कि कैसे AI एजेंटों को उपयोगकर्ता के लिए विभिन्न ऑनलाइन कार्यों को संभालकर आपके जीवन में मूल्य जोड़ने के तरीके के रूप में विपणन किया जा रहा है। उदाहरण के लिए, एआई एजेंट कॉन्सर्ट देखने, टिकट बुक करने, अपने कैलेंडर पर घटना को शेड्यूल करने और अपने दोस्तों को मैसेज करने जैसे कार्यों को लेने में सक्षम होंगे जो इसे बुक किया गया है।
“तो हम सिर्फ एक जार में अपने दिमाग को डाल सकते हैं क्योंकि यह बात यह कर रही है और हमें इसे छूने की ज़रूरत नहीं है, ठीक है?,” व्हिटेकर ने कहा।
तब उसने समझाया कि एआई एजेंट को इन कार्यों को करने की आवश्यकता होगी, जिसमें हमारे वेब ब्राउज़र तक पहुंच और इसे चलाने का एक तरीका और साथ ही टिकट, हमारे कैलेंडर और मैसेजिंग ऐप के लिए हमारे क्रेडिट कार्ड की जानकारी तक पहुंच के साथ -साथ अपने दोस्तों को पाठ भेजने के लिए।
“यह ड्राइव करने में सक्षम होने की आवश्यकता होगी [process] हमारे पूरे सिस्टम के साथ, जो जड़ की अनुमति की तरह दिखता है, उन डेटाबेसों में से हर एक को एक्सेस करना – शायद स्पष्ट रूप से, क्योंकि ऐसा करने के लिए कोई मॉडल नहीं है, “व्हिटकर ने चेतावनी दी।
“और अगर हम एक पर्याप्त शक्तिशाली शक्तिशाली के बारे में बात कर रहे हैं … एआई मॉडल जो कि शक्ति दे रहा है, तो कोई रास्ता नहीं है जो डिवाइस पर हो रहा है,” उसने जारी रखा। “यह लगभग निश्चित रूप से एक क्लाउड सर्वर पर भेजा जा रहा है जहां इसे संसाधित किया जा रहा है और वापस भेजा जा रहा है। तो सुरक्षा और गोपनीयता के साथ एक गहरा मुद्दा है जो एजेंटों के आसपास इस प्रचार को सता रहा है, और यह अंततः इन सभी अलग-अलग सेवाओं को जोड़कर एप्लिकेशन लेयर और ओएस परत के बीच रक्त-मस्तिष्क अवरोध को तोड़ने की धमकी दे रहा है [and] अपने डेटा को गूढ़ करते हुए, “व्हिटकर ने निष्कर्ष निकाला।
यदि सिग्नल जैसे मैसेजिंग ऐप को एआई एजेंटों के साथ एकीकृत करना था, तो यह आपके संदेशों की गोपनीयता को कम कर देगा, उसने कहा। एजेंट को अपने दोस्तों को टेक्स्ट करने के लिए ऐप का उपयोग करना पड़ता है और उन ग्रंथों को संक्षेप में डेटा वापस खींचता है।
उनकी टिप्पणियों ने पैनल के दौरान पहले की गई टिप्पणियों का पालन किया कि कैसे एआई उद्योग को बड़े पैमाने पर डेटा संग्रह के साथ एक निगरानी मॉडल पर बनाया गया था। उसने कहा कि “बड़ा बेहतर एआई प्रतिमान है” – जिसका अर्थ है कि अधिक डेटा, बेहतर – संभावित परिणाम थे जो उसने नहीं सोचा था कि वे अच्छे थे।
एजेंटिक एआई के साथ, व्हिटकर ने चेतावनी दी कि हम एक “मैजिक जिन्न बॉट के नाम पर गोपनीयता और सुरक्षा को और कम कर देंगे जो जीवन की एक्सीजेंस का ख्याल रखने जा रहा है,” उसने निष्कर्ष निकाला।
