Openai अपने वायरल AI चैटबोट की झूठी जानकारी को मतिभ्रम करने की प्रवृत्ति पर यूरोप में एक और गोपनीयता की शिकायत का सामना कर रहा है – और यह नियामकों के लिए अनदेखी करने के लिए मुश्किल साबित हो सकता है।
गोपनीयता अधिकार वकालत समूह नोयब नॉर्वे में एक व्यक्ति का समर्थन कर रहा है जो खोजने के लिए भयभीत था चटपट बनाई गई जानकारी को वापस करना, जिसमें दावा किया गया था कि उसे अपने दो बच्चों की हत्या करने और तीसरे को मारने का प्रयास करने के लिए दोषी ठहराया गया था।
पहले गोपनीयता की शिकायत चैट के बारे में गलत व्यक्तिगत डेटा उत्पन्न करने के बारे में शामिल हैं जैसे कि एक जैसे मुद्दे शामिल हैं गलत जन्म तिथि या जीवनी विवरण जो गलत हैं। एक चिंता यह है कि Openai व्यक्तियों के लिए गलत जानकारी को सही करने के लिए एक रास्ता नहीं देता है जो AI उनके बारे में उत्पन्न करता है। आमतौर पर Openai ने ऐसे संकेतों के लिए प्रतिक्रियाओं को ब्लॉक करने की पेशकश की है। लेकिन यूरोपीय संघ के सामान्य डेटा संरक्षण विनियमन (GDPR) के तहत, यूरोपीय लोगों के पास डेटा एक्सेस अधिकारों का एक सूट है जिसमें व्यक्तिगत डेटा के सुधार का अधिकार शामिल है।
इस डेटा संरक्षण कानून के एक अन्य घटक को यह सुनिश्चित करने के लिए डेटा नियंत्रकों की आवश्यकता होती है कि यह सुनिश्चित करने के लिए कि वे व्यक्तियों के बारे में जो व्यक्तिगत डेटा उत्पन्न करते हैं वह सटीक है – और यह एक चिंता का विषय है कि NOYB अपनी नवीनतम CHATGPT शिकायत के साथ झंडी दिखा रहा है।
“GDPR स्पष्ट है। व्यक्तिगत डेटा को सटीक होना चाहिए,” जोकिम सोडरबर्ग ने एक बयान में NOYB के डेटा प्रोटेक्शन वकील ने कहा। “अगर ऐसा नहीं है, तो उपयोगकर्ताओं को यह अधिकार है कि वह सच्चाई को प्रतिबिंबित करने के लिए बदल गया है। चैटगेट उपयोगकर्ताओं को एक छोटे से अस्वीकरण दिखाते हुए कि चैटबॉट गलतियों को स्पष्ट रूप से पर्याप्त नहीं है। आप सिर्फ झूठी जानकारी नहीं फैला सकते हैं और अंत में यह कहते हुए एक छोटा सा अस्वीकरण जोड़ें कि आपने जो कुछ भी कहा है वह सिर्फ सच नहीं हो सकता है।”
GDPR के पुष्टि किए गए उल्लंघनों से वैश्विक वार्षिक कारोबार के 4% तक का दंड हो सकता है।
प्रवर्तन एआई उत्पादों में परिवर्तन को भी मजबूर कर सकता है। विशेष रूप से, इटली के डेटा प्रोटेक्शन वॉचडॉग द्वारा एक प्रारंभिक GDPR हस्तक्षेप, जिसमें देश में अस्थायी रूप से अवरुद्ध चैट को देखा गया था स्प्रिंग 2023 उदाहरण के लिए, यह उपयोगकर्ताओं को बताए जाने वाली जानकारी में परिवर्तन करने के लिए Openai। वॉचडॉग बाद में ओपनई € 15 मिलियन के लिए चला गया उचित कानूनी आधार के बिना लोगों के डेटा को संसाधित करने के लिए।
तब से, हालांकि, यह कहना उचित है कि यूरोप के आसपास गोपनीयता प्रहरी ने जीनई के लिए एक अधिक सतर्क दृष्टिकोण अपनाया है क्योंकि वे कोशिश करते हैं इन buzzy एआई टूल्स के लिए GDPR को लागू करने के लिए सबसे अच्छा पता है।
दो साल पहले, आयरलैंड का डेटा प्रोटेक्शन कमीशन (DPC) – जिसमें पिछले NOYB CHATGPT शिकायत पर एक लीड GDPR प्रवर्तन भूमिका है – प्रतिबंध के लिए भागने का आग्रह किया उदाहरण के लिए, Genai उपकरण। इससे पता चलता है कि नियामकों को इसके बजाय काम करने के लिए समय निकालना चाहिए कि कानून कैसे लागू होता है।
और यह उल्लेखनीय है कि चैट के खिलाफ एक गोपनीयता की शिकायत जो पोलैंड के डेटा प्रोटेक्शन वॉचडॉग द्वारा जांच के अधीन है सितंबर 2023 अभी भी एक निर्णय नहीं लिया है।
NOYB की नई CHATGPT शिकायत का उद्देश्य गोपनीयता नियामकों को हिलाकर जागना है, जब यह एआईएस के मतिभ्रम के खतरों की बात आती है।
गैर -लाभकारी ने TechCrunch के साथ (नीचे) स्क्रीनशॉट को साझा किया, जो CHATGPT के साथ एक बातचीत दिखाता है जिसमें AI एक सवाल का जवाब देता है, जिसमें पूछा जाता है कि “Hjalmar Holmen कौन है?” – शिकायत को लाने वाले व्यक्ति का नाम – एक दुखद कल्पना का उत्पादन करके, जिसमें झूठा कहा गया था कि उसे बच्चे की हत्या के लिए दोषी ठहराया गया था और अपने दो बेटों में से दो को मारने के लिए 21 साल की जेल की सजा सुनाई थी।
जबकि मानहानि का दावा है कि हजल्मर होलमेन एक बच्चा है, जो पूरी तरह से गलत है, नोयब नोट करता है कि चैटगिप की प्रतिक्रिया में कुछ सत्य शामिल हैं, क्योंकि प्रश्न में व्यक्ति के तीन बच्चे हैं। चैटबॉट को अपने बच्चों के लिंग भी मिले। और उनके होम टाउन का सही नाम है। लेकिन यह सिर्फ यह सब अधिक विचित्र और अस्थिर है कि एआई ने शीर्ष पर इस तरह के भीषण झूठ को मतिभ्रम किया।
NOYB के एक प्रवक्ता ने कहा कि वे यह निर्धारित करने में असमर्थ थे कि चैटबॉट ने इस व्यक्ति के लिए इस तरह के एक विशिष्ट अभी तक झूठे इतिहास का उत्पादन क्यों किया। प्रवक्ता ने कहा, “हमने यह सुनिश्चित करने के लिए शोध किया कि यह केवल किसी अन्य व्यक्ति के साथ मिश्रण नहीं था,” यह देखते हुए कि वे अखबार के अभिलेखागार में गौर करते थे, लेकिन एआई के गढ़े हुए बच्चे को क्यों मारते हुए एक स्पष्टीकरण नहीं मिला था।
बड़ी भाषा मॉडल जैसे कि एक अंतर्निहित CHATGPT अनिवार्य रूप से अगले शब्द की भविष्यवाणी को एक विशाल पैमाने पर करता है, इसलिए हम यह अनुमान लगा सकते हैं कि टूल को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटासेट में फिलिसाइड की बहुत सारी कहानियां होती हैं जो एक नामित आदमी के बारे में एक क्वेरी के जवाब में शब्द विकल्पों को प्रभावित करती हैं।
जो भी स्पष्टीकरण है, यह स्पष्ट है कि इस तरह के आउटपुट पूरी तरह से अस्वीकार्य हैं।
NOYB का विवाद यह भी है कि वे यूरोपीय संघ के डेटा सुरक्षा नियमों के तहत गैरकानूनी हैं। और जबकि Openai स्क्रीन के निचले भाग में एक छोटे से अस्वीकरण को प्रदर्शित करता है, जो कहता है कि “CHATGPT गलतियाँ कर सकता है। महत्वपूर्ण जानकारी की जांच करें,” यह कहता है कि यह GDPR के तहत अपने कर्तव्य के AI डेवलपर को पहले स्थान पर लोगों के बारे में महत्वपूर्ण झूठ का उत्पादन नहीं कर सकता है।
शिकायत की प्रतिक्रिया के लिए Openai से संपर्क किया गया है।
जबकि यह GDPR शिकायत एक व्यक्ति के नाम से संबंधित है, NOYB कानूनी रूप से समझौता करने वाली जानकारी को गढ़ने वाले चैट के अन्य उदाहरणों की ओर इशारा करता है – जैसे कि ऑस्ट्रेलियाई प्रमुख ने कहा कि वह था एक रिश्वत और भ्रष्टाचार घोटाले में फंसा या एक जर्मन पत्रकार जिसे एक बच्चे के नशेड़ी के रूप में गलत तरीके से नामित किया गया था – यह कहना स्पष्ट है कि यह एआई टूल के लिए एक अलग मुद्दा नहीं है।
एक महत्वपूर्ण बात यह है कि, अंतर्निहित एआई मॉडल पावरिंग चैट के लिए एक अपडेट के बाद, नोयब का कहना है कि चैटबॉट ने हजाल्मर होलमेन के बारे में खतरनाक झूठ का उत्पादन करना बंद कर दिया है – एक ऐसा बदलाव जो यह उपकरण से जुड़ता है, जो अब लोगों के बारे में जानकारी के लिए इंटरनेट की खोज करता है, जब वे (जबकि पहले, एक रिक्त रूप से, एक रिक्त रूप से, एक रिक्त रूप से, हॉलिडे, को प्रोत्साहित करते हैं।
हमारे अपने परीक्षणों में चैट से पूछते हैं कि “कौन है हजाल्मर होलमेन?” CHATGPT ने शुरू में अलग -अलग लोगों की कुछ तस्वीरों को प्रदर्शित करके थोड़ा अजीब कॉम्बो के साथ जवाब दिया, जाहिरा तौर पर इंस्टाग्राम, साउंडक्लाउड, और डिस्कोग्स सहित साइटों से खट्टा किया गया, पाठ के साथ, जिसने दावा किया कि यह “उस नाम के किसी व्यक्ति पर कोई जानकारी नहीं मिल सका” (नीचे हमारा स्क्रीनशॉट देखें)। एक दूसरे प्रयास ने एक प्रतिक्रिया को बदल दिया, जिसमें आरवे हजल्मर होलमेन की पहचान “एक नॉर्वेजियन संगीतकार और गीतकार” के रूप में हुई, जिनके एल्बमों में “होनकी टोंक इन्फर्नो” शामिल हैं।
जबकि Hjalmar Holmen के बारे में CHATGPT- जनित खतरनाक झूठ को रोक दिया गया है, NOYB और HJALMAR HOLMEN दोनों चिंतित हैं कि उनके बारे में गलत और मानहानि की जानकारी AI मॉडल के भीतर बनाए रखी जा सकती है।
“एक अस्वीकरण को जोड़ना कि आप कानून का अनुपालन नहीं करते हैं, कानून को दूर नहीं करता है,” एक बयान में NOYB में एक अन्य डेटा प्रोटेक्शन वकील क्लेन्थी सरदेली ने कहा। “एआई कंपनियां उपयोगकर्ताओं से झूठी जानकारी केवल ‘छिपानी’ नहीं कर सकती हैं, जबकि वे आंतरिक रूप से अभी भी झूठी जानकारी संसाधित करते हैं।”
उन्होंने कहा, “एआई कंपनियों को अभिनय करना बंद कर देना चाहिए जैसे कि जीडीपीआर उन पर लागू नहीं होता है, जब यह स्पष्ट रूप से होता है,” उन्होंने कहा। “अगर मतिभ्रम बंद नहीं किया जाता है, तो लोग आसानी से प्रतिष्ठित क्षति का सामना कर सकते हैं।”
NOYB ने नॉर्वेजियन डेटा प्रोटेक्शन अथॉरिटी के साथ Openai के खिलाफ शिकायत दर्ज की है – और यह उम्मीद कर रहा है कि वॉचडॉग यह तय करेगा कि यह जांच करना सक्षम है, क्योंकि OYB Openai की अमेरिकी इकाई में शिकायत को लक्षित कर रहा है, यह तर्क देते हुए कि आयरलैंड कार्यालय यूरोपीय लोगों को प्रभावित करने वाले उत्पाद निर्णयों के लिए पूरी तरह से जिम्मेदार नहीं है।
हालांकि पहले एक NOYB- समर्थित GDPR की शिकायत Openai के खिलाफ थी, जो ऑस्ट्रिया में दायर की गई थी अप्रैल 2024नियामक द्वारा आयरलैंड के डीपीसी के लिए संदर्भित किया गया था उस वर्ष के पहले Openai द्वारा किया गया एक परिवर्तन क्षेत्रीय उपयोगकर्ताओं के लिए CHATGPT सेवा के प्रदाता के रूप में अपने आयरिश डिवीजन को नाम देने के लिए।
अब वह शिकायत कहां है? अभी भी आयरलैंड में एक डेस्क पर बैठे हैं।
डीपीसी के सहायक प्रिंसिपल ऑफिसर कम्युनिकेशंस ने अद्यतन के लिए कहा, “सितंबर 2024 में ऑस्ट्रियाई पर्यवेक्षी प्राधिकरण से शिकायत प्राप्त होने के बाद, डीपीसी ने शिकायत की औपचारिक हैंडलिंग शुरू की और यह अभी भी जारी है।”
जब वह चटप्ट के मतिभ्रम की डीपीसी की जांच के निष्कर्ष निकालने की उम्मीद है, तो उसने कोई स्टीयर नहीं दिया।
