यूके का इंटरनेट वॉचडॉग डीपफेक पोर्न के लिए सख्त दृष्टिकोण करता है

यूके के इंटरनेट सेफ्टी रेगुलेटर ने एक और नया ड्राफ्ट मार्गदर्शन प्रकाशित किया है, क्योंकि यह ऑनलाइन सेफ्टी एक्ट (OSA) को लागू करना जारी रखता है-सिफारिशों का नवीनतम सेट महिलाओं और लड़कियों को ऑनलाइन से बचाने के लिए कानूनी दायित्वों को पूरा करने के लिए इन-स्कोप फर्मों का समर्थन करने का लक्ष्य है। उत्पीड़न और बदमाशी, गलतफहमी और अंतरंग छवि के दुरुपयोग जैसे खतरे।

सरकार ने कहा है कि ओएसए के कार्यान्वयन के लिए महिलाओं और लड़कियों की रक्षा करना एक प्राथमिकता है। (मुख्य रूप से) गलतफहमी के कुछ रूपों के कुछ रूप – जैसे कि सहमति के बिना अंतरंग छवियों को साझा करना या एआई टूल का उपयोग करना डीपफेक पोर्न बनाने के लिए जो व्यक्तियों को लक्षित करता है – स्पष्ट रूप से कानून में निर्धारित किया जाता है प्रवर्तन प्राथमिकताएँ।

ऑनलाइन सुरक्षा विनियमन, जिसे ब्रिटेन की संसद द्वारा अनुमोदित किया गया था सितंबर 2023ने आलोचना का सामना किया है कि यह प्लेटफ़ॉर्म दिग्गजों को सुधारने के कार्य पर निर्भर नहीं है, गैर-अनुपालन के लिए पर्याप्त दंड युक्त-वैश्विक वार्षिक कारोबार के 10% तक।

बाल सुरक्षा प्रचारकों ने यह भी निराशा व्यक्त की है कि कानून को लागू करने में कितना समय लग रहा है, साथ ही इस बात पर भी संदेह है कि क्या इसका वांछित प्रभाव होगा।

के साथ एक साक्षात्कार में बीबीसी जनवरी में, यहां तक ​​कि प्रौद्योगिकी मंत्री पीटर काइल – जिन्हें पिछली सरकार से कानून विरासत में मिला था – ने इसे “बहुत असमान” और “असंतोषजनक” कहा। लेकिन सरकार दृष्टिकोण से चिपकी हुई है। ओएसए के आसपास असंतोष का एक हिस्सा शासन को लागू करने के लिए अनुमति दी गई लंबी लीड टाइम मंत्रियों के लिए वापस पता लगाया जा सकता है, जिसके लिए संसद को अनुपालन मार्गदर्शन को मंजूरी देने की आवश्यकता होती है।

हालांकि, अवैध सामग्री और बाल संरक्षण से निपटने के लिए मुख्य आवश्यकताओं के संबंध में जल्द ही प्रवर्तन शुरू होने की उम्मीद है। OSA अनुपालन के अन्य पहलुओं को लागू करने में अधिक समय लगेगा। और TOMCOM ने कहा कि अभ्यास की सिफारिशों का यह नवीनतम पैकेज 2027 या बाद में पूरी तरह से लागू नहीं होगा।

प्रवर्तन स्टार्ट लाइन के पास पहुंचना

महिला सुरक्षा-केंद्रित मार्गदर्शन के विकास का नेतृत्व करने वाले जेसिका स्मिथ ने कहा, “ऑनलाइन सुरक्षा अधिनियम का पहला कर्तव्य अगले महीने लागू हो रहा है।” “इसलिए हम इस मार्गदर्शन से पहले ऑनलाइन सुरक्षा अधिनियम के कुछ मुख्य कर्तव्यों के खिलाफ लागू होंगे [itself becoming enforceable]। “

महिलाओं और लड़कियों को सुरक्षित रखने पर नया मसौदा मार्गदर्शन ऑनलाइन अवैध सामग्री पर पहले व्यापक मार्गदर्शन के पूरक के लिए है – जो कि, उदाहरण के लिए, नाबालिगों को वयस्क सामग्री को ऑनलाइन देखने से बचाने के लिए सिफारिशें प्रदान करता है।

दिसंबर में, नियामक ने अपना अंतिम मार्गदर्शन प्रकाशित किया कि कैसे प्लेटफार्मों और सेवाओं को सिकोड़ना चाहिए अवैध सामग्री से संबंधित जोखिमएक ऐसा क्षेत्र जहां बाल संरक्षण एक स्पष्ट प्राथमिकता है।

यह पहले भी एक उत्पादन किया है बच्चों की सुरक्षा कोडजो ऑनलाइन सेवाओं की सिफारिश करता है कि बच्चों को यह सुनिश्चित करने के लिए आयु चेक और सामग्री फ़िल्टरिंग डायल करें कि बच्चों को पोर्नोग्राफी जैसी अनुचित सामग्री के संपर्क में नहीं आता है। और जैसा कि यह ऑनलाइन सुरक्षा शासन को लागू करने की दिशा में काम करता है, यह भी विकसित हुआ है वयस्क सामग्री वेबसाइटों के लिए आयु आश्वासन प्रौद्योगिकियों के लिए सिफारिशेंपोर्न साइटों को धक्का देने के उद्देश्य से नाबालिगों को उम्र-अनुचित सामग्री तक पहुंचने से रोकने के लिए प्रभावी कदम उठाने के लिए।

मार्गदर्शन का नवीनतम सेट पीड़ितों, बचे लोगों, महिलाओं के वकालत समूहों और सुरक्षा विशेषज्ञों की मदद से, प्रतिमों की मदद से विकसित किया गया था। इसमें चार प्रमुख क्षेत्रों को शामिल किया गया है जहां नियामक का कहना है कि महिलाएं ऑनलाइन नुकसान से असंगत रूप से प्रभावित होती हैं – अर्थात्: ऑनलाइन गलतफहमी; पाइल-ऑन और ऑनलाइन उत्पीड़न; ऑनलाइन घरेलू दुरुपयोग; और अंतरंग छवि दुरुपयोग।

डिजाइन द्वारा सुरक्षा

Tocom की शीर्ष-पंक्ति की सिफारिश में इन-स्कोप सेवाओं और प्लेटफार्मों से “डिजाइन द्वारा सुरक्षा” दृष्टिकोण लेने का आग्रह करता है। स्मिथ ने हमें बताया कि नियामक टेक फर्मों को “एक कदम वापस लेने” और “दौर में अपने उपयोगकर्ता अनुभव के बारे में सोचने के लिए प्रोत्साहित करना चाहता है।” जबकि उसने स्वीकार किया कि कुछ सेवाओं ने कुछ उपाय किए हैं जो इस क्षेत्र में ऑनलाइन जोखिमों को कम करने में सहायक हैं, उन्होंने तर्क दिया कि महिलाओं और लड़कियों की सुरक्षा को प्राथमिकता देने के लिए अभी भी समग्र सोच की कमी है।

उन्होंने कहा, “हम वास्तव में जो पूछ रहे हैं, वह एक तरह का कदम है कि डिजाइन प्रक्रिया कैसे काम करती है,” उसने हमें बताया, यह कहते हुए कि सुरक्षा विचार उत्पाद डिजाइन में पके हुए हैं।

उन्होंने एआई सेवाओं को उत्पन्न करने वाली छवि के उदय पर प्रकाश डाला, जो उन्होंने नोट किया है कि डीपफेक अंतरंग छवि के दुरुपयोग में “बड़े पैमाने पर” वृद्धि हुई है, जहां एक उदाहरण के रूप में प्रौद्योगिकीविदों ने अपने उपकरणों के जोखिमों को कम करने के लिए सक्रिय उपाय किए थे, जो महिलाओं और लड़कियों को लक्षित करने के लिए हथियार थे। – फिर भी नहीं।

“हमें लगता है कि ऐसी समझदार चीजें हैं जो सेवाएं डिजाइन चरण में कर सकती हैं जो उन कुछ नुकसान के जोखिम को संबोधित करने में मदद करेंगे,” उसने सुझाव दिया।

मार्गदर्शन में “गुड” उद्योग प्रथाओं के उदाहरणों के उदाहरणों में ऑनलाइन सेवाएं शामिल हैं जैसे कि कार्रवाई: जैसे:

• डिफ़ॉल्ट रूप से जियोलोकेशन को हटाना (गोपनीयता/पीछा करने वाले जोखिमों को कम करने के लिए);
• कैसे एक सेवा को हथियार/दुरुपयोग किया जा सकता है, यह पहचानने के लिए ‘अपमान’ परीक्षण का संचालन करना;
• खाता सुरक्षा को बढ़ावा देने के लिए कदम उठाते हुए;
• उपयोगकर्ता संकेतों में डिजाइन करना जो अपमानजनक सामग्री पोस्ट करने से पहले दो बार पोस्टर बनाने के लिए तैयार हैं;
• और सुलभ रिपोर्टिंग टूल की पेशकश करना जो उपयोगकर्ताओं को समस्याओं की रिपोर्ट करते हैं।

जैसा कि सभी AMOMCOM के OSA मार्गदर्शन के साथ होता है, हर उपाय हर प्रकार या सेवा के आकार के लिए प्रासंगिक नहीं होगा – क्योंकि कानून ऑनलाइन सेवाओं पर लागू होता है, बड़े और छोटे, और सोशल मीडिया से विभिन्न अखाड़ों में कटौती, ऑनलाइन डेटिंग, गेमिंग, मंचों तक और मैसेजिंग ऐप्स, कुछ नाम करने के लिए। तो इन-स्कोप कंपनियों के लिए काम का एक बड़ा हिस्सा यह समझ रहा होगा कि उनके उत्पाद के संदर्भ में अनुपालन का क्या मतलब है।

यह पूछे जाने पर कि क्या AFTCOM ने वर्तमान में मार्गदर्शन के मानकों को पूरा करने वाली किसी भी सेवा की पहचान की है, स्मिथ ने सुझाव दिया कि वे नहीं थे। “अभी भी पूरे उद्योग में बहुत काम करना है,” उसने कहा।

उन्होंने यह भी स्वीकार किया कि कुछ प्रमुख उद्योग खिलाड़ियों द्वारा विज़-ए-विज़ ट्रस्ट और सुरक्षा के कुछ प्रतिगामी कदमों को देखते हुए कुछ चुनौतियों को देखते हुए बढ़ती चुनौतियां हो सकती हैं। उदाहरण के लिए, ट्विटर को संभालने और एक्स के रूप में सोशल नेटवर्क को फिर से तैयार करने के बाद से, एलोन मस्क ने अपने विश्वास और सुरक्षा हेडकाउंट को आगे बढ़ाया है – जो कि उन्होंने मुक्त भाषण के लिए एक मैक्सिमलिस्ट दृष्टिकोण के रूप में जो कुछ भी किया है, उसका पीछा करने के पक्ष में।

हाल के महीनों में, मेटा-जो फेसबुक और इंस्टाग्राम का मालिक है-कुछ नकल करने वाले कदम उठाता है, यह कहते हुए कि यह तीस-पार्टी तथ्य-जाँच अनुबंधों को समाप्त कर रहा है, जो सामग्री विवादों पर भीड़-भाड़ वाले लेबलिंग के एक्स-स्टाइल “सामुदायिक नोटों” प्रणाली को तैनात करने के पक्ष में है। उदाहरण के लिए।

पारदर्शिता

स्मिथ ने सुझाव दिया कि इस तरह के उच्च-स्तरीय पारियों के लिए कॉकॉम की प्रतिक्रिया-जहां ऑपरेटरों के कार्यों को डायल करने के बजाय डायल करने का जोखिम हो सकता है, ऑनलाइन हार्म्स-पारदर्शिता और सूचना-एकत्रित शक्तियों का उपयोग करने पर ध्यान केंद्रित करेंगे। जागरूकता।

तो, संक्षेप में, यहां की रणनीति ‘नाम और शर्म’ होने के लिए तैयार है – कम से कम पहले उदाहरण में।

“एक बार जब हम मार्गदर्शन को अंतिम रूप देते हैं, तो हम एक उत्पादन करेंगे [market] रिपोर्ट … मार्गदर्शन का उपयोग करने वाले के बारे में, कौन किस कदम का अनुसरण कर रहा है, वे अपने उपयोगकर्ताओं के लिए किस तरह के परिणाम प्राप्त कर रहे हैं जो महिलाएं और लड़कियां हैं, और वास्तव में विभिन्न प्लेटफार्मों पर सुरक्षा के बारे में प्रकाश डालते हैं ताकि उपयोगकर्ता हो सकें ताकि उपयोगकर्ता हो सकें। इस बारे में सूचित विकल्प बनाएं कि वे अपना समय ऑनलाइन कहां बिताते हैं, ”उसने हमें बताया।

स्मिथ ने सुझाव दिया कि महिलाओं की सुरक्षा पर खराब प्रदर्शन के लिए सार्वजनिक रूप से शर्मिंदा होने के जोखिम से बचने वाली कंपनियां अपने उपयोगकर्ताओं के लिए स्थिति में सुधार करने के तरीके के बारे में “व्यावहारिक कदम” के लिए ” ।

“प्लेटफ़ॉर्म जो यूके में काम कर रहे हैं, उन्हें यूके कानून का पालन करना होगा,” उन्होंने प्रमुख प्लेटफार्मों पर चर्चा के संदर्भ में विश्वास और सुरक्षा पर जोर दिया। “तो इसका मतलब है कि ऑनलाइन सुरक्षा अधिनियम के तहत अवैध हानि कर्तव्यों और बच्चों के कर्तव्यों की सुरक्षा का अनुपालन करना।”

“मुझे लगता है कि यह वह जगह है जहां हमारी पारदर्शिता शक्तियां भी आती हैं – अगर उद्योग दिशा बदल रहा है और हार्म्स बढ़ रहे हैं, तो यह वह जगह है जहां हम एक प्रकाश को चमका सकते हैं और यूके के उपयोगकर्ताओं के साथ प्रासंगिक जानकारी साझा कर पाएंगे, मीडिया के साथ, सांसदों के साथ।”

डीपफेक पोर्न से निपटने के लिए टेक

एक प्रकार का ऑनलाइन नुकसान जहां एंटकॉम स्पष्ट रूप से अपनी सिफारिशों को पूरा कर रहा है, इससे पहले कि यह सक्रिय रूप से शुरू होने से पहले ओएसए प्रवर्तन शुरू हो गया है, अंतरंग छवि दुरुपयोग है – क्योंकि नवीनतम मसौदा मार्गदर्शन इस तरह की अपमानजनक कल्पना का पता लगाने और हटाने के लिए हैश मिलान का सुझाव देता है, जबकि पहले की सिफारिशें नहीं हुईं, वह दूर।

स्मिथ ने कहा, “हमने इस मार्गदर्शन में अतिरिक्त कदमों को शामिल किया है, जो कि हम पहले से ही अपने कोड में सेट कर चुके हैं।”

“तो यह प्लेटफ़ॉर्मों को कहने का एक तरीका है कि आप इस मार्गदर्शन में सेट किए गए चरणों का पालन करके उस लागू करने योग्य आवश्यकता से आगे निकल सकते हैं,” उन्होंने कहा।

OFCOM ने इस जोखिम में पर्याप्त वृद्धि के कारण अंतरंग छवि दुरुपयोग का मुकाबला करने के लिए हैश मैचिंग तकनीक के उपयोग की सिफारिश की, प्रति स्मिथ-विशेष रूप से एआई-जनित डीपफेक इमेज एब्यूज के संबंध में।

उन्होंने कहा, “पिछले सभी वर्षों की तुलना में 2023 में और अधिक डीपफेक अंतरंग छवि के दुरुपयोग की सूचना दी गई थी,” उन्होंने कहा, इस नुकसान से निपटने के लिए हैश मैचिंग की प्रभावशीलता पर भी अधिक सबूत एकत्र किए हैं।

एक पूरे के रूप में मसौदा मार्गदर्शन अब परामर्श से गुजरना होगा – 23 मई, 2025 तक प्रतिक्रिया को आमंत्रित करने के साथ – जिसके बाद यह इस वर्ष के अंत तक अंतिम मार्गदर्शन का उत्पादन करेगा।

उसके बाद 18 महीने के बाद, TOMCOM इस क्षेत्र में उद्योग अभ्यास की समीक्षा करने वाली अपनी पहली रिपोर्ट का उत्पादन करेगा।

“हम 2027 में हो रहे हैं, इससे पहले कि हम अपनी पहली रिपोर्ट का निर्माण कर रहे हैं कि कौन क्या कर रहा है [to protect women and girls online] – लेकिन अब अभिनय करने वाले प्लेटफार्मों को रोकने के लिए कुछ भी नहीं है, ”उसने कहा।

आलोचना का जवाब देते हुए कि OSA को लागू करने में बहुत लंबा समय लग रहा है, उसने कहा कि यह सही है कि नियामक अनुपालन उपायों पर परामर्श करता है। हालांकि, अगले महीने के अंतिम उपाय के साथ, उन्होंने कहा कि Comcom इस मुद्दे के आसपास की बातचीत में बदलाव की आशंका है।

“[T]हैट वास्तव में प्लेटफार्मों के साथ बातचीत को बदलना शुरू कर देगा, विशेष रूप से, “उसने भविष्यवाणी की, यह कहते हुए कि यह सुई को स्थानांतरित करने पर प्रगति का प्रदर्शन शुरू करने की स्थिति में भी होगा जब यह ऑनलाइन हार्म्स को कम करने की बात आती है।