डीपफेक संकट ने सैकड़ों स्कूलों को अपनी चपेट में ले लिया है

पिछले शनिवार को हीजिन के फोन पर एक गुमनाम प्रेषक से एक टेलीग्राम संदेश आया। “आपकी तस्वीरें और व्यक्तिगत जानकारी लीक हो गई है। आइए चर्चा करें।”

जैसे ही यूनिवर्सिटी की छात्रा मैसेज पढ़ने के लिए चैटरूम में दाखिल हुई, उसे कुछ साल पहले ली गई अपनी एक तस्वीर मिली, जब वह अभी भी स्कूल में थी। इसके बाद उसी तस्वीर का इस्तेमाल करते हुए एक दूसरी तस्वीर भी आई, लेकिन यह तस्वीर यौन रूप से स्पष्ट और नकली थी।

भयभीत, हीजिन (जो उसका असली नाम नहीं है) ने कोई प्रतिक्रिया नहीं दी, लेकिन तस्वीरें आती रहीं। उन सभी में, उसका चेहरा परिष्कृत डीपफेक तकनीक का उपयोग करके सेक्स क्रिया में लिप्त एक शरीर से जोड़ा गया था।

डीपफेक, जिनमें से अधिकांश में वास्तविक व्यक्ति के चेहरे को नकली, यौन रूप से स्पष्ट शरीर के साथ जोड़ा जाता है, तेजी से कृत्रिम बुद्धिमत्ता का उपयोग करके तैयार किए जा रहे हैं।

हीजिन ने बीबीसी को बताया, “मैं बहुत डरी हुई थी, मैं बहुत अकेली महसूस कर रही थी।”

लेकिन वह अकेली नहीं थी।

दो दिन पहले, दक्षिण कोरियाई पत्रकार को नारिन ने एक ऐसी खबर प्रकाशित की थी जो उनके करियर की सबसे बड़ी खबर बन गई। हाल ही में यह बात सामने आई थी कि पुलिस देश के दो प्रमुख विश्वविद्यालयों में डीपफेक पोर्न गिरोहों की जांच कर रही थी, और सुश्री को को यकीन था कि इसमें और भी कुछ होना चाहिए।

उन्होंने सोशल मीडिया पर खोज शुरू की और मैसेजिंग ऐप टेलीग्राम पर दर्जनों चैट ग्रुपों का पता लगाया, जहां उपयोगकर्ता उन महिलाओं की तस्वीरें साझा कर रहे थे, जिन्हें वे जानते थे और एआई सॉफ्टवेयर का उपयोग करके उन्हें कुछ सेकंड के भीतर नकली अश्लील चित्रों में बदल रहे थे।

सुश्री को ने हमें बताया, “हर मिनट लोग उन लड़कियों की तस्वीरें अपलोड कर रहे थे जिन्हें वे जानते थे और उन्हें डीपफेक में बदलने के लिए कह रहे थे।”

सुश्री को ने पाया कि ये समूह सिर्फ़ विश्वविद्यालय के छात्रों को ही निशाना नहीं बना रहे थे। कुछ कमरे विशिष्ट हाई स्कूल और यहाँ तक कि मिडिल स्कूल के लिए भी समर्पित थे। अगर किसी ख़ास छात्र की तस्वीरों का इस्तेमाल करके बहुत ज़्यादा कंटेंट बनाया गया था, तो उसे अपना कमरा भी दिया जा सकता था। मोटे तौर पर “अपमानजनक कमरे” या “दोस्तों के दोस्त के कमरे” के नाम से मशहूर, इनमें अक्सर प्रवेश की सख़्त शर्तें होती हैं।

हंक्योरेह अखबार में सुश्री को की रिपोर्ट ने दक्षिण कोरिया को झकझोर कर रख दिया है। सोमवार को पुलिस ने घोषणा की कि वे फ्रांस के अधिकारियों के नेतृत्व में टेलीग्राम की जांच शुरू करने पर विचार कर रहे हैं, जिन्होंने हाल ही में टेलीग्राम के रूसी संस्थापक पर ऐप से संबंधित अपराधों के लिए आरोप लगाया था। सरकार ने इसमें शामिल लोगों के लिए सख्त सजा लाने की कसम खाई है, और राष्ट्रपति ने युवाओं को बेहतर शिक्षा देने का आह्वान किया है।

बीबीसी को दिए गए एक बयान में टेलीग्राम ने कहा कि वह “अपने प्लेटफॉर्म पर अवैध पोर्नोग्राफी सहित हानिकारक सामग्री का सक्रिय रूप से मुकाबला करता है।”

बीबीसी ने इनमें से कई चैटरूमों का विवरण देखा है। इनमें से एक में सदस्यों से किसी व्यक्ति की चार से ज़्यादा तस्वीरें पोस्ट करने के लिए कहा गया है, साथ ही उनका नाम, उम्र और वे किस इलाके में रहते हैं, यह भी बताना होगा।

सुश्री को ने कहा, “मैं यह देखकर हैरान रह गई कि यह प्रक्रिया कितनी व्यवस्थित और संगठित थी।” “सबसे भयावह बात जो मैंने देखी वह यह थी कि एक स्कूल में कम उम्र के विद्यार्थियों का एक समूह था जिसमें 2,000 से ज़्यादा सदस्य थे।”

सुश्री को के लेख के प्रकाशित होने के बाद, महिला अधिकार कार्यकर्ताओं ने भी टेलीग्राम पर खोजबीन शुरू कर दी, तथा सुरागों का अनुसरण करना शुरू कर दिया।

उस सप्ताह के अंत तक 500 से ज़्यादा स्कूलों और विश्वविद्यालयों को लक्ष्य के रूप में पहचाना गया था। प्रभावित होने वाले लोगों की वास्तविक संख्या अभी भी स्थापित नहीं की जा सकी है, लेकिन माना जाता है कि उनमें से कई की उम्र 16 साल से कम है, जो कि दक्षिण कोरिया में सहमति की उम्र है। संदिग्ध अपराधियों का एक बड़ा हिस्सा खुद किशोर हैं।

हीजिन ने कहा कि संकट के पैमाने के बारे में जानने से उनकी चिंता और बढ़ गई है, क्योंकि अब उन्हें चिंता है कि कितने लोगों ने उनके डीपफेक देखे होंगे। शुरू में उन्होंने खुद को दोषी ठहराया। “मैं यह सोचना बंद नहीं कर पाई कि क्या यह इसलिए हुआ क्योंकि मैंने अपनी तस्वीरें सोशल मीडिया पर अपलोड की थीं, क्या मुझे ज़्यादा सावधान रहना चाहिए था?”

देश भर में बड़ी संख्या में महिलाओं और किशोरियों ने सोशल मीडिया से अपनी तस्वीरें हटा दी हैं या अपने अकाउंट पूरी तरह से निष्क्रिय कर दिए हैं, क्योंकि उन्हें डर है कि आगे उनका शोषण किया जा सकता है।

एक विश्वविद्यालय छात्रा आह-यून, जिसके साथियों को निशाना बनाया गया है, ने कहा, “हम निराश और क्रोधित हैं कि हमें अपने व्यवहार और सोशल मीडिया के उपयोग पर सेंसर लगाना पड़ रहा है, जबकि हमने कुछ भी गलत नहीं किया है।”

आह-यून ने कहा कि उनके विश्वविद्यालय में एक पीड़िता को पुलिस ने कहा था कि वह अपने मामले को आगे बढ़ाने की जहमत न उठाए, क्योंकि अपराधी को पकड़ना बहुत मुश्किल होगा और यह “वास्तव में अपराध नहीं था” क्योंकि “तस्वीरें नकली थीं”।

इस घोटाले के केंद्र में मैसेजिंग ऐप टेलीग्राम है। यह ऐप ‘हल्के स्पर्श’ वाले मॉडरेशन रुख के लिए जाना जाता है और इस पर कई सालों से कंटेंट और खास तौर पर समूहों पर निगरानी रखने के लिए पर्याप्त कदम नहीं उठाने का आरोप है।

इससे यह एक आपराधिक व्यवहार के पनपने के लिए प्रमुख स्थान.

पिछले सप्ताह राजनेताओं और पुलिस ने जोरदार प्रतिक्रिया व्यक्त करते हुए इन अपराधों की जांच करने और अपराधियों को न्याय के कटघरे में लाने का वादा किया।

सोमवार को सियोल राष्ट्रीय पुलिस एजेंसी ने घोषणा की कि वह बच्चों की नकली अश्लील तस्वीरें वितरित करने में टेलीग्राम की भूमिका की जांच करेगी।

ऐप के संस्थापक पावेल दुरोव थे। पिछले सप्ताह फ्रांस में आरोप लगाया गया ऐप से संबंधित कई अपराधों में शामिल होने का आरोप, जिसमें बाल पोर्नोग्राफी को साझा करने में सक्षम बनाना भी शामिल है।

लेकिन महिला अधिकार कार्यकर्ता दक्षिण कोरिया के अधिकारियों पर आरोप लगाते हैं कि उन्होंने टेलीग्राम पर यौन शोषण को बहुत लंबे समय तक अनियंत्रित रहने दिया, क्योंकि कोरिया पहले भी इस संकट का सामना कर चुका है। 2019 में, यह सामने आया कि एक सेक्स रिंग टेलीग्राम का उपयोग करके महिलाओं और बच्चों को खुद की यौन रूप से स्पष्ट तस्वीरें बनाने और साझा करने के लिए मजबूर कर रही थी।

उस समय पुलिस ने अपनी जांच में मदद के लिए टेलीग्राम से संपर्क किया, लेकिन ऐप ने उनके सभी सात अनुरोधों को नज़रअंदाज़ कर दिया। हालाँकि सरगना को अंततः 40 साल से ज़्यादा की जेल की सज़ा सुनाई गई, लेकिन सेंसरशिप के डर से प्लेटफ़ॉर्म के ख़िलाफ़ कोई कार्रवाई नहीं की गई।

सुश्री को ने कहा, “उन्होंने मुख्य आरोपियों को सजा तो सुना दी, लेकिन स्थिति को नजरअंदाज कर दिया और मुझे लगता है कि इससे स्थिति और बिगड़ गई है।”

पार्क जिह्युन, जिन्होंने एक युवा छात्र पत्रकार के रूप में 2019 में एनथ रूम सेक्स-रिंग का पर्दाफाश किया था, तब से डिजिटल सेक्स अपराधों के पीड़ितों के लिए एक राजनीतिक वकील बन गई हैं। उन्होंने कहा कि जब से डीपफेक कांड सामने आया है, तब से छात्र और अभिभावक उन्हें दिन में कई बार फोन करके रो रहे हैं।

उन्होंने सोशल मीडिया पर साझा की गई सूची में अपना स्कूल देखा है और वे भयभीत हैं।

सुश्री पार्क सरकार से दक्षिण कोरिया में ऐप को विनियमित करने या यहां तक ​​कि प्रतिबंधित करने के लिए आह्वान कर रही हैं। उन्होंने कहा, “अगर ये तकनीकी कंपनियां कानून प्रवर्तन एजेंसियों के साथ सहयोग नहीं करेंगी, तो राज्य को अपने नागरिकों की सुरक्षा के लिए उन्हें विनियमित करना चाहिए।”

इस नवीनतम संकट के फूटने से पहले, दक्षिण कोरिया का ऑनलाइन यौन दुर्व्यवहार पीड़ितों के लिए एडवोकेसी सेंटर (ACOSAV) पहले से ही डीपफेक पोर्नोग्राफी के कम उम्र के पीड़ितों की संख्या में तेज वृद्धि देख रहा था।

2023 में उन्होंने 86 किशोर पीड़ितों को परामर्श दिया। इस साल के पहले आठ महीनों में ही यह संख्या बढ़कर 238 हो गई। पिछले हफ़्ते ही 64 और किशोर पीड़ित सामने आए हैं।

केंद्र की एक नेता, पार्क सेओंगये ने कहा कि पिछले हफ़्ते उनके कर्मचारियों को फ़ोन कॉल की बाढ़ आ गई थी और वे चौबीसों घंटे काम कर रहे थे। उन्होंने कहा, “यह हमारे लिए पूरी तरह से आपातकाल की स्थिति है, युद्ध के समय की स्थिति की तरह।”

“नवीनतम डीपफेक तकनीक के कारण अब पहले की तुलना में बहुत अधिक फुटेज उपलब्ध है, और हमें चिंता है कि यह संख्या और बढ़ेगी।”

पीड़ितों को परामर्श देने के साथ-साथ, केंद्र हानिकारक सामग्री का पता लगाता है और उसे हटाने के लिए ऑनलाइन प्लेटफ़ॉर्म के साथ काम करता है। सुश्री पार्क ने कहा कि ऐसे कुछ मामले भी हुए हैं जहाँ टेलीग्राम ने उनके अनुरोध पर सामग्री हटा दी थी। “इसलिए यह असंभव नहीं है,” उन्होंने कहा।

एक बयान में, टेलीग्राम ने बीबीसी को बताया कि उसके मॉडरेटर “ऐप के सार्वजनिक हिस्सों की सक्रिय रूप से निगरानी करते हैं, एआई टूल का उपयोग करते हैं और टेलीग्राम की सेवा की शर्तों का उल्लंघन करने वाली हर दिन लाखों सामग्री को हटाने के लिए उपयोगकर्ता रिपोर्ट स्वीकार करते हैं”।

जबकि महिला अधिकार संगठन स्वीकार करते हैं कि नई एआई तकनीक से पीड़ितों का शोषण करना आसान हो गया है, उनका तर्क है कि यह दक्षिण कोरिया में ऑनलाइन होने वाली स्त्री-द्वेष की नवीनतम मिसाल है।

पहले महिलाओं को ऑनलाइन मौखिक दुर्व्यवहार का सामना करना पड़ा। फिर जासूसी कैमरों की महामारी आई, जहां उन्हें सार्वजनिक शौचालयों और चेंजिंग रूम का उपयोग करते हुए गुप्त रूप से फिल्माया गया।

84 महिला समूहों द्वारा हस्ताक्षरित एक बयान में कहा गया है, “इसका मूल कारण संरचनात्मक लिंगवाद है और इसका समाधान लैंगिक समानता है।”

यह देश के राष्ट्रपति यून सूक येओल की प्रत्यक्ष आलोचना है, जिन्होंने संरचनात्मक लिंगवाद के अस्तित्व से इनकार किया है, पीड़ित सहायता समूहों को दिए जाने वाले धन में कटौती की है तथा सरकार के लैंगिक समानता मंत्रालय को समाप्त कर दिया है।

युवा यौन अपराधियों का इलाज करने वाले ली म्युंग-ह्वा ने इस बात पर सहमति जताई कि भले ही डीपफेक दुर्व्यवहार का प्रकोप अचानक लग सकता है, लेकिन यह लंबे समय से सतह के नीचे छिपा हुआ था। अहा सियोल यूथ कल्चरल सेंटर चलाने वाले काउंसलर ने कहा, “किशोरों के लिए, डीपफेक उनकी संस्कृति का हिस्सा बन गया है, उन्हें एक खेल या शरारत के रूप में देखा जाता है।”

सुश्री ली ने कहा कि युवा पुरुषों को शिक्षित करना अत्यंत आवश्यक है। उन्होंने शोध का हवाला देते हुए कहा कि जब आप अपराधियों को बताते हैं कि उन्होंने क्या गलत किया है, तो वे इस बात के प्रति अधिक जागरूक हो जाते हैं कि यौन दुर्व्यवहार क्या है, जिससे वे दोबारा अपराध करने से बच जाते हैं।

इस बीच, सरकार ने कहा है कि वह डीपफेक तस्वीरें बनाने और साझा करने वालों की आपराधिक सजा बढ़ाएगी, तथा पोर्नोग्राफी देखने वालों को भी दंडित करेगी।

यह आलोचना इस बात पर आधारित है कि पर्याप्त अपराधियों को सज़ा नहीं दी जा रही है। एक मुद्दा यह है कि ज़्यादातर अपराधी किशोर हैं, जिन पर आम तौर पर युवा अदालतों में मुकदमा चलाया जाता है, जहाँ उन्हें ज़्यादा नरम सज़ाएँ मिलती हैं।

चैटरूम उजागर होने के बाद से कई बंद हो गए हैं, लेकिन नए चैटरूम लगभग निश्चित रूप से उनकी जगह ले लेंगे। इस स्टोरी को कवर करने वाले पत्रकारों को निशाना बनाने के लिए एक अपमानजनक कमरा पहले ही बनाया जा चुका है। सुश्री को, जिन्होंने यह खबर दी, ने कहा कि इससे उनकी रातों की नींद उड़ गई है। उन्होंने कहा, “मैं यह देखने के लिए कमरे की जाँच करती रहती हूँ कि मेरी तस्वीर अपलोड की गई है या नहीं।”

दक्षिण कोरिया में लगभग हर किशोरी और युवती में ऐसी चिंता फैल गई है। यूनिवर्सिटी की छात्रा आह-यून ने बताया कि इस वजह से उसे अपने पुरुष परिचितों पर संदेह होने लगा है।

उन्होंने कहा, “अब मैं इस बात को लेकर निश्चिंत नहीं रह सकती कि लोग मेरी पीठ पीछे, मेरी जानकारी के बिना, ये अपराध नहीं करेंगे।” “मैं लोगों के साथ अपनी सभी बातचीत में अति-सतर्क हो गई हूँ, जो अच्छा नहीं हो सकता।”

होसु ली और सुहनवुक ली द्वारा अतिरिक्त रिपोर्टिंग