अमेरिकी स्कूलों में छात्रों की सुरक्षा के लिए डिज़ाइन किए गए आर्टिफिशियल इंटेलिजेंस सर्विलांस टूल एक महत्वपूर्ण डेटा उल्लंघन के बाद गहन जांच के अधीन हैं, जिसमें हजारों संवेदनशील छात्र दस्तावेजों को उजागर किया गया है। एक ऐसे युग में जहां छात्र सुरक्षा सुनिश्चित करने के लिए प्रौद्योगिकी तेजी से भरोसा कर रही है, एआई-संचालित निगरानी के अनपेक्षित परिणाम गोपनीयता, सुरक्षा और छात्रों और स्कूल के अधिकारियों के बीच विश्वास के बारे में गंभीर सवाल उठा रहे हैं।
वाशिंगटन राज्य के वैंकूवर पब्लिक स्कूलों में होने वाले ब्रीच ने खुलासा किया कि कैसे निगरानी सॉफ्टवेयर, आत्म-हानि, हिंसा, या बदमाशी जैसे संभावित खतरों को चिह्नित करने का इरादा है, अनजाने में छात्रों की गोपनीयता से समझौता किया। उजागर दस्तावेजों में व्यक्तिगत और संवेदनशील सामग्री जैसे निबंध, डायरी और मानसिक स्वास्थ्य चर्चाएं शामिल थीं, जिनमें से कुछ को पासवर्ड द्वारा उचित रूप से फिर से तैयार या संरक्षित नहीं किया गया था। इसने छात्र डेटा की सुरक्षा और राष्ट्रीय स्तर पर आगे के उल्लंघनों की क्षमता के बारे में व्यापक चिंता को प्रेरित किया है।
की भूमिका स्कूलों में एआई निगरानी
एआई निगरानी उपकरण देश भर में स्कूल जिलों में एक मानक बन रहे हैं, जिसमें स्कूल द्वारा जारी किए गए उपकरणों की निगरानी के लक्ष्य के साथ 24/7 खतरे के संकेतों का पता लगाने के लिए है। वैंकूवर पब्लिक स्कूलों के मामले में, जिले द्वारा उपयोग किए जाने वाले सॉफ़्टवेयर द्वारा विकसित किया गया है गागल सेफ्टी मैनेजमेंटआत्महत्या, आत्म-नुकसान, बदमाशी, और हिंसा के खतरों से संबंधित कीवर्ड के लिए ऑनलाइन गतिविधि को स्कैन करें। जब एल्गोरिथ्म संभावित मुद्दों का पता लगाता है, तो यह मानव समीक्षकों को सचेत करता है जो यह आकलन करते हैं कि आगे की कार्रवाई आवश्यक है या नहीं।
जबकि इन तकनीकों को संकट में छात्रों की पहचान करने के लिए प्रशंसा की गई है – उन हस्तक्षेपों के लिए अग्रणी जो त्रासदियों को रोक सकती हैं – उनके द्वारा एकत्र किए गए डेटा की सुरक्षा के बारे में एक बढ़ती चिंता है। इस मामले में, सिएटल टाइम्स और एसोसिएटेड प्रेस द्वारा सार्वजनिक रिकॉर्ड के लिए एक अनुरोध से पता चला कि लगभग 3,500 अप्रकाशित छात्र दस्तावेज अनजाने में सुलभ थे। इस उल्लंघन ने व्यक्तिगत छात्र निबंधों, कविताओं और यहां तक कि एआई चैटबॉट्स के साथ बातचीत को उजागर किया, जिसमें कोई फ़ायरवॉल सुरक्षा या जगह में कमी नहीं थी।
वैंकूवर पब्लिक स्कूलों की निगरानी से प्रमुख आंकड़े
• उजागर दस्तावेजों की कुल संख्या: लगभग 3,500
• छात्र आत्महत्या अलर्ट की संख्या: 1,000 से अधिक
• हिंसा से संबंधित अलर्ट की संख्या: लगभग 800
• छात्रों का प्रतिशत 2023-2024 में अलर्ट के लिए ध्वजांकित: 10% (2,200 छात्र)
ब्रीच ने इस बारे में अलार्म उठाया है कि जब उनकी व्यक्तिगत जानकारी संग्रहीत की जाती है और पर्याप्त सुरक्षा उपायों के बिना निगरानी की जाती है, तो कितनी कमजोर छात्र होते हैं। संवेदनशील दस्तावेजों के अनपेक्षित प्रदर्शन का छात्रों की गोपनीयता और स्कूल प्रणालियों में उनके विश्वास पर स्थायी प्रभाव पड़ सकता है।
निगरानी प्रणाली के पीछे की तकनीक
Gaggle का सॉफ्टवेयर छात्र संचार की निगरानी के लिए मशीन-लर्निंग एल्गोरिदम का उपयोग करके संचालित होता है। एक बार एक संभावित मुद्दे को चिह्नित किया जाता है-जैसे कि एक छात्र जो आत्म-नुकसान की तलाश कर रहा है या एक परेशान संदेश लिख रहा है-सॉफ्टवेयर गतिविधि का एक स्क्रीनशॉट लेता है और इसे समीक्षा के लिए कर्मचारियों को भेजता है। यदि इस मुद्दे को गंभीर माना जाता है, तो स्कूल के अधिकारियों को सतर्क किया जाता है। तत्काल खतरे के मामलों में, जैसे कि आत्महत्या का खतरा, गैगल सीधे स्कूल के अधिकारियों या यहां तक कि कानून प्रवर्तन से संपर्क कर सकता है।
जबकि इस प्रणाली को संकट के शुरुआती संकेतों को पकड़कर जीवन को बचाने का श्रेय दिया गया है, ब्रीच इस प्रक्रिया में एक गंभीर दोष पर प्रकाश डालता है। पत्रकारों के संपर्क में आने वाले रिकॉर्ड में छात्र के नाम सहित व्यक्तिगत जानकारी शामिल थी, जिन्हें फिर से तैयार किया जाना चाहिए था। साइबर सुरक्षा के विशेषज्ञों ने चेतावनी दी है कि यह निरीक्षण एक महत्वपूर्ण जोखिम पैदा करता है, खासकर जब एलजीबीटीक्यू+ छात्रों जैसी कमजोर आबादी से निपटने के लिए, जिनके व्यक्तिगत संघर्ष अनजाने में स्कूल के अधिकारियों या यहां तक कि उनके परिवारों के लिए भी उजागर हो सकते हैं।
गोपनीयता की चिंता और कमजोर छात्रों को बाहर करने का जोखिम
ब्रीच के सबसे अधिक पहलुओं में से एक छात्रों के LGBTQ+ स्थिति का जोखिम है। कुछ उदाहरणों में, निगरानी प्रणाली ने अपनी लिंग पहचान या यौन अभिविन्यास पर चर्चा करने वाले छात्रों से निजी संचार को ध्वजांकित किया। LGBTQ+ युवाओं के लिए, जिनके परिवार या सामाजिक स्वीकृति के साथ संघर्ष अक्सर छिपे हुए हैं, ऐसे एक्सपोज़र हानिकारक हो सकते हैं। वैंकूवर में कई छात्रों ने अपनी सहमति के बिना अपनी LGBTQ+ स्थिति का खुलासा किया, जिससे उन्हें पारिवारिक अस्वीकृति या बदमाशी का खतरा था।
इसने एलजीबीटीक्यू+ यूथ के अधिवक्ताओं के बीच चिंता जताई है, जो तर्क देते हैं कि गगले जैसी निगरानी प्रणालियों को कमजोर छात्रों के लिए मजबूत सुरक्षा के साथ डिज़ाइन किया जाना चाहिए। एक छात्र के लिए इस तरह की निगरानी के माध्यम से बाहर होने की संभावना उस ट्रस्ट को कमजोर करती है जिसे युवा लोगों को मदद लेने के लिए आवश्यकता होती है।
इसके अलावा, कुछ माता -पिता चिंतित हैं कि निगरानी सॉफ्टवेयर उन मुद्दों को बढ़ा सकता है जो इसे संबोधित करने का इरादा रखते हैं। वैंकूवर में एक माता -पिता, डेसिया फोस्टर ने उल्लंघन के बारे में चिंता व्यक्त की, लेकिन स्कूलों में सुरक्षा उपायों की आवश्यकता को भी स्वीकार किया। “एक ही समय में, मैं एक स्कूल की शूटिंग या आत्महत्या से बचना चाहूंगी,” उसने कहा, गोपनीयता और सुरक्षा के बीच जटिल संतुलन अधिनियम को दर्शाते हुए।
स्कूलों में एआई निगरानी का व्यापक प्रभाव
जबकि वैंकूवर स्कूलों ने उल्लंघन के लिए माफी मांगी है और अपने सिस्टम को अपडेट किया है, स्कूलों में एआई निगरानी के व्यापक निहितार्थ स्पष्ट नहीं हैं। 6 मिलियन छात्रों की ऑनलाइन गतिविधि की निगरानी के लिए गागल के सॉफ्टवेयर का उपयोग करके लगभग 1,500 स्कूल जिलों के साथ, प्रौद्योगिकी को देश भर में रोल आउट किया गया है। इन उपकरणों के व्यापक उपयोग के बावजूद, यह साबित करने के लिए बहुत कम स्वतंत्र शोध है कि एआई निगरानी का छात्र आत्महत्या दरों या हिंसा को कम करने पर एक औसत दर्जे का प्रभाव पड़ता है।
जैसे-जैसे तकनीक स्कूल सुरक्षा प्रोटोकॉल में अधिक अंतर्निहित हो जाती है, छात्रों के मानसिक स्वास्थ्य और गोपनीयता पर इसके दीर्घकालिक प्रभावों के बारे में चिंताएं बढ़ती रहती हैं। विशेषज्ञों का तर्क है कि जब निगरानी छात्रों को तत्काल हस्तक्षेप की आवश्यकता में पहचानने में मदद कर सकती है, तो यह उचित मानसिक स्वास्थ्य सहायता का विकल्प नहीं है, जो कई जिलों में कम आपूर्ति में रहता है।
डिजिटल युग में गोपनीयता के साथ सुरक्षा को संतुलित करना
सुरक्षा और गोपनीयता के बीच सही संतुलन खोजने पर स्कूलों के केंद्रों में एआई निगरानी के उपयोग पर बहस। जबकि प्रौद्योगिकी संकट की स्थितियों में शुरुआती हस्तक्षेप की क्षमता प्रदान करती है, यह इस बारे में भी सवाल उठाती है कि क्या यह छात्रों के अधिकारों को गोपनीयता और व्यक्तिगत अभिव्यक्ति के लिए समझौता करता है। एक एआई नैतिकता के शोधकर्ता के रूप में, बेंजामिन बाउड्रेक्स ने कहा, “यदि आपके पास मानसिक स्वास्थ्य परामर्शदाताओं की सही संख्या नहीं है, तो अधिक अलर्ट जारी करना वास्तव में आत्महत्या की रोकथाम में सुधार नहीं करने वाला है।”
इन चिंताओं के सामने, स्कूल जिलों को इन निगरानी प्रणालियों के जोखिमों और लाभों का सावधानीपूर्वक मूल्यांकन करना चाहिए। जबकि प्रौद्योगिकी छात्रों को सुरक्षित रखने में मदद कर सकती है, यह आवश्यक है कि स्कूलों को इकट्ठा करने वाली संवेदनशील जानकारी को सुरक्षित रखने के लिए मजबूत गोपनीयता सुरक्षा को लागू किया जाए।
।
