मेडिकल एआई प्रौद्योगिकियों में पारदर्शिता बढ़ाने और संभावित पूर्वाग्रह से निपटने के लिए नई सिफारिशें

सिफ़ारिशों का एक नया सेट प्रकाशित हुआ लैंसेट डिजिटल स्वास्थ्य और एनईजेएम एआई इसका उद्देश्य कृत्रिम बुद्धिमत्ता (एआई) स्वास्थ्य प्रौद्योगिकियों के निर्माण के लिए डेटासेट के उपयोग के तरीके को बेहतर बनाने और संभावित एआई पूर्वाग्रह के जोखिम को कम करने में मदद करना है।

नवीन मेडिकल एआई प्रौद्योगिकियां मरीजों के निदान और उपचार में सुधार कर सकती हैं, हालांकि कुछ अध्ययनों से पता चला है कि मेडिकल एआई पक्षपाती हो सकता है, जिसका अर्थ है कि यह कुछ लोगों के लिए अच्छा काम करता है और दूसरों के लिए नहीं। इसका मतलब यह है कि जब इन प्रौद्योगिकियों का उपयोग किया जाता है तो कुछ व्यक्ति और समुदाय ‘पीछे रह सकते हैं’, या उन्हें नुकसान भी हो सकता है।

‘स्टैंडिंग टुगेदर (डेटा विविधता, समावेशिता और सामान्यता के लिए मानक)’ नामक एक अंतरराष्ट्रीय पहल ने 58 देशों के 350 से अधिक विशेषज्ञों को शामिल करते हुए एक शोध अध्ययन के हिस्से के रूप में सिफारिशें प्रकाशित की हैं। इन अनुशंसाओं का उद्देश्य यह सुनिश्चित करना है कि मेडिकल एआई सभी के लिए सुरक्षित और प्रभावी हो सके। वे कई कारकों को कवर करते हैं जो एआई पूर्वाग्रह में योगदान कर सकते हैं, जिनमें शामिल हैं:

• उचित स्वास्थ्य देखभाल डेटासेट का उपयोग करके चिकित्सा एआई को विकसित करने के लिए प्रोत्साहित करना जो अल्पसंख्यक और वंचित समूहों सहित समाज में सभी का उचित प्रतिनिधित्व करता है;
• स्वास्थ्य देखभाल डेटासेट प्रकाशित करने वाले किसी भी व्यक्ति को डेटा में किसी भी पूर्वाग्रह या सीमाओं की पहचान करने में मदद करना;
• मेडिकल एआई प्रौद्योगिकियों को विकसित करने वालों को यह आकलन करने में सक्षम बनाना कि कोई डेटासेट उनके उद्देश्यों के लिए उपयुक्त है या नहीं;
• यह परिभाषित करना कि एआई प्रौद्योगिकियों का परीक्षण यह पहचानने के लिए किया जाना चाहिए कि क्या वे पक्षपातपूर्ण हैं, और इसलिए कुछ लोगों में कम अच्छी तरह से काम करते हैं।

बर्मिंघम विश्वविद्यालय में एआई और डिजिटल हेल्थ टेक्नोलॉजीज के एसोसिएट प्रोफेसर और अध्ययन के मुख्य अन्वेषक डॉ. जिओ लियू ने कहा:

“डेटा एक दर्पण की तरह है, जो वास्तविकता का प्रतिबिंब प्रदान करता है। और विकृत होने पर, डेटा सामाजिक पूर्वाग्रहों को बढ़ा सकता है। लेकिन समस्या को ठीक करने के लिए डेटा को ठीक करने का प्रयास करना अपनी शर्ट पर लगे दाग को हटाने के लिए दर्पण को पोंछने जैसा है।

“स्वास्थ्य समानता में स्थायी परिवर्तन लाने के लिए, हमें केवल प्रतिबिंब पर नहीं, बल्कि स्रोत को ठीक करने पर ध्यान देना चाहिए।”

स्टैंडिंग टुगेदर सिफारिशों का उद्देश्य यह सुनिश्चित करना है कि मेडिकल एआई सिस्टम को प्रशिक्षित और परीक्षण करने के लिए उपयोग किए जाने वाले डेटासेट उन लोगों की पूरी विविधता का प्रतिनिधित्व करते हैं जिनके लिए प्रौद्योगिकी का उपयोग किया जाएगा। ऐसा इसलिए है क्योंकि एआई सिस्टम अक्सर उन लोगों के लिए कम अच्छी तरह से काम करते हैं जिनका डेटासेट में उचित प्रतिनिधित्व नहीं होता है। जो लोग अल्पसंख्यक समूहों में हैं, उनके डेटासेट में विशेष रूप से कम प्रतिनिधित्व होने की संभावना है, इसलिए वे एआई पूर्वाग्रह से असंगत रूप से प्रभावित हो सकते हैं। यह भी मार्गदर्शन दिया जाता है कि उन लोगों की पहचान कैसे की जाए जिन्हें मेडिकल एआई सिस्टम का उपयोग करने पर नुकसान हो सकता है, जिससे इस जोखिम को कम किया जा सके।

स्टैंडिंग टुगेदर का नेतृत्व यूनिवर्सिटी हॉस्पिटल्स बर्मिंघम एनएचएस फाउंडेशन ट्रस्ट और यूके के बर्मिंघम विश्वविद्यालय के शोधकर्ताओं द्वारा किया जाता है। यह शोध दुनिया भर के 30 से अधिक संस्थानों के सहयोगियों के साथ आयोजित किया गया है, जिनमें विश्वविद्यालय, नियामक (यूके, यूएस, कनाडा और ऑस्ट्रेलिया), रोगी समूह और दान, और छोटी और बड़ी स्वास्थ्य प्रौद्योगिकी कंपनियां शामिल हैं। इस कार्य को द हेल्थ फाउंडेशन और एनएचएस एआई लैब द्वारा वित्त पोषित किया गया है, और एनएचएस, सार्वजनिक स्वास्थ्य और सामाजिक देखभाल के अनुसंधान भागीदार, नेशनल इंस्टीट्यूट फॉर हेल्थ एंड केयर रिसर्च (एनआईएचआर) द्वारा समर्थित है।

स्वयं अनुशंसाओं के अलावा, स्टैंडिंग टुगेदर रोगी प्रतिनिधियों द्वारा लिखित नेचर मेडिसिन में प्रकाशित एक टिप्पणी चिकित्सा एआई अनुसंधान को आकार देने में सार्वजनिक भागीदारी के महत्व पर प्रकाश डालती है।

विश्व स्वास्थ्य संगठन के मुख्य वैज्ञानिक सर जेरेमी फ़रार ने कहा:

“एआई के जिम्मेदार विकास और परीक्षण का समर्थन करने के लिए हमारे पास विविध, सुलभ और प्रतिनिधि डेटासेट सुनिश्चित करना एक वैश्विक प्राथमिकता है। स्वास्थ्य में एआई के लिए समानता सुनिश्चित करने के लिए स्टैंडिंग टुगेदर सिफारिशें एक बड़ा कदम है।”

एनएचएस इंग्लैंड में एआई के उप निदेशक डोमिनिक कुशनन ने कहा:

“यह महत्वपूर्ण है कि हमारे पास एआई के जिम्मेदार और निष्पक्ष विकास और उपयोग का समर्थन करने के लिए पारदर्शी और प्रतिनिधि डेटासेट हों। स्टैंडिंग टुगेदर सिफारिशें अत्यधिक सामयिक हैं क्योंकि हम एआई टूल की रोमांचक क्षमता का लाभ उठाते हैं और एनएचएस एआई लैब उनके अभ्यास को अपनाने का पूरा समर्थन करता है। एआई पूर्वाग्रह को कम करने के लिए।”

सिफ़ारिशें आज (18 दिसंबर 2024) प्रकाशित की गई हैं, और द लांसेट डिजिटल हेल्थ के माध्यम से खुली पहुंच के लिए उपलब्ध हैं।

ये सिफारिशें नियामक एजेंसियों, स्वास्थ्य और देखभाल नीति संगठनों, वित्त पोषण निकायों, नैतिक समीक्षा समितियों, विश्वविद्यालयों और सरकारी विभागों के लिए विशेष रूप से सहायक हो सकती हैं।