कैंसर जैसी गंभीर बीमारी की जांच में अब आर्टिफिशियल इंटेलिजेंस (AI) डॉक्टरों की बड़ी मदद कर रहा है. लेकिन हार्वर्ड मेडिकल स्कूल (Harvard Medical School) की एक नई और चौंकाने वाली रिसर्च ने इस तकनीक पर गंभीर सवाल खड़े कर दिए हैं. रिसर्च के मुताबिक, AI सिस्टम्स अनजाने में मरीजों की जाति, लिंग और उम्र के आधार पर भेदभाव कर रहे हैं, जिससे गलत डायग्नोसिस का खतरा बढ़ गया है.
क्या आपकी पहचान बदल रही है आपका इलाज?
जब एक डॉक्टर (पैथोलॉजिस्ट) माइक्रोस्कोप के नीचे किसी मरीज के टिश्यू (ऊतक) का सैंपल देखता है, तो उसे यह नहीं पता होता कि वह मरीज काला है या गोरा, पुरुष है या महिला, या उसकी उम्र क्या है. लेकिन हार्वर्ड मेडिकल स्कूल के शोधकर्ताओं ने पाया है कि AI मॉडल्स इन जानकारियों को न सिर्फ पहचान रहे हैं, बल्कि इनके आधार पर अपने नतीजों को बदल भी रहे हैं. हार्वर्ड मेडिकल स्कूल (HMS), ब्लावत्निक इंस्टीट्यूट के एसोसिएट प्रोफेसर डॉ. कुन-हसिंग यू (Kun-Hsing Yu) ने ये स्टडी की है जो ‘सेल रिपोर्ट्स मेडिसिन’ (Cell Reports Medicine) में प्रकाशित हुई है.
क्या था रिसर्च में?
शोधकर्ताओं ने चार बड़े AI मॉडल्स का परीक्षण किया जिन्हें 20 अलग-अलग प्रकार के कैंसर की पहचान करने के लिए ट्रेन किया गया था. इस स्टडी में करीब 14,400 मरीजों की 29,000 डिजिटल पैथोलॉजी इमेजेस का विश्लेषण किया गया. इस जांच में चौंकाने वाले नतीजे सामने आए हैं.
AI ऐसा क्यों कर रहा है?
AI को ‘इंसानी समझ’ नहीं बल्कि ‘डेटा के पैटर्न’ सिखाए जाते हैं. रिसर्च के अनुसार, इसके तीन मुख्य कारण हैं:
प्राइवेसी का बड़ा खतरा
इस रिसर्च ने सुरक्षा पर भी सवाल उठाए हैं. भले ही मरीज का नाम और पता हटा दिया जाए, लेकिन अगर AI सिर्फ एक स्लाइड देखकर मरीज की जाति और उम्र बता सकता है, तो इसका मतलब है कि मरीज की जानकारी अब पूरी तरह “बेनाम” नहीं रही.
वैज्ञानिकों ने बताया ‘Fairpath’ (फेयरपाथ) को नया समाधान
अच्छी खबर यह है कि हार्वर्ड के वैज्ञानिकों ने इसका समाधान भी ढूंढ लिया है. उन्होंने Fairpath नाम का एक नया ट्रेनिंग फ्रेमवर्क तैयार किया है. यह तकनीक AI को केवल बीमारी के लक्षणों पर ध्यान देना सिखाती है और जाति या उम्र जैसे संकेतों को नजरअंदाज करना सिखाती है. जब इसका इस्तेमाल किया गया, तो AI के पक्षपात में 88% तक की कमी आई, और उसकी सटीकता पर भी कोई बुरा असर नहीं पड़ा.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
https://hindi.news18.com/news/lifestyle/health-harvard-study-warns-ai-cancer-diagnosis-shows-racial-and-age-bias-qdps-ws-e-10011687.html
