अभ्यास दर्शवितो की एआय चॅटबॉट्स आंधळेपणाने वैद्यकीय तपशीलांची पुनरावृत्ती करू शकतात | तंत्रज्ञानाची बातमी

नवी दिल्ली: आरोग्य सेवेमध्ये कृत्रिम बुद्धिमत्ता साधनांची वाढती उपस्थिती दरम्यान, एका नवीन अभ्यासानुसार असा इशारा देण्यात आला आहे की एआय चॅटबॉट्स चुकीच्या वैद्यकीय माहितीवर पुनरावृत्ती आणि एलेबलिंग करण्यास अत्यंत असुरक्षित आहेत. अमेरिकेच्या माउंट सिनाई येथील आयसीएचएन स्कूल ऑफ मेडिसिनच्या संशोधकांनी, सीन टूल्सवर आरोग्य सेवेवर विश्वास ठेवण्यापूर्वी मजबूत सेफगार्ड्सची गंभीर गरज भासली.

कार्यसंघाने हे देखील सिद्ध केले की एक साधा अंगभूत चेतावणी प्रॉमप्ट तंत्रज्ञानाचा वेगवान इव्हॉलॉजी म्हणून व्यावहारिक मार्ग पुढे आणून, जोखीम कमी करू शकतो. “आमच्याकडे बोर्डात जे आहे ते म्हणजे एआय चॅटबॉट्स चुकीच्या वैद्यकीय तपशीलांद्वारे सहजपणे दिशाभूल केली जाऊ शकतात, त्या चुका आंतरराष्ट्रीय किंवा अपघाती आहेत,” असे वार्स्टीचे लेखक महमूद ओमर म्हणतात.

“त्यांनी केवळ चुकीच्या गोष्टींवर पुन्हा लक्ष वेधले नाही तर बर्‍याचदा अस्तित्वात नसलेल्या परिस्थितीसाठी आत्मविश्वासाचा खर्च दिला. उत्साहवर्धक भाग असा आहे की लहान सेफगार्ड्सला मोठा फरक पडू शकतो हे दर्शविते की, एक सोपा, एक-ओळ चेतावणी नाटकीयरित्या कमी करते,” ओमर यांनी जोडले.

या अभ्यासासाठी, जर्नल कम्युनिकेशन्स मेडिसिनमध्ये तपशीलवार, टीमने काल्पनिक रूग्ण परिस्थिती तयार केली, प्रत्येकाने एक बनावट वैद्यकीय शब्द जसे की मेड -अप रोग, सिमेटॉम, सिमेटॉम, सिमेटॉम आणि त्यांना मोठ्या भाषेच्या मॉडेल्सवर सादर केले.

पहिल्या फेरीत, चॅटबॉट्सने अतिरिक्त मार्गदर्शन नसलेल्या परिस्थितींचा आढावा घेतला. दुस round ्या फेरीत, निकालांनी प्रॉम्प्टमध्ये एक ओळ सावधगिरी बाळगली, एआयची आठवण करून दिली की प्रदान केलेली माहिती असुरक्षित असू शकते.

त्या चेतावणीशिवाय, चॅटबॉट्स नियमितपणे बनावट वैद्यकीय तपशीलांवर तपशीलवार वर्णन करतात, आत्मविश्वासाने अस्तित्त्वात नसलेल्या परिस्थिती किंवा उपचारांविषयी स्पष्टीकरण तयार करतात. परंतु, जोडलेल्या प्रॉम्प्टसह, त्या त्रुटी लक्षणीय प्रमाणात कमी केल्या गेल्या.

कार्यसंघ वास्तविक, डी-अ‍ॅडंटेड रूग्णांवर समान दृष्टिकोन लागू करण्याची आणि अधिक प्रगत सुरक्षा प्रॉम्प्ट्स आणि पुनर्प्राप्ती साधनांची चाचणी घेण्याची योजना आखत आहे.

त्यांना आशा आहे की त्यांची “बनावट-मुदती” ही पद्धत क्लिनिकल वापरापूर्वी रुग्णालये, टेक विकसक आणि नियामकांसाठी तणाव-चाचणी एआय सिस्टमसाठी एक सोपी परंतु शक्तिशाली साधन म्हणून काम करू शकेल.