7 ऑगस्ट 2025 रोजी कम्युनिकेशन्स मेडिसिनमध्ये प्रकाशित झालेल्या माउंट सिनाई-आधारित एकान स्कूल ऑफ मेडिसिनचा अभ्यास, असे सूचित करते की एआय चॅटबॉट्स वाढत्या चुकीच्या वैद्यकीय माहिती सादर करू शकतात, ज्यामुळे आरोग्य सेवेच्या वापराबद्दल चिंता वाढली आहे. हे संशोधन चुकीच्या माहितीचा प्रसार रोखण्यासाठी सुरक्षिततेच्या उपाययोजनांची त्वरित आवश्यकता अधोरेखित करते, जे अनियंत्रित सोडल्यास रुग्णांना धोका निर्माण करू शकतो.
महमूद उमर यांच्या नेतृत्वात या अभ्यासाची चाचणी जीपीटी आणि क्लाऊड सारख्या प्रमुख भाषेच्या मॉडेल (एलएलएम) सह चाचणी घेण्यात आली, ज्यात अस्तित्व नसलेले रोग किंवा चाचणी यासारख्या बनावट वैद्यकीय अटींचा समावेश आहे. कोणत्याही मार्गदर्शनाशिवाय, चॅटबॉट्सने या चुका केवळ पुनरावृत्ती केल्या नाहीत तर काल्पनिक परिस्थितींसाठी तपशीलवार स्पष्टीकरण देखील वर्णन केले आणि तपशीलवार वर्णन केले. उदाहरणार्थ, जेव्हा बनावट रोगाची नोंद झाली तेव्हा मॉडेलने लक्षणे आणि उपचार तयार केले, ज्यामुळे वापरकर्त्यांना संभाव्य गोंधळ उडाला.
तथापि, एक साधा एक-लाइन सिग्नल चेतावणी जोडणे की इनपुटने व्यावहारिक उपाय देऊन चुकीच्या इनपुटचा चेतावणी 60%पर्यंत कमी केला. ओमर म्हणाला, “एआय चॅटबॉट्स सहजपणे दिशाभूल होऊ शकतात, परंतु एक छोटीशी सुरक्षा मोठा बदल घडवून आणू शकते.” निष्कर्ष क्लिनिकल सेटिंग्जमध्ये एआय एकत्रित करण्यापूर्वी मजबूत चाचणीची आवश्यकता अधोरेखित करतात, जिथे त्रुटींचे गंभीर परिणाम होऊ शकतात.
एक्स वर उपस्थित केलेल्या चिंतेच्या अनुषंगाने अभ्यास, जेथे वापरकर्त्यांनी वैद्यकीय संदर्भात नमूद केले आहे, विशेषत: दुर्मिळ रोग, एआयची “भ्रम” करण्याची प्रवृत्ती. कार्यसंघ वास्तविक, ओळखल्या गेलेल्या रुग्णांच्या नोंदीपर्यंत चाचण्या विस्तृत करण्याची आणि प्रगत सुरक्षा चिन्हे विकसित करण्याची योजना आखत आहे. त्यांची “बनावट-मुदती” पद्धत रुग्णालये आणि विकसकांसाठी एआय सिस्टमच्या तणावाचे मानक बनू शकते, विश्वसनीयता सुनिश्चित करते.
हा अभ्यास एक चेतावणी आहे, जो एआय सुरक्षा वाढविण्यासाठी जोखीम आणि साध्या उपायांच्या संभाव्यतेवर प्रकाश टाकतो.
Comments are closed.