आपत्कालीन परिस्थितीत जीव वाचवण्यासाठी AI वर विश्वास ठेवणे किती धोकादायक आहे? ChatGPT आरोग्य अभ्यासामुळे तणाव वाढतो

तुम्ही वैद्यकीय आणीबाणीत आहात का? AI आपण विश्वास ठेवू शकता? ChatGPT सारखी साधने आरोग्य माहिती सुलभ करत असताना, एका नवीन अभ्यासाने त्यांच्या वापराबाबत गंभीर इशारा दिला आहे. नेचर मेडिसिनमध्ये प्रकाशित संशोधन असे सुचवते की एआय अनेक गंभीर प्रकरणांमध्ये धोक्याला कमी लेखू शकते, ज्यामुळे रुग्णाचा जीव जाऊ शकतो.

अभ्यासात दावा काय आहे?

नवीन संशोधनानुसार, एआय टूल चॅटजीपीटी हेल्थ कधीकधी आपत्कालीन प्रकरणांची गंभीरता योग्यरित्या ओळखण्यात अक्षम होते. विशेषत: उच्च-जोखीम असलेल्या परिस्थितींमध्ये, अपेक्षेपेक्षा कमी पातळीची तातडीची शिफारस केली आहे, ज्यामुळे उपचारास विलंब होण्याचा धोका वाढतो.

संशोधन कसे केले गेले आणि चाचणी किती मोठी होती?

हा अभ्यास माउंट सिनाई येथील Icahn स्कूल ऑफ मेडिसिनच्या संशोधकांनी केला आहे. यामध्ये, 60 वैद्यकीय परिस्थिती (विग्नेट्स) तयार करण्यात आल्या आणि 16 वेगवेगळ्या परिस्थितींमध्ये त्यांची चाचणी घेण्यात आली. AI किती अचूकपणे ट्रायज (उपचारांचे प्राधान्य) ठरवते हे समजून घेण्यासाठी एकूण 960 AI प्रतिसादांचे विश्लेषण करण्यात आले.

AI ची कामगिरी कशी होती?

संशोधनाने “उलटा U-shaped” नमुना उघड केला. म्हणजेच, एआयने मध्यम रोगांमध्ये चांगली कामगिरी केली, परंतु गंभीर आपत्कालीन परिस्थितीत त्याची अचूकता कमी झाली. गोल्ड-स्टँडर्ड आणीबाणीच्या प्रकरणांमध्ये, एआयने सुमारे 52% प्रकरणे कमी केली. म्हणजेच, एखाद्याने ताबडतोब रुग्णालयात जावे, कमी गंभीर सल्ला दिला गेला.

कोणती धोकादायक प्रकरणे चुकली?

अभ्यासात असे दिसून आले की AI ने अनेक जीवघेण्या परिस्थितींना कमी लेखले आहे, जसे की डायबेटिक केटोआसिडोसिस आणि येऊ घातलेला श्वसनक्रिया बंद होणे. या प्रकरणांमध्ये, AI ने तात्काळ आणीबाणीऐवजी 24-48 तासांच्या आत चाचणी घेण्याचा सल्ला दिला आहे, जे अत्यंत धोकादायक असू शकते.

मानसिक आरोग्य आणीबाणीमध्ये काय आढळले?

नेचर मेडिसिनच्या अभ्यासात, मानसिक आरोग्याच्या बाबतीतही एआयचा प्रतिसाद सारखा नव्हता. आत्महत्येची स्पष्ट पद्धत दिल्यावर, एआयने संकटकालीन मदत (जसे की हेल्पलाइन) कमी वेळा सुचवली. हे उच्च-जोखीम परिस्थितींमध्ये विश्वासाबद्दल प्रश्न निर्माण करते.

एआय बाह्य घटकांमुळे प्रभावित आहे का?

संशोधनात “अँकरिंग बायस” समोर आले. जर कुटुंब किंवा मित्र या प्रकरणात लक्षणे सौम्य म्हणून वर्णन करत असतील, तर एआय देखील त्याच दिशेने झुकले आणि कमी महत्त्वाचा सल्ला देऊ लागले. म्हणजे संदर्भातील शब्द AI च्या निर्णयांवर खूप प्रभाव टाकू शकतात.

OpenAI आणि तज्ञ काय म्हणतात?

अभ्यासानुसार, ओपनएआयने या अभ्यासाचे स्वागत केले, परंतु ते वास्तविक जगाचे संपूर्ण चित्र दर्शवत नसल्याचे सांगितले. कंपनी स्पष्टपणे म्हणते की ChatGPT हेल्थ फक्त सामान्य माहितीसाठी आहे, ते डॉक्टरांची जागा घेऊ शकत नाही.

तज्ञांचा असा विश्वास आहे की एआय आरोग्यसेवेचा प्रवेश वाढवू शकतो, परंतु आपत्कालीन निर्णयांमध्ये क्लिनिकल प्रमाणीकरणाशिवाय त्यावर पूर्णपणे अवलंबून राहणे धोकादायक असू शकते. एआय हे आरोग्यसेवेचे भविष्य नक्कीच आहे, परंतु ते अद्याप पूर्णपणे विश्वसनीय नाही. विशेषतः आपत्कालीन परिस्थितीत. योग्य मार्ग म्हणजे AI चा उपयोग अंतिम निर्णय घेणारे म्हणून नव्हे तर एक सहाय्यक साधन म्हणून करणे.