ओपनएआय चॅटजीपीटी वापरकर्त्यांचा आत्महत्येचे विचार, मनोविकार यांचा डेटा शेअर करते

ओपनएआयने चॅटजीपीटी वापरकर्त्यांच्या संख्येचे नवीन अंदाज जारी केले आहेत जे उन्माद, मनोविकार किंवा आत्महत्येच्या विचारांसह मानसिक आरोग्य आणीबाणीची संभाव्य चिन्हे प्रदर्शित करतात.

कंपनीने सांगितले की, दिलेल्या आठवड्यात सक्रिय असलेल्या चॅटजीपीटी वापरकर्त्यांपैकी सुमारे .07% वापरकर्त्यांनी अशी चिन्हे प्रदर्शित केली आहेत, आणि त्याचा कृत्रिम बुद्धिमत्ता (AI) चॅटबॉट या संवेदनशील संभाषणांना ओळखतो आणि प्रतिसाद देतो.

OpenAI ने ही प्रकरणे “अत्यंत दुर्मिळ” असल्याचे म्हटले आहे, तर समीक्षकांनी म्हटले आहे की, बॉस सॅम ऑल्टमन प्रति ChatGPT अलीकडेच 800 दशलक्ष साप्ताहिक सक्रिय वापरकर्त्यांपर्यंत पोहोचले आहे.

छाननी वाढत असताना, कंपनीने सांगितले की त्यांनी सल्ला देण्यासाठी जगभरातील तज्ञांचे नेटवर्क तयार केले आहे.

त्या तज्ञांमध्ये 170 हून अधिक मनोचिकित्सक, मानसशास्त्रज्ञ आणि 60 देशांमध्ये सराव करणारे प्राथमिक उपचार चिकित्सक समाविष्ट आहेत, कंपनीने सांगितले.

ओपनएआयच्या म्हणण्यानुसार, वापरकर्त्यांना वास्तविक जगात मदत घेण्यास प्रोत्साहित करण्यासाठी त्यांनी ChatGPT मध्ये प्रतिसादांची मालिका तयार केली आहे.

परंतु कंपनीच्या डेटाची झलक काही मानसिक आरोग्य व्यावसायिकांमध्ये भुवया उंचावल्या.

“जरी .07% एक लहान टक्के वाटली तरी, लाखो वापरकर्ते असलेल्या लोकसंख्येच्या पातळीवर, प्रत्यक्षात ते काही लोक असू शकतात,” डॉ. जेसन नगाटा, कॅलिफोर्निया विद्यापीठ, सॅन फ्रान्सिस्को येथील तरुण प्रौढांमध्ये तंत्रज्ञानाच्या वापराचा अभ्यास करणारे प्राध्यापक म्हणाले.

“एआय मानसिक आरोग्य समर्थनासाठी प्रवेश विस्तृत करू शकते आणि काही मार्गांनी मानसिक आरोग्यास समर्थन देऊ शकते, परंतु आपल्याला मर्यादांची जाणीव असणे आवश्यक आहे,” डॉ. नगाता पुढे म्हणाले.

कंपनीचा असाही अंदाज आहे की .15% ChatGPT वापरकर्त्यांशी संभाषणे आहेत ज्यात “संभाव्य आत्महत्येच्या नियोजनाचे किंवा हेतूचे स्पष्ट संकेतक” समाविष्ट आहेत.

ओपनएआयने सांगितले की त्याच्या चॅटबॉटवरील अलीकडील अद्यतने “भ्रम किंवा उन्मादच्या संभाव्य लक्षणांना सुरक्षितपणे आणि सहानुभूतीपूर्वक प्रतिसाद देण्यासाठी” आणि “संभाव्य आत्म-हानी किंवा आत्महत्येच्या जोखमीचे अप्रत्यक्ष संकेत” लक्षात ठेवण्यासाठी डिझाइन केलेले आहेत.

ChatGPT ला नवीन विंडोमध्ये उघडून “इतर मॉडेल्सपासून सुरक्षित मॉडेल्सवर उद्भवणारे” संवेदनशील संभाषण पुन्हा मार्गी लावण्याचे प्रशिक्षण देण्यात आले आहे.

संभाव्यपणे प्रभावित झालेल्या लोकांच्या संख्येबद्दलच्या टीकेवर बीबीसीच्या प्रश्नांना उत्तर देताना, ओपनएआयने सांगितले की वापरकर्त्यांची ही लहान टक्केवारी लोकांच्या अर्थपूर्ण प्रमाणात आहे आणि ते बदल गांभीर्याने घेत असल्याचे नमूद केले.

ChatGPT वापरकर्त्यांशी संवाद साधण्याच्या पद्धतीवर OpenAI ला कायदेशीर तपासणीचा सामना करावा लागत असल्याने हे बदल झाले आहेत.

OpenAI विरुद्ध नुकत्याच दाखल केलेल्या सर्वात उच्च-प्रोफाइल खटल्यांपैकी एका, कॅलिफोर्नियातील एका जोडप्याने आपल्या किशोरवयीन मुलाच्या मृत्यूबद्दल कंपनीवर खटला भरला आणि आरोप केला की ChatGPT ने त्याला एप्रिलमध्ये स्वतःचा जीव घेण्यास प्रोत्साहित केले.

हा खटला 16 वर्षीय ॲडम रेनच्या पालकांनी दाखल केला होता आणि OpenAI वर चुकीच्या मृत्यूचा आरोप करणारी ही पहिली कायदेशीर कारवाई होती.

एका वेगळ्या प्रकरणात, ग्रीनविच, कनेक्टिकट येथे ऑगस्टमध्ये झालेल्या खून-आत्महत्येतील संशयिताने ChatGPT सह त्याच्या संभाषणाचे काही तास पोस्ट केले, ज्यामुळे कथित गुन्हेगाराच्या भ्रमात वाढ झाल्याचे दिसते.

कॅलिफोर्निया लॉ युनिव्हर्सिटीच्या एआय लॉ अँड इनोव्हेशन इन्स्टिट्यूटचे संचालक प्रोफेसर रॉबिन फेल्डमन म्हणाले, “चॅटबॉट्स वास्तविकतेचा भ्रम निर्माण करतात म्हणून अधिक वापरकर्ते एआय सायकोसिसचा सामना करतात. “हा एक शक्तिशाली भ्रम आहे.”

ती म्हणाली की ओपनएआय “आकडेवारी सामायिक करण्यासाठी आणि समस्या सुधारण्याच्या प्रयत्नांसाठी” श्रेय घेण्यास पात्र आहे परंतु ते पुढे म्हणाले: “कंपनी स्क्रीनवर सर्व प्रकारचे चेतावणी देऊ शकते परंतु मानसिकदृष्ट्या जोखीम असलेली व्यक्ती त्या चेतावणीकडे लक्ष देऊ शकत नाही.”