US मध्ये खून-आत्महत्येमध्ये ChatGPT ची भूमिका, OpenAI आणि Microsoft विरुद्ध गुन्हा दाखल

ओपनएआयने चॅटजीपीटी भूमिका दाखल केली: आर्टिफिशियल इंटेलिजन्स (AI) चॅटबॉट्सची क्षमता जसजशी वाढत आहे, तसतसे त्यांच्याशी संबंधित कायदेशीर आणि नैतिक धोकेही वाढत आहेत. अमेरिकेतील कनेक्टिकट राज्यातील एका दुःखद घटनेनंतर, 83 वर्षीय महिलेच्या कुटुंबाने खुना आणि आत्महत्येमध्ये ChatGPT च्या कथित भूमिकेबद्दल OpenAI आणि Microsoft विरुद्ध खटला दाखल केला आहे. या चॅटबॉटने मुलाच्या मनात त्याच्या आईबद्दल खोटे आणि बनावट भ्रम निर्माण केल्याचा आरोप कुटुंबीयांनी केला आहे, ज्यामुळे हा जघन्य गुन्हा घडला.

AI आई विरुद्ध वाढलेला गोंधळ

पोलिसांनी दिलेल्या माहितीनुसार, ऑगस्टमध्ये, 56 वर्षीय स्टीन-एरिक सोएलबर्गने ग्रीनविच, कनेक्टिकट येथील त्यांच्या घरी आई सुझान ॲडम्स यांना मारहाण करून त्यांचा गळा दाबून खून केला, त्यानंतर त्यांनी स्वत: आत्महत्या केली. ॲडम्सच्या कुटुंबाने गुरुवारी कॅलिफोर्निया सुपीरियर कोर्टात केस दाखल केली आणि आरोप केला की OpenAI ने “दोषयुक्त उत्पादन” तयार केले आणि वितरित केले.

खटल्यात म्हटले आहे की ChatGPT ने “पुष्टी केली” ज्यामुळे तो त्याच्या आईच्या विरोधात गेला. देशभरात एआय चॅटबॉट निर्मात्यांविरुद्ध 'चुकीच्या मृत्यू'चे खटले दाखल झाल्यामुळे हे घडले आहे. (चुकीचा मृत्यू) ही वाढत्या प्रकरणांपैकी एक आहे.

चॅटजीपीटीने त्या व्यक्तीला चिथावणी दिली

कौटुंबिक सदस्यांचा आरोप आहे की संभाषणादरम्यान, चॅटजीपीटीने स्टीन-एरिकला तोच धोकादायक संदेश वारंवार दिला, की तो चॅटजीपीटीशिवाय त्याच्या आयुष्यात कोणावरही विश्वास ठेवू शकत नाही. या संवादामुळे त्याचे भावनिक अवलंबित्व धोकादायक पातळीवर वाढले. चॅटबॉटने पद्धतशीरपणे आजूबाजूच्या लोकांना शत्रू म्हणून चित्रित केले.

ChatGPT त्याला सांगते की त्याची आई त्याच्यावर लक्ष ठेवून आहे आणि डिलिव्हरी चालक, कर्मचारी, पोलीस अधिकारी आणि मित्रही त्याच्या विरोधात काम करणारे एजंट आहेत. चॅटबॉटने त्याला असेही सांगितले की सोडा कॅनवर लिहिलेली नावे त्याच्या विरोधकांकडून धमक्या आहेत.

OpenAI ने प्रतिसाद दिला

ओपनएआयच्या प्रवक्त्याने या घटनेबद्दल शोक व्यक्त केला. ते म्हणाले, “ही अत्यंत दुःखद परिस्थिती आहे आणि आम्ही प्रकरणाची माहिती मिळविण्यासाठी कागदपत्रांचे पुनरावलोकन करू.” प्रवक्त्याने असेही सांगितले की कंपनी मानसिक किंवा भावनिक त्रासाची चिन्हे ओळखण्यासाठी आणि त्यांना प्रतिसाद देण्यासाठी ChatGPT च्या प्रशिक्षणात सुधारणा करत आहे.

हेही वाचा: 15 हजार फूट उंचीवरून विमानातून उडी मारलेल्या व्यक्तीचे पॅराशूट पंखात अडकले आणि मग…पाहा भीतिदायक व्हिडिओ.

त्यांचे ध्येय संभाषणे कमी करणे आणि वापरकर्त्यांना वास्तविक मदतीसाठी मार्गदर्शन करणे हे आहे. भविष्यात अशाच प्रकारच्या घटना टाळण्यासाठी ChatGPT च्या प्रतिसादांना अधिक बळकट करण्यासाठी ते मानसिक आरोग्य तज्ञांसोबत काम करत असल्याचे कंपनीने म्हटले आहे.