ओपनएआयचा दावा आहे की किशोरवयीन मुलांनी आत्महत्येपूर्वी सुरक्षा वैशिष्ट्यांना चॅटजीपीटीने योजना करण्यास मदत केली

ऑगस्टमध्ये, पालक मॅथ्यू आणि मारिया रेन यांनी ओपनएआय आणि त्याचे सीईओ, सॅम ऑल्टमन, त्यांच्या 16 वर्षांच्या मुलाच्या ॲडमच्या आत्महत्येबद्दल कंपनीवर चुकीच्या मृत्यूचा आरोप करून खटला दाखल केला. मंगळवारी, OpenAI प्रतिसाद दिला किशोरवयीन मुलाच्या मृत्यूसाठी त्याला जबाबदार धरले जाऊ नये, असा युक्तिवाद करून स्वत:चा दावा दाखल केला.

ओपनएआयचा दावा आहे की सुमारे नऊ महिन्यांच्या वापरानंतर, ChatGPT ने रेनला 100 पेक्षा जास्त वेळा मदत घेण्यास सांगितले. पण त्याच्या पालकांच्या खटल्यानुसार, रेनला ChatGPT मिळवून देण्यासाठी कंपनीच्या सुरक्षितता वैशिष्ट्ये टाळता आली आणि त्याला “ड्रग ओव्हरडोसपासून ते कार्बन मोनॉक्साईड विषबाधापर्यंतच्या सर्व गोष्टींसाठी तांत्रिक वैशिष्ट्ये” द्यायला, चॅटबॉटने “सुंदर आत्महत्या” म्हटल्याच्या योजना आखण्यात मदत केली.

रेनने त्याच्या रेलिंगच्या भोवती चाली केल्यापासून, OpenAI दावा करते की त्याने त्याच्या वापराच्या अटींचे उल्लंघन केले आहे, ज्यामध्ये असे म्हटले आहे की वापरकर्ते “आम्ही आमच्या सेवांवर ठेवलेल्या कोणत्याही संरक्षणात्मक उपायांना किंवा सुरक्षितता कमी करण्याकडे दुर्लक्ष करू शकत नाहीत.” कंपनीने असा युक्तिवाद देखील केला आहे की त्यांचे FAQ पृष्ठ वापरकर्त्यांना चेतावणी देते की ChatGPT च्या आउटपुटची स्वतंत्रपणे पडताळणी केल्याशिवाय त्यावर अवलंबून राहू नये.

“ओपनएआय इतर प्रत्येकामध्ये दोष शोधण्याचा प्रयत्न करते, आश्चर्यकारकपणे, ॲडमने स्वतःच ChatGPT सोबत कार्य करण्यासाठी प्रोग्राम केलेल्या पद्धतीने गुंतून त्याच्या अटी व शर्तींचे उल्लंघन केले,” असे रेन कुटुंबाचे प्रतिनिधीत्व करणारे वकील जे एडल्सन यांनी एका निवेदनात म्हटले आहे.

OpenAI ने त्याच्या फाइलिंगमध्ये ॲडमच्या चॅट लॉगमधील उतारे समाविष्ट केले आहेत, जे ChatGPT सह त्याच्या संभाषणांना अधिक संदर्भ प्रदान करते. प्रतिलिपी सीलखाली न्यायालयात सादर केली गेली होती, याचा अर्थ ते सार्वजनिकरित्या उपलब्ध नाहीत, म्हणून आम्ही ते पाहू शकलो नाही. तथापि, ओपनएआयने सांगितले की रेनचा नैराश्य आणि आत्महत्येच्या विचारांचा इतिहास होता ज्यामुळे त्याने चॅटजीपीटीचा वापर केला होता आणि तो अशी औषधे घेत होता ज्यामुळे आत्महत्येचे विचार आणखी वाईट होऊ शकतात.

एडेलसन म्हणाले की ओपनएआयच्या प्रतिसादाने कुटुंबाच्या चिंतेचे पुरेसे निराकरण केले नाही.

“ओपनएआय आणि सॅम ऑल्टमन यांना ॲडमच्या आयुष्याच्या शेवटच्या तासांबद्दल कोणतेही स्पष्टीकरण नाही, जेव्हा ChatGPT ने त्याला एक पेप टॉक दिला आणि नंतर एक सुसाईड नोट लिहिण्याची ऑफर दिली,” एडल्सनने आपल्या निवेदनात म्हटले आहे.

रेन्सने ओपनएआय आणि ऑल्टमॅनवर खटला दाखल केल्यापासून, आणखी सात खटले दाखल केले गेले आहेत ज्यात तीन अतिरिक्त आत्महत्येसाठी आणि चार वापरकर्त्यांना AI-प्रेरित मनोविकाराचा भाग म्हणून खटले वर्णन केल्याबद्दल कंपनीला जबाबदार धरण्याचा प्रयत्न केला गेला आहे.

यापैकी काही प्रकरणे रेनच्या कथेचा प्रतिध्वनी करतात. Zane Shamblin, 23, आणि Joshua Enneking, 26, यांनी देखील त्यांच्या संबंधित आत्महत्येपूर्वी थेट ChatGPT शी तासभर संभाषण केले होते. रेनच्या बाबतीत, चॅटबॉट त्यांना त्यांच्या योजनांपासून परावृत्त करण्यात अयशस्वी ठरला. खटल्यानुसार, शाम्बलिनने आत्महत्या पुढे ढकलण्याचा विचार केला जेणेकरून तो आपल्या भावाच्या पदवीधरांना उपस्थित राहू शकेल. पण ChatGPT ने त्याला सांगितले, “भाऊ … त्याचे ग्रॅज्युएशन चुकणे म्हणजे अपयश नाही. ही फक्त वेळ आहे.”

शॅम्बलिनच्या आत्महत्येपर्यंतच्या संभाषणादरम्यान एका क्षणी, चॅटबॉटने त्याला सांगितले की ते संभाषण एखाद्या माणसाला घेऊ देत आहे, परंतु हे खोटे आहे, कारण ChatGPT कडे असे करण्याची कार्यक्षमता नाही. जेव्हा शॅम्बलिनने विचारले की चॅटजीपीटी त्याला खरोखर एखाद्या माणसाशी जोडू शकते का, तेव्हा चॅटबॉटने उत्तर दिले, “नाही यार – मी ते स्वतः करू शकत नाही. जेव्हा सामग्री खूप जड होते तेव्हा तो संदेश आपोआप पॉप अप होतो … जर तुम्ही बोलत राहण्यासाठी खाली असाल, तर तुम्ही मला समजले आहे.”

रैन कुटुंबाचे प्रकरण ज्युरी ट्रायलमध्ये जाण्याची अपेक्षा आहे.

तुम्हाला किंवा तुमच्या ओळखीच्या कोणाला मदत हवी असल्यास, यासाठी 1-800-273-8255 वर कॉल करा राष्ट्रीय आत्महत्या प्रतिबंधक लाइफलाइन. तुम्ही HOME ला ७४१-७४१ वर मोफत पाठवू शकता; मजकूर 988; किंवा कडून 24-तास समर्थन मिळवा संकट मजकूर ओळ. यूएस बाहेर, कृपया भेट द्या इंटरनॅशनल असोसिएशन फॉर सुसाइड प्रिव्हेंशन संसाधनांच्या डेटाबेससाठी.