OpenAI ने ChatGPT आत्महत्येच्या खटल्यात मेमोरियल अटेंडिटी यादीची विनंती केली

OpenAI ने कथितरित्या रेन कुटुंबाला – ज्याचा 16 वर्षीय मुलगा ॲडम रेन ChatGPT सोबत प्रदीर्घ संभाषणानंतर आत्महत्येने मरण पावला – किशोरच्या स्मारकातील उपस्थितांची संपूर्ण यादी मागितली, जे संकेत देते की AI फर्म मित्र आणि कुटुंबीयांना सादर करण्याचा प्रयत्न करू शकते.

OpenAI ने प्राप्त केलेल्या दस्तऐवजानुसार “स्मारक सेवा किंवा मृत व्यक्तीच्या सन्मानार्थ कार्यक्रमांशी संबंधित सर्व दस्तऐवजांची विनंती केली आहे, ज्यामध्ये कोणतेही व्हिडिओ किंवा छायाचित्रे किंवा दिलेली स्तुती यांचा समावेश आहे परंतु त्यापुरते मर्यादित नाही,” फायनान्शिअल टाईम्स.

एफटीशी बोलताना, रेन कुटुंबातील वकिलांनी या विनंतीचे वर्णन “हेतुपूर्वक छळ” असे केले.

रेन कुटुंबाने बुधवारी OpenAI विरुद्धचा खटला अद्यतनित केल्याने नवीन माहिती समोर आली आहे. त्याच्या मानसिक आरोग्याबद्दल आणि आत्महत्येच्या विचारांबद्दल चॅटबॉटशी झालेल्या संभाषणानंतर त्यांच्या मुलाने स्वतःचा जीव घेतल्याचा आरोप केल्यानंतर कुटुंबाने ऑगस्टमध्ये OpenAI विरुद्ध प्रथम चुकीचा मृत्यू खटला दाखल केला. अद्ययावत खटल्यात दावा केला आहे की स्पर्धात्मक दबावामुळे सुरक्षा चाचणी कमी करून OpenAI ने GPT-4o चे मे 2024 रिलीझ केले.

या खटल्यात असा दावाही करण्यात आला आहे की, फेब्रुवारी २०२५ मध्ये, OpenAI ने आत्महत्या प्रतिबंधक त्याच्या “अनुमत सामग्री” सूचीमधून काढून टाकून संरक्षण कमकुवत केले, त्याऐवजी केवळ AI ला “जोखमीच्या परिस्थितीत काळजी घ्या” असा सल्ला दिला. कुटुंबाने असा युक्तिवाद केला की या बदलानंतर, ॲडमचा चॅटजीपीटी वापर डझनभर दैनंदिन चॅट्समधून वाढला, ज्यात जानेवारीमध्ये 1.6% स्वयं-हानी सामग्री होती, एप्रिलमध्ये 300 दैनंदिन चॅट्स, ज्या महिन्यात तो मरण पावला, त्यात 17% अशी सामग्री होती.

सुधारित खटल्याला दिलेल्या प्रतिसादात, OpenAI ने म्हटले: “किशोरांचे आरोग्य हे आमच्यासाठी सर्वोच्च प्राधान्य आहे — अल्पवयीन मुले मजबूत संरक्षणास पात्र आहेत, विशेषत: संवेदनशील क्षणांमध्ये. आमच्याकडे आज सुरक्षिततेचे उपाय आहेत, जसे की (संकटाच्या हॉटलाइनकडे निर्देशित करणे), संवेदनशील संभाषणांना पुन्हा सुरक्षित मॉडेल्सकडे पाठवणे, त्यांना विश्रांतीसाठी नड करणे आणि सत्रादरम्यान दीर्घकाळ विश्रांतीसाठी बळकट करणे.”

OpenAI ने अलीकडेच ChatGPT वर नवीन सुरक्षा राउटिंग प्रणाली आणि पालक नियंत्रणे आणण्यास सुरुवात केली आहे. राउटिंग सिस्टीम अधिक भावनिकदृष्ट्या संवेदनशील संभाषणांना ओपनएआयच्या नवीन मॉडेल, GPT-5 वर ढकलते, ज्यामध्ये GPT-4o सारखी sycophantic प्रवृत्ती नाही. आणि पालक नियंत्रणे पालकांना मर्यादित परिस्थितींमध्ये सुरक्षितता सूचना प्राप्त करण्यास अनुमती देतात जिथे किशोरवयीन मुलाला संभाव्यतः स्वत: ची हानी होण्याचा धोका असतो.

Read ने OpenAI आणि Raine फॅमिली ॲटर्नी यांच्याशी संपर्क साधला आहे.