किशोरवयीन आत्महत्येबद्दल पालकांनी दावा दाखल केल्यानंतर चॅटजीपीटी अद्यतनित करण्यासाठी ओपनई

ओपनईचे म्हणणे आहे की ते चॅटग्प्टला मानसिक त्रासाची चिन्हे शोधण्यासाठी प्रशिक्षण देईल कारण खटल्यात असा आरोप आहे की यावर्षी स्वत: ला ठार मारलेल्या किशोरवयीन मुलाने सल्ल्यासाठी चॅटबॉटवर अवलंबून आहे.

चॅटजीपीटीला आत्महत्या करण्याच्या हेतूने शोधण्यासाठी आणि त्यास प्रतिसाद देण्याचे प्रशिक्षण दिले जाईल, अगदी दीर्घ संभाषणांमध्ये देखील जे वापरकर्त्यांना त्याचे सेफगार्ड्स सोडवू शकतील आणि हानिकारक प्रतिसाद प्रदान करू शकतील, तंत्रज्ञान फर्म मंगळवारी सांगितले?

त्याच दिवशी, ओपनई आणि त्याचे मुख्य कार्यकारी सॅम ऑल्टमॅन यांच्यावर 16 वर्षीय अ‍ॅडम राईन यांच्या पालकांनी दावा केला की चॅटजीपीटीने त्याला मृत्यूची योजना आखण्यास मदत केली आहे.

ओपनईच्या प्रवक्त्याने बीबीसीला सांगितले की, “आम्ही या कठीण काळात राईन फॅमिलीकडे आमची मनापासून सहानुभूती वाढवितो आणि फाईलिंगचा आढावा घेत आहोत.”

बीबीसीने पाहिलेल्या खटल्यानुसार, कॅलिफोर्नियाच्या विद्यार्थ्याने एप्रिलमध्ये काही महिन्यांपासून कृत्रिम बुद्धिमत्ता (एआय) चॅटबॉटशी आत्महत्या चर्चा केल्यानंतर स्वत: चा जीव घेतला. त्याच्या पालकांनी असा आरोप केला आहे की चॅटबॉटने त्यांच्या मुलाच्या आत्महत्या करण्याच्या विचारांना मान्य केले आणि त्याने स्वत: ला इजा पोहोचविण्याच्या मार्गांबद्दल सविस्तर माहिती दिली.

एआयचा वापर जसजसा वाढत जाईल तसतसे काही वापरकर्त्यांनी जीवन सल्ला आणि कोचिंगसाठी चॅटबॉट्सकडे तसेच लेखन आणि कोडिंग यासारख्या गोष्टींकडे वळले आहे, असे ओपनई यांनी ब्लॉग पोस्टमध्ये म्हटले आहे, जे थेट खटल्यावर लक्ष देत नाही.

“आम्ही कधीकधी गंभीर मानसिक आणि भावनिक त्रासात असलेल्या लोकांना सामोरे जात आहोत”, असे त्यात नमूद केले.

“तथापि, तीव्र संकटाच्या मध्यभागी असलेल्या लोकांच्या अलीकडील हृदयविकाराच्या प्रकरणे आपल्यावर खूप वजन करतात आणि आमचा विश्वास आहे की आता अधिक सामायिक करणे महत्वाचे आहे.”

सॅन फ्रान्सिस्को-आधारित फर्मने नियोजित बदलांसह त्याच्या चॅटबॉटमध्ये तयार केलेल्या विद्यमान संरक्षणाची यादी देखील केली.

त्यापैकी, कंपनीने सांगितले की पालकांनी त्यांच्या मुलांच्या चॅटजीपीटीच्या वापराचे निरीक्षण केले पाहिजे.