काढून टाकलेल्या OpenAI संशोधकांचे म्हणणे आहे की त्यांना 'सुरक्षिततेला प्राधान्य' म्हणून सोडण्यात आले

तीन माजी ओपनएआय संशोधकांना माहितीच्या चुकीच्या हाताळणीसाठी काढून टाकण्यात आले आणि दावा केला की त्यांना सोडून देण्यात आले कारण त्यांनी टेक फर्ममध्ये सुरक्षेचा प्रश्न उपस्थित केला.

“माझा विश्वास आहे की आम्हाला एक कॉर्पोरेशन म्हणून OpenAI च्या नजीकच्या हिताच्या सुरक्षेला प्राधान्य दिल्याबद्दल काढून टाकण्यात आले,” Mikita Balesni ने X वर पोस्ट केले, बाह्य चॅटजीपीटी-निर्मात्याला खुले पत्र, सहकारी माजी कर्मचाऱ्यांसह लिहिलेले.

2 ऑक्टोबर रोजी, एआय फर्मच्या प्रवक्त्याने बीबीसीला सांगितले की त्यांच्या तपासणीत “या व्यक्तींनी स्थापित कंपनीच्या प्रक्रियेबाहेरील संवेदनशील माहितीची चुकीची हाताळणी केल्याची पुष्टी केली आहे”.

OpenAI या दाव्यांची पुनरावृत्ती केली, बाह्य शुक्रवारी सकाळी संशोधन नेत्यांच्या नोटमध्ये.

“आम्ही अगदी स्पष्टपणे सांगू इच्छितो की हे निर्णय सुरक्षेची चिंता वाढवण्याबद्दल किंवा बोलण्याबद्दल नव्हते,” असे नोटमध्ये म्हटले आहे.

“आमच्या अंतर्गत तपासणीत त्यांनी प्रकाशित केलेल्या पत्रात नमूद केलेल्या विश्वासार्हतेचा महत्त्वपूर्ण उल्लंघन उघडकीस आले आणि आम्ही त्यांचा रोजगार सुरू न ठेवण्याच्या निर्णयावर ठाम आहोत.”

AI सुरक्षेवर वाढत्या वादविवाद आणि प्रगत AI सिस्टीममुळे समाजाला निर्माण होणारे संभाव्य धोके यादरम्यान ही डिसमिसल्स आली आहेत.

ओपनएआय नेतृत्वाला संयुक्त पत्र बालेसनी, टोमेक कोरबाक आणि जास्मिन वांग यांनी लिहिले होते, जे म्हणतात की ते सर्व अलीकडे कंपनीत सुरक्षा किंवा संरेखन कर्मचारी होते.

संरेखन म्हणजे तंत्रज्ञानामध्ये मानवी नैतिक कल्पना आणि तत्त्वे तयार करण्याचा सराव. दुस-या शब्दात सांगायचे तर, मानवांना काय मूल्य आहे याच्या अनुषंगाने ते ट्रॅक ठेवणे हे त्याचे उद्दिष्ट आहे.

माजी कर्मचारी सदस्यांनी चिंता व्यक्त केली की त्यांच्या गोळीबारामुळे टेक कंपनीतील कर्मचारी “गेल्या आठवड्यापर्यंत ओपनएआयमध्ये काम करण्याचा अविभाज्य भाग होता अशा प्रकारे बोलण्यास आणि ऑपरेट करण्यास घाबरत होते”.

पत्र पुन्हा पोस्ट करत आहे, कोरबाक यांनी लिहिले, बाह्य: “महिन्यांपासून, मी सुरक्षेविषयी चिंता व्यक्त करत आहे की AI एजंट काय विचार करतात यावर लक्ष ठेवण्याची क्षमता आम्ही गमावत आहोत, जेव्हा ते गैरवर्तन करतात तेव्हा पकडण्यासाठी आमच्या सर्वोत्तम साधनांपैकी एक.

“मला विश्वास आहे की म्हणूनच मला काढून टाकण्यात आले.”

ओपनएआयने सांगितले की ते तृतीय-पक्ष सुरक्षा मूल्यांकनकर्त्यांसह करारांना अंतिम रूप देत आहे आणि येत्या आठवड्यात तपशील जाहीर करेल.

“संशयास्पद परिस्थितीत ओपनएआयमधून बाहेर ढकललेले आम्ही पहिले नव्हतो,” वांग X वर एका पोस्टमध्ये म्हटले आहे, बाह्य.

“जोपर्यंत कर्मचाऱ्यांनी आता या प्रकारच्या चालीविरूद्ध भूमिका घेतली नाही, तर मला काळजी आहे की आम्ही शेवटचे राहणार नाही.”