डेव्हिड रॉबिन्सन: एआय मानवांवर वर्चस्व गाजवेल? OpenAI चे सुरक्षा तज्ञ कंपनी सोडले, म्हणाले – आम्ही विनाशाकडे वाटचाल करत आहोत

कंपनी सोडल्यानंतर रॉबिन्सनने अटलांटिकमध्ये एक लेख लिहिला. त्याचे शीर्षक आहे 'I Quit OpenAI because Its Culture Is Broken'. या लेखात त्यांनी ओपनएआयच्या कार्यपद्धती, एआय मॉडेल्सची जलद तयारी आणि त्यांच्या सुरक्षिततेबद्दल चिंता व्यक्त केली आहे.

एआय विकासाच्या गतीवर प्रश्न उपस्थित केले जातात

डेव्हिड रॉबिन्सन यांच्या मते, एक मॉडेल लॉन्च केल्यानंतर ओपनएआय दुसऱ्या मॉडेलवर ज्या वेगाने काम करत आहे त्यामुळे एआयच्या सुरक्षिततेकडे आवश्यक लक्ष देणे कठीण होत आहे. यावेळी एआय कंपन्यांनी अधिक काळजीपूर्वक काम करण्याची गरज असल्याचे त्यांचे मत आहे.

रॉबिन्सनने ओपनएआयच्या “जलद गतीने हलवा आणि गोष्टी ठीक करा” या दृष्टिकोनाचेही वर्णन केले. ते म्हणतात की एआय वेगाने सुधारण्याबरोबरच त्याच्या सुरक्षिततेलाही समान प्राधान्य दिले पाहिजे.

'एआय कंपन्या पुरेशी खबरदारी घेत नाहीत'

त्यांच्या लेखात, रॉबिन्सन म्हणाले की ते इतर माजी कर्मचाऱ्यांशी सहमत आहेत ज्यांचा असा विश्वास आहे की एआय तंत्रज्ञान तयार करणाऱ्या कंपन्या पुरेशी खबरदारी घेत नाहीत. ते म्हणाले की ओपनएआय एका प्रक्षेपणातून दुसऱ्या प्रक्षेपणावर वेगाने जात आहे, परंतु या काळात आवश्यक तितकी सावधगिरी बाळगण्यास सक्षम नाही.

रॉबिन्सन यांनी एआय कंपन्यांच्या कामाच्या पद्धतीवरही प्रश्नचिन्ह उपस्थित केले. त्यांच्या मते, सध्याच्या काळात कंपन्यांना अधिक नम्रता आणि सावधगिरीची गरज आहे. ते म्हणाले की जे लोक खूप आत्मविश्वासाने काम करतात त्यांनी अशी सावधगिरी बाळगणे स्वाभाविक नाही.

मानवांपेक्षा अधिक सक्षम AI बद्दल चिंता

रॉबिन्सन यांनीही एआयच्या भविष्याबाबत चिंता व्यक्त केली. ते म्हणाले की AI शी संबंधित सुरक्षेच्या समस्या उद्भवू शकतात असे वातावरण भविष्यात मानवांपेक्षा अधिक बुद्धिमान AI प्रणाली तयार करण्यासाठी योग्य नाही. त्याची चिंता अशी आहे की भविष्यातील अधिक सक्षम AI मॉडेल्स नेहमी तेच करतील जे मानवांना हवे आहे, आवश्यक नाही. म्हणून, असे मॉडेल बनवण्यापूर्वी, त्यांच्या सुरक्षिततेकडे अधिक लक्ष देणे आवश्यक आहे.

एआय उद्योगासाठी दोन मोठे बदल सुचवले आहेत

डेव्हिड रॉबिन्सन यांनी त्यांच्या लेखात एआय कंपन्यांसाठी दोन महत्त्वाचे बदल नमूद केले आहेत.

• इतर क्षेत्रातील तज्ञांकडून शिकणे: रॉबिन्सन यांच्या मते, AI कंपन्यांनी त्यांच्याकडे इतर क्षेत्रांमध्ये आधीच असलेल्या सुरक्षितता-संबंधित अनुभवाचा आणि कौशल्याचा अधिक वापर केला पाहिजे.
• नवीन वैज्ञानिक समज आवश्यक आहे: ते म्हणाले की, आजच्या एआय मॉडेल्सपेक्षा अधिक सक्षम प्रणाली तयार करण्यापूर्वी, अधिक सक्षम एआय मॉडेल्स सुरक्षितपणे निर्णय घेतात याची खात्री करण्यासाठी नवीन वैज्ञानिक समज विकसित करण्याची गरज आहे.

ओपनएआय टीकेबद्दल काय म्हणाले?

डेव्हिड रॉबिन्सनच्या शब्दांवर, OpenAI ने सांगितले की कंपनी बाहेरील तज्ञांच्या सहकार्याने आपले काम वाढवत आहे. याशिवाय, एआय मॉडेलवर सतत देखरेख ठेवण्याची प्रणाली देखील सुधारली जात आहे, जेणेकरून प्रशिक्षणादरम्यान मॉडेलचे चुकीचे किंवा असुरक्षित वर्तन त्वरीत शोधले जाऊ शकते.

OpenAI ने सांगितले की ते काळजी घेत आहे की त्याचे AI मॉडेल्स सुरक्षितपणे नियंत्रित करण्यासाठी पुरेसे सक्षम आहेत. कंपनीच्या मते, आवश्यक असल्यास, ते मॉडेलचे प्रशिक्षण थांबवते किंवा काही काळ त्याचा विकास थांबवते.

ओपनएआयच्या सेफ्टी टीममध्ये यापूर्वीही बदल करण्यात आले आहेत.

एआयच्या सुरक्षेबाबत सातत्याने चर्चा होत असताना डेव्हिड रॉबिन्सन यांचा राजीनामा आला आहे. बातम्यांमध्ये अलीकडील हगिंग फेस सुरक्षा उल्लंघन आणि AI मॉडेल्सच्या गैरवर्तनाशी संबंधित इतर सुरक्षा समस्यांचा देखील उल्लेख आहे.

ओपनएआयच्या सेफ्टी टीममध्ये यापूर्वीही बदल करण्यात आले आहेत. कंपनीचे सेफ्टी चीफ जोहान्स हेडेके यांच्या जाण्याव्यतिरिक्त, संवेदनशील माहितीशी संबंधित नियमांचे उल्लंघन केल्याबद्दल तीन संशोधकांना काढून टाकण्यात आल्याचेही समोर आले आहे.

डेव्हिड रॉबिन्सन यांचा राजीनामा आणि अटलांटिकमध्ये प्रकाशित झालेला त्यांचा लेख यामुळे पुन्हा एकदा एआय मॉडेल्सना अधिक सक्षम बनवण्याच्या शर्यतीत त्यांची सुरक्षितता कशी लक्षात ठेवायची हा प्रश्न निर्माण झाला आहे.