सेफ्टी चीफच्या राजीनाम्यानंतर ओपनएआयमध्ये खळबळ उडाली आहे, एआय कंपन्यांच्या धोरणांवर प्रश्न, माणसांच्या नियंत्रणाचा इशारा.

नवी दिल्ली. ओपनएआयच्या सेफ्टी लीड डेव्हिड रॉबिन्सन यांच्या राजीनाम्यामुळे आर्टिफिशियल इंटेलिजन्सच्या जगात झपाट्याने वाढणाऱ्या स्पर्धेच्या दरम्यान एक नवीन वाद निर्माण झाला आहे. पद सोडल्यानंतर कंपनीत सुरक्षाविषयक महत्त्वाच्या जबाबदाऱ्या सांभाळणाऱ्या रॉबिन्सन यांनी एआय उद्योगाच्या कामाच्या पद्धतीवर गंभीर प्रश्न उपस्थित केले आहेत. ते म्हणतात की शक्तिशाली एआय प्रणाली तयार करण्याच्या शर्यतीत, कंपन्या या तंत्रज्ञानाच्या वाढत्या क्षमतेचा विचार करून सुरक्षिततेला आवश्यक तेवढे प्राधान्य देत नाहीत.

डेव्हिड रॉबिन्सन 2023 मध्ये OpenAI मध्ये सामील झाले. सुरुवातीला त्यांनी धोरणाशी संबंधित काम हाताळले आणि नंतर सुरक्षा प्रणालींसाठी जबाबदार असलेल्या संघाचे नेतृत्व केले. नवीन AI मॉडेल्सच्या विकासादरम्यान, सुरक्षा-संबंधित चाचणी आणि जोखमींचे मूल्यांकन यामध्ये त्यांची भूमिका महत्त्वाची होती. राजीनाम्यानंतर लिहिलेल्या लेखात त्यांनी एआय उद्योगाच्या सध्याच्या दिशेबद्दल चिंता व्यक्त केली आहे.

रॉबिन्सनच्या मते, आज सर्वात शक्तिशाली आणि सक्षम AI मॉडेल्स तयार करण्यासाठी मोठ्या टेक कंपन्यांमध्ये स्पर्धा सुरू आहे. चांगली कामगिरी करणाऱ्या यंत्रणा निर्माण करण्यावर कंपन्या सातत्याने भर देत आहेत, पण त्यांच्या मते या गतीसोबत तितक्याच वेगाने सुरक्षा व्यवस्था मजबूत करण्याची गरज आहे. त्यांचे म्हणणे आहे की एआय सिस्टीम जितक्या सक्षम होतील तितके त्यांचे वर्तन आणि संभाव्य धोके समजून घेणे अधिक महत्त्वाचे होईल.

त्यांनी तंत्रज्ञान उद्योगाच्या कार्यपद्धतीवर प्रश्नचिन्ह उपस्थित केले ज्यामध्ये तंत्रज्ञान प्रथम विकसित केले जाते आणि वापरात आणले जाते आणि नंतर आलेल्या समस्यांच्या आधारे सुधारणा केल्या जातात. रॉबिन्सनचा असा विश्वास आहे की सामान्य सॉफ्टवेअर आणि अत्यंत शक्तिशाली एआय सिस्टममध्ये मोठा फरक आहे. अशा प्रणालींच्या बाबतीत, सुरक्षेशी संबंधित कमतरता नंतर दूर करण्याऐवजी सुरुवातीपासून मजबूत सुरक्षा व्यवस्था असणे आवश्यक आहे.

त्याच्या लेखात, रॉबिन्सनने एआय सिस्टमशी संबंधित काही घटनांचा देखील उल्लेख केला आहे ज्यांना तो सुरक्षा आव्हानांची उदाहरणे म्हणून पाहतो. त्यांच्या मते, काही प्रकरणांमध्ये AI एजंट्सच्या वर्तनाशी संबंधित सुरक्षा नियंत्रणे आणि इंटरनेट प्रवेश अपेक्षेप्रमाणे कार्य करत नाहीत. ते असेही म्हणाले की एआय कंपन्यांनी अशा घटनांपासून शिकले पाहिजे आणि त्यांना केवळ सामान्य तांत्रिक समस्या समजण्याऐवजी त्यांची सुरक्षा सुधारली पाहिजे.

एआय लॅबची अत्यंत संवेदनशील आणि धोकादायक प्रणालींशी तुलना करताना, रॉबिन्सन म्हणाले की येथे बहुस्तरीय सुरक्षा प्रणाली आवश्यक आहेत. ते सुचवतात की AI सिस्टीममध्ये मानवी हस्तक्षेपाशिवायही अनपेक्षित परिस्थितीत जोखीम मर्यादित करू शकतील असे संरक्षण असावे. यासाठी, स्वयंचलित सुरक्षा प्रणाली, बॅकअप प्रणाली आणि मजबूत देखरेख आवश्यक असू शकते.

तथापि, रॉबिन्सन एआय तंत्रज्ञानाची क्षमता नाकारत नाहीत. AI चा वापर जगात अनेक सकारात्मक बदल घडवून आणू शकतो, असे त्यांचे मत आहे परंतु यासाठी तांत्रिक प्रगती आणि सुरक्षितता यांच्यात समतोल राखणे आवश्यक आहे. कंपनीत बदल घडवून आणण्याचा प्रयत्न केल्यानंतर त्यांनी या मुद्द्यावर बाहेरून काम करण्याचा मार्ग निवडल्याचे ते सांगतात.

त्यांचा राजीनामा अशा वेळी आला आहे जेव्हा एआय कंपन्या सतत अधिक सक्षम मॉडेल आणि एजंट सिस्टम विकसित करत आहेत. अशा परिस्थितीत सुरक्षा आणि नियंत्रणाशी संबंधित प्रश्न आता केवळ तांत्रिक तज्ज्ञांपुरतेच मर्यादित राहिलेले नाहीत तर सरकार, कंपन्या आणि सर्वसामान्यांसाठीही चर्चेचा महत्त्वाचा विषय बनत आहेत.