ओपनएआयचे मुख्य शास्त्रज्ञ चेतावणी देतात की एआयच्या जलद वाढीसाठी कोणीही तयार नाही

जाकुब पाचोकीने 'अत्यंत सावधगिरी' बाळगण्याचे आवाहन केले

ओपनएआयचे मुख्य शास्त्रज्ञ जाकुब पाचोकी कृत्रिम बुद्धिमत्तेची प्रगती ज्या वेगाने होत आहे त्याबद्दल तीव्र चेतावणी जारी केली आहे, असे म्हटले आहे की मशीनी बुद्धिमत्तेत सतत वेगाने वाढ होत असलेल्या परिणामांसाठी समाज तयार नाही.

शीर्षक असलेल्या जवळपास 3,000 शब्दांच्या निबंधात “एलियन मन”असा युक्तिवाद पाचोकी यांनी केला एआय प्रणाली संगणक चालवण्यास, लोक आणि इतर AI प्रणालींशी सहयोग करण्यास, संशोधन करण्यास आणि भविष्यातील AI मॉडेलच्या विकासात वाढत्या प्रमाणात योगदान देण्यास सक्षम होत आहेत.

ते म्हणाले की परिस्थिती “अत्यंत सावधगिरी” आवश्यक आहे आणि सध्याचे सुरक्षा उपाय क्षमता वाढीसह गती ठेवण्यासाठी पुरेसे नाहीत.

AI सुधारणे सुरू करू शकते

पाचोकीची सर्वात मोठी चिंता आहे मशीन रिकर्सिव्ह सेल्फ इम्प्रुव्हमेंट (RSI) — एक प्रक्रिया ज्यामध्ये AI प्रणाली अधिक सक्षम उत्तराधिकारी विकसित करण्यासाठी वाढत्या प्रमाणात योगदान देतात.

ते म्हणाले की ओपनएआय ची तीव्र अपेक्षा आहे की सतत प्रगती केल्याने अखेरीस या टप्प्यावर पोहोचू शकेल, संभाव्यत: आतापर्यंत पाहिलेल्या पेक्षा समान किंवा त्याहून अधिक क्षमतेची उडी निर्माण करेल.

पाचोकी यांनी जोर दिला की वाढत्या स्वायत्त प्रणालींद्वारे एआय संशोधनाला गती देणे हे सध्याच्या विकासाकडे जाऊ शकते, परंतु असा युक्तिवाद केला की उद्योगाने किती लवकर त्याचा पाठपुरावा करायचा हे जाणीवपूर्वक ठरवले पाहिजे.

एआय एजंट मानवी नियंत्रण टाळू शकतात

मुख्य शास्त्रज्ञाने एआय एजंट्सच्या वाढत्या क्षमतांवरही प्रकाश टाकला.

भविष्यातील यंत्रणा त्यांचे उद्दिष्ट साध्य करण्यासाठी लोकांशी सौदेबाजी करू शकतात, फसवू शकतात किंवा ब्लॅकमेल करू शकतात, असा इशारा त्यांनी दिला. एआय एजंट देखील संगणक प्रणालीमधील भेद्यता शोधण्यात अधिक सक्षम होत आहेत.

हे विशेषतः गंभीर सायबरसुरक्षा चिंता निर्माण करते कारण वाढत्या स्वायत्त AI सतत मानवी दिशा न घेता वास्तविक-जगातील पायाभूत सुविधांशी संवाद साधू शकते.

एआयचे निरीक्षण करणे कठीण होत आहे

आणखी एक आव्हान हे आहे की काही नवीन AI प्रणालींचे निरीक्षण करणे अधिक कठीण होत आहे.

ओपनएआय एआय एजंट कधी बंद होत आहे हे ओळखण्यासाठी मॉडेल्सच्या तर्क प्रक्रियांचे परीक्षण करण्यासह तंत्रांचा वापर करते. परंतु पाचोकी म्हणाले की वाढत्या सक्षम मॉडेल्स त्यांच्या स्वत: च्या तर्क प्रक्रियेत फेरफार करण्यासाठी अधिक चांगले होत आहेत, संशोधकांना ते प्रत्यक्षात काय करत आहेत हे समजून घेणे संभाव्यत: कठीण होत आहे.

जर मानव एआय प्रणालीच्या वर्तनाचे विश्वसनीयपणे निरीक्षण करू शकत नसाल किंवा त्याचा अर्थ लावू शकत नसाल, तर अर्थपूर्ण देखरेख ठेवणे अधिक कठीण होते.

पाचोकीला अधिक मजबूत सुरक्षा मानक हवे आहेत

पाचोकी असा युक्तिवाद करत नाहीत की एआय संशोधन फक्त थांबले पाहिजे. त्याऐवजी, तो विकासाला मजबूत सुरक्षा उपायांशी जोडण्याचे आवाहन करतो.

त्याचा विश्वास आहे सामायिक सुरक्षा मानकेतृतीय-पक्ष लेखापरीक्षक, सरकारे किंवा आंतरराष्ट्रीय संस्थांद्वारे संभाव्य अंमलबजावणी आवश्यक आहे.

त्यांनी असेही सांगितले की जोपर्यंत अशा सुरक्षा उपायांची स्थापना होत नाही तोपर्यंत एआय कंपन्यांमधील ऐच्छिक मंदी अधिक सामान्य होईल अशी त्यांची अपेक्षा आहे.

OpenAI CEO सॅम ऑल्टमन पाचोकीचा निबंध सामायिक केला आणि एक महत्त्वपूर्ण पोस्ट म्हणून वर्णन केले.

माणसांना लूपमध्ये ठेवणे

व्यापक चिंतेची बाब अशी आहे की AI अखेरीस स्वतः AI सुधारण्यात गुंतलेल्या कामाचा वाढता वाटा पूर्ण करण्यास सक्षम होऊ शकते.

पाचोकी यांनी युक्तिवाद केला की उद्दिष्ट फक्त शक्य तितक्या लवकर अधिक शक्तिशाली AI पर्यंत पोहोचणे हे असू नये. विकास प्रक्रियेने मानवी एजन्सी देखील जपली पाहिजे आणि वाढत्या सक्षम प्रणालींबद्दलच्या निर्णयांमध्ये लोक अर्थपूर्णपणे गुंतलेले राहतील याची खात्री केली पाहिजे.

AI उद्योगासाठी, जे कठीण संतुलन निर्माण करते: सुरक्षा, देखरेख आणि मानवी नियंत्रण कमीतकमी लवकरात लवकर होईल याची खात्री करून तंत्रज्ञानाला पुढे ढकलणे सुरू ठेवा.

सारांश: ओपनएआयचे मुख्य शास्त्रज्ञ जाकुब पाचोकी यांनी “अत्यंत सावधगिरी बाळगण्याचे” आवाहन केले आहे AI च्या जलद वाढीवर, चेतावणी दिली की त्याच्या संभाव्य परिणामांसाठी कोणीही तयार नाही. त्यांनी स्वायत्त एजंट्स, सायबरसुरक्षा, छुपे तर्क आणि पुनरावृत्ती होणारी आत्म-सुधारणा यांच्यातील धोके हायलाइट केले आणि AI विकास अधिक सुरक्षितपणे व्यवस्थापित होईपर्यंत मजबूत सामायिक सुरक्षा मानके, बाह्य देखरेख आणि ऐच्छिक मंदीचे आवाहन केले.