संपादकीय: एआय एजंट्सवर लगाम घालणे

जसजसे एआय एजंट अधिक स्वायत्त होतात, तसतसे ऐच्छिक सुरक्षा उपाय कमी पडू शकतात. मानवी देखरेख मजबूत करण्यासाठी, समान नियम स्थापित करण्यासाठी आणि AI चा गैरवापर रोखण्यासाठी तातडीच्या जागतिक सहकार्याची आवश्यकता आहे

ऑस्ट्रेलिया आणि युनायटेड स्टेट्समधील कृत्रिम बुद्धिमत्तेचे एजंट बदमाश होऊन सरकारी वेबसाइट्समध्ये घुसखोरी करत असल्याच्या घटनांमुळे संभाव्य धोक्यांबद्दल भीती निर्माण झाली आहे आणि या क्षेत्राच्या जागतिक नियमनाची मागणी बळकट झाली आहे. अमेरिकेचे राष्ट्राध्यक्ष डोनाल्ड ट्रम्प यांनी स्वैच्छिक कराराची घोषणा केली “सुपर बुद्धिमत्ता”सहा जागतिक टेक दिग्गजांच्या अधिकाऱ्यांनी स्वाक्षरी केलेली, भविष्यात आपत्ती टाळण्यासाठी उद्योगात लगाम घालण्याच्या वाढत्या मागण्यांच्या संदर्भात पाहिले पाहिजे. Meta, Nvidia, Google, OpenAI, xAI, आणि Anthropic द्वारे समर्थित, अंतर्गत नियंत्रणे राखण्यासाठी, या नियंत्रणांवर देखरेख ठेवण्यासाठी एक अंतर्गत टीम स्थापन करण्यासाठी, स्वतंत्र बाहेरील ऑडिटरसह काम करण्यासाठी आणि परिणामांचे पुनरावलोकन करण्यासाठी स्वतंत्र बोर्ड समिती तयार करण्यासाठी मूलत: इंडस्ट्री स्वयं-नियमनाचे प्रमाण आहे. मॉडेल्स इच्छेनुसार कार्यरत राहण्यासाठी आणि कोणत्याही समस्या लवकर शोधून त्यांचे निराकरण करण्यासाठी कंपन्यांनी सुरक्षा उपाय लागू करण्यास सहमती दर्शवली. त्यांच्या AI सिस्टीम हेतूनुसार काम करत आहेत की नाही याचे मूल्यांकन करण्यासाठी ते स्वतंत्र ऑडिटर्सना गुंतवून ठेवतील आणि त्यांचे प्लॅटफॉर्म अनपेक्षित मार्गांनी तांत्रिक प्रणालींमध्ये हॅक होणार नाहीत किंवा त्यात प्रवेश करणार नाहीत याची खात्री करतील. ॲन्थ्रोपिक, स्पेसएक्सएआय, या चार सर्वात मोठ्या अमेरिकन एआय कंपन्यांच्या प्रमुखांनी अलीकडील कॉल्सच्या आधारे हा विकास जवळ आला. OpenAI आणि Google DeepMind — फ्रंटियर मॉडेल्सच्या विकासामध्ये सामूहिक मंदीसाठी. जागतिक विराम देण्याचे आवाहन तंत्रज्ञान उद्योगातील अनेक महिन्यांच्या वाढत्या चिंतांनंतर झाले. एन्थ्रोपिक, गुगल, मेटा आणि इतर कंपन्यांनी अशी प्रकरणे नोंदवली आहेत ज्यात त्यांच्या मॉडेल्सने त्यांच्या विकासकांना अभिप्रेत नसलेल्या पद्धतीने वागले.

AI च्या मानवतेला धोका निर्माण करण्याच्या संभाव्यतेबद्दल भीती वाढत आहे, ती मानवी क्षमतांशी जुळते किंवा मागे टाकते. म्हणून एआय एजंट अधिक सक्षम आणि स्वायत्त व्हा, त्या क्षमता प्रमाणबद्ध नियंत्रण, रिअल-टाइम मॉनिटरिंग, स्पष्ट उत्तरदायित्व, स्वतंत्र निरीक्षण आणि अधिक जलद घटना अहवालाद्वारे जुळणे आवश्यक आहे. एआयच्या स्फोटक वाढीमुळे सरकारांना संरक्षणात्मक उपाययोजना करण्यासाठी ओरबाडले गेले आहे, काही कंपन्यांना त्यांच्या सिस्टममध्ये त्यांचे स्वतःचे तंत्रज्ञान अक्षम करण्याचे मार्ग तयार करण्यास भाग पाडण्याची मागणी केली आहे. काही AI कंपन्या आणि कायदेकर्त्यांचा पाठिंबा असलेली एक कल्पना म्हणजे “किल स्विच” – संकटात तंत्रज्ञान बंद करण्याचा एक मार्ग. AI च्या संभाव्य विनाशकारी प्रभावाविषयी चेतावणी वाढत असताना, उद्योग आणि जगभरातील सरकारमधील बरेच लोक उघडपणे विचार करत आहेत की ते नियंत्रित ठेवण्यासाठी कोणत्या राष्ट्रीय आणि आंतरराष्ट्रीय नियमांची आवश्यकता असू शकते. द अमेरिका आणि चीनएआय विकासात आघाडीवर असलेल्या दोन राष्ट्रांनी आतापर्यंत अधिक नियमन करण्याच्या आवाहनांना विरोध केला आहे. एआय तंत्रज्ञानाचा गैरवापर रोखण्यासाठी जागतिक नियमावली लागू करण्यासाठी आंतरराष्ट्रीय सहकार्याची गरज आहे याबद्दल दोन मत असू शकत नाही. हे सुनिश्चित करण्यासाठी आहे की कृत्रिम बुद्धिमत्ता नव्हे तर सर्व निर्णयांसाठी मानव जबाबदार राहतील. अलीकडे, पोप लिओ, रोमन कॅथोलिक चर्चचे पहिले अमेरिकन पोंटिफ, ज्यांच्या अनुयायांची संख्या जगभरात 1.4 अब्ज आहे, त्यांनी देखील एआय तंत्रज्ञानाचा नैतिक वापर करण्याचे आवाहन केले.