सत्या नाडेला म्हणतात की एआयला आपत्कालीन ब्रेकची आवश्यकता आहे, कंपन्यांनी काय केले पाहिजे ते येथे आहे

नवी दिल्ली: मायक्रोसॉफ्टचे अध्यक्ष आणि सीईओ सत्या नडेला यांनी व्यवसायांना प्रगत कृत्रिम बुद्धिमत्ता प्रणालींभोवती सुरक्षा बळकट करण्याचे आवाहन केले आहे आणि चेतावणी दिली आहे की कंपन्यांनी एआय मॉडेल्समध्ये बिघाड होण्यासाठी किंवा तडजोड करण्यासाठी तयार राहावे. नाडेला यांनी संस्थांना आपत्कालीन नियंत्रणे आणण्याचे आवाहन केले आहे जे अधिकृत कर्मचाऱ्यांना कार्ये पार पाडत असताना एआय सिस्टमला विराम देऊ किंवा बंद करू देतात. त्यांचा असा विश्वास आहे की व्यवसायांनी एआय डेव्हलपर्सच्या आश्वासनांवर पूर्णपणे अवलंबून राहू नये, परंतु संभाव्य धोकादायक वर्तनावर लक्ष ठेवण्यासाठी आणि त्यावर नियंत्रण ठेवण्यासाठी त्यांची स्वतःची यंत्रणा स्थापित केली पाहिजे.

X वरील एका पोस्टमध्ये, नडेला यांनी असा युक्तिवाद केला की कंपन्यांनी सुरुवातीपासूनच तडजोड केलेल्या AI मॉडेलच्या शक्यतेसाठी योजना आखली पाहिजे. त्यांनी प्रस्तावित संरक्षणाची तुलना ऑपरेशनच्या मध्यभागी मॉडेल थांबविण्यास सक्षम असलेल्या आणीबाणीच्या ब्रेकशी केली. व्यवसाय वाढत्या प्रगत AI एजंट्सचा अवलंब करत आहेत जे कार्ये पार पाडू शकतात, बाह्य प्लॅटफॉर्मशी संवाद साधू शकतात आणि मर्यादित मानवी हस्तक्षेपाने निर्णय घेऊ शकतात म्हणून त्यांच्या टिप्पण्या येतात. या क्षमता उत्पादकता सुधारू शकतात, परंतु ते नवीन सुरक्षा आणि जबाबदारीची आव्हाने देखील सादर करतात.

एआय सेफ्टी ॲलर्ट: नाडेलाला इमर्जन्सी शटडाउन सिस्टम का हवी आहे

नडेला यांचा मध्यवर्ती संदेश असा आहे की शक्तिशाली AI उपयोजित करण्यासाठी एखाद्या मॉडेलवर विश्वास ठेवण्यापेक्षा त्याच्या हेतूनुसार वागण्याची आवश्यकता आहे. जेव्हा एखादी प्रणाली अनपेक्षित परिणाम देते किंवा संभाव्य हानिकारक कृती करते तेव्हा कंपन्यांनी हस्तक्षेप करण्याची क्षमता राखली पाहिजे. एआय इमर्जन्सी ब्रेक अधिकृत ऑपरेटरना मॉडेलच्या चालू क्रियाकलापांमध्ये व्यत्यय आणण्यास अनुमती देईल आणि केवळ विकासकांवर विसंबून राहण्याऐवजी समस्या उद्भवल्यानंतर ते सुधारू शकेल.

अशी नियंत्रणे विशेषत: AI एजंट्सशी संबंधित आहेत जे व्यवसाय अनुप्रयोगांमध्ये प्रवेश करू शकतात, संवेदनशील माहितीवर प्रक्रिया करू शकतात किंवा बाह्य प्रणालींशी संवाद साधू शकतात. एजंट जास्त परवानग्या घेऊन काम करत असल्यास, खराबी किंवा सुरक्षा उल्लंघनामुळे चुकीचा प्रतिसाद निर्माण करण्यापलीकडे परिणाम होऊ शकतात. नडेला यांचा दृष्टीकोन नियंत्रण, मानवी देखरेख आणि आवश्यक असेल तेव्हा एआय प्रणालीचे अधिकार मर्यादित करण्याच्या क्षमतेवर भर देतो.

प्रगत AI एजंट नवीन सुरक्षा धोके का निर्माण करतात

पारंपारिक AI साधने अनेकदा वैयक्तिक सूचनांना प्रतिसाद देतात. तथापि, अधिक स्वायत्त एआय एजंट क्रियांचा क्रम करू शकतात, सॉफ्टवेअर टूल्स वापरू शकतात आणि कमी वारंवार मानवी हस्तक्षेपासह ध्येयासाठी कार्य करणे सुरू ठेवू शकतात. एजंटने सूचनांचा चुकीचा अर्थ लावल्यास, अनधिकृत संसाधनांमध्ये प्रवेश केल्यास किंवा दिशाभूल करणाऱ्या माहितीवर कृती केल्यास यामुळे अतिरिक्त धोके निर्माण होतात. अनपेक्षित AI वर्तन आणि तृतीय-पक्ष प्रणालीवरील हल्ल्यांचा समावेश असलेल्या अलीकडील घटनांनी वाढत्या सक्षम मॉडेलच्या सुरक्षिततेबद्दल वादविवाद तीव्र केले आहेत. या वादाच्या संदर्भात उद्धृत केलेल्या अँथ्रोपिक आणि ओपनएआयचा समावेश असलेल्या नोंदवलेल्या घटनांनी चाचणी, देखरेख आणि प्रभावी हस्तक्षेप यंत्रणेचे महत्त्व अधोरेखित केले आहे. व्यवसायांसाठी, गंभीर ऑपरेशन्सवर नियंत्रण न ठेवता AI ऑटोमेशनचे फायदे मिळवणे हे आव्हान आहे.

नडेलाचे एआय सेफ्टी प्लेबुक: कंपन्यांसाठी चार पायऱ्या

नडेला यांनी प्रगत AI प्रणाली तैनात करताना संस्थांनी विचारात घ्याव्यात अशा अनेक उपायांची रूपरेषा सांगितली आहे.

1. आपत्कालीन स्टॉप यंत्रणा तयार करा

जेव्हा संशयास्पद किंवा अनपेक्षित वर्तन घडते तेव्हा अधिकृत कर्मचारी एआय एजंटच्या ऑपरेशनला विराम देऊ किंवा संपुष्टात आणू शकतात याची कंपन्यांनी खात्री केली पाहिजे. मॉडेल स्वतःच इच्छेप्रमाणे प्रतिसाद देत नसतानाही यंत्रणा प्रभावी राहिली पाहिजे.

2. एकाच AI मॉडेलवर अवलंबून राहणे टाळा

व्यवसायांनी एका AI प्रणालीच्या आउटपुटवर अवलंबून गंभीर निर्णय घेऊ नये. स्वतंत्र तपासण्या आणि पर्यायी मॉडेल्स वापरणे योग्य असेल तर त्रुटी ओळखण्यात आणि अपयशाच्या एकाच बिंदूशी संबंधित जोखीम कमी करण्यात मदत होऊ शकते.

3. छेडछाड-प्रतिरोधक क्रियाकलाप नोंदी ठेवा

संस्थांनी AI एजंट्सच्या कृतींचे विश्वसनीय रेकॉर्ड जतन केले पाहिजेत, ज्यामध्ये ते वापरत असलेली साधने आणि ते करत असलेल्या ऑपरेशन्सचा समावेश आहे. अशा नोंदी सुरक्षा पथकांना घटनांचा तपास करण्यास, भेद्यता ओळखण्यात आणि जबाबदारी प्रस्थापित करण्यात मदत करू शकतात.

4. स्वतंत्र ऑडिट सादर करा

AI प्रणालींनी त्यांचे वर्तन, सुरक्षा कमकुवतपणा आणि संघटनात्मक सुरक्षा उपायांचे पालन यांचे मूल्यांकन करण्यासाठी स्वतंत्र मूल्यांकन केले पाहिजे. नियमित चाचणी गंभीर परिणाम होण्याआधी असुरक्षा प्रकट करण्यात मदत करू शकते.

मायक्रोसॉफ्टचे सीईओ AI अपयशांवर अधिक पारदर्शकतेचे आवाहन करतात

नाडेला यांनी महत्त्वपूर्ण एआय अपयश आणि सुरक्षा घटनांबद्दल माहिती सामायिक करण्याच्या महत्त्वावर भर दिला आहे. अधिक पारदर्शकता कंपन्यांना एकमेकांच्या चुकांमधून शिकण्यास, उदयोन्मुख धोके समजून घेण्यास आणि त्यांचे संरक्षण मजबूत करण्यास मदत करू शकते. संवेदनशील माहितीचे संरक्षण करताना संस्थांनी घटना आणि सुधारात्मक उपायांबद्दल अर्थपूर्ण तपशील संवाद साधला पाहिजे. परिणामकारक अहवाल आणि उत्तरदायित्वाशिवाय, अशाच प्रकारच्या भेद्यता अनेक व्यवसायांवर परिणाम करू शकतात ज्याची व्यापक उद्योगांना जाणीव होण्याआधी.

'प्राधिकरणाकडून स्वतंत्र बुद्धिमत्ता': नडेलाचा मोठा एआय संदेश

नाडेलाचा इशारा तांत्रिक सुरक्षेच्या पलीकडे एआय सिस्टमला वीज कंपन्यांनी किती द्यायचा या व्यापक प्रश्नापर्यंत विस्तारित आहे. त्यांनी असा युक्तिवाद केला की वाढत्या अत्याधुनिक AI ला एक अपारदर्शक तंत्रज्ञान मानले जाऊ शकत नाही ज्याच्या शिफारशी आणि कृती ते कसे कार्य करतात हे पुरेसे दृश्यमानतेशिवाय स्वीकारले किंवा नाकारले जाते. त्याची स्थिती एआय वर्तन निरीक्षण करण्यायोग्य बनविण्याच्या गरजेवर जोर देते, मॉडेल्सच्या मर्यादांची चाचणी घ्या आणि त्यांच्या कृती समाविष्ट केल्या जाऊ शकतात याची खात्री करा. मूलभूत तत्त्व हे आहे की बुद्धिमत्ता निर्माण करण्याच्या मॉडेलच्या क्षमतेने आपोआप त्याला कृती करण्याचा अप्रतिबंधित अधिकार देऊ नये.

AI दत्तक घेण्याचा वेग वाढल्याने, कंपन्यांना स्पष्ट सीमा, मानवी पर्यवेक्षण आणि अंमलबजावणी करण्यायोग्य सुरक्षा नियंत्रणांसह स्वायत्तता संतुलित करणे आवश्यक आहे. आणीबाणीच्या ब्रेकसाठी नाडेलाचे आवाहन उद्योगासाठी वाढत्या प्राधान्यावर प्रकाश टाकते: प्रगत AI प्रणाली केवळ अधिक सक्षमच नाही तर अधिक नियंत्रणीय आणि उत्तरदायी देखील बनवते.