मायक्रोसॉफ्टचे सत्या नडेला म्हणतात की एआय मॉडेल्सना 'इमर्जन्सी ब्रेक' आवश्यक आहे

मायक्रोसॉफ्टचे सीईओ सत्या नाडेला हे AI सुरक्षितता कशी सुधारली जाऊ शकते यावर दीर्घ विचार मांडणारे नवीनतम टेक एक्झिक्युटिव्ह आहेत.

मध्ये X वर शनिवारी सकाळची पोस्टनडेला यांनी लिहिले की AI च्या “मागे पाऊल टाकण्याची आणि ट्रस्ट आर्किटेक्चरचे मूल्यांकन करण्याची” ही वेळ आहे.

“आम्ही सुपर इंटेलिजेंसला नेस्टेड ब्लॅक बॉक्सेसचा संच मानू शकत नाही आणि फक्त त्याच्या शिफारसी, उत्तरे आणि कृती स्वीकारू किंवा नाकारू शकत नाही,” नाडेला यांनी AI साठी ट्रम्प प्रशासनाच्या पसंतीची संज्ञा वापरून लिहिले.

नाडेला यांनी सांगितल्याप्रमाणे, या दृष्टिकोनाचा अर्थ “मॉडेलला त्याच्या कामाची मांडणी करणाऱ्या हार्नेसपासून वेगळे करणे,” तसेच “बाह्यीकरण नियंत्रणे आणि सुरक्षितता.” त्यांनी “प्रत्येक अर्थपूर्ण मॉडेल कृती” “छेडछाड-प्रूफ मानवी वाचनीय पुराव्यासह” दस्तऐवजीकरण करण्यासाठी आणि “अधिकृत व्यक्ती” कडे नेहमी “मॉडेलच्या मध्य-कार्याला विराम देण्याची किंवा बंद करण्याची क्षमता” असण्याची मागणी केली.

“आम्ही असे गृहीत धरले पाहिजे की मॉडेलमध्ये तडजोड केली गेली आहे आणि ती सुरुवातीपासूनच आहे,” तो म्हणाला. “त्याचा इमर्जन्सी ब्रेकसारखा विचार करा.”

अग्रगण्य AI कंपन्यांनी त्यांच्या मॉडेल्सवरील नियंत्रण गमावल्याच्या अधिकाधिक घटनांची कबुली दिल्याने आणि Anthropic CEO Dario Amodei यांनी अधिक सावध AI विकासासाठी योजना प्रकाशित केल्यानंतर नडेला यांच्या टिप्पण्या आल्या.