एन्थ्रोपिक एआय मॉडेल चाचणी दरम्यान संवेदनशील यूएस सरकारी प्रणालींमधील भेद्यता ओळखते

वॉशिंग्टन: एका यूएस अधिकाऱ्याने मंगळवारी असोसिएटेड प्रेसला सांगितले की अँथ्रोपिकच्या कृत्रिम बुद्धिमत्ता मॉडेलपैकी एकाने चाचणी व्यायामादरम्यान अत्यंत संवेदनशील आणि सुरक्षित यूएस सरकारी संगणक प्रणालीमधील असुरक्षा ओळखल्या आहेत. या प्रकरणावर चर्चा करण्यासाठी नाव न सांगण्याच्या अटीवर बोलणाऱ्या अधिकाऱ्याने सांगितले की, अँथ्रोपिकने यूएस गुप्तचर संस्थांसोबत काम केले आहे (…)

वॉशिंग्टन: एका यूएस अधिकाऱ्याने मंगळवारी असोसिएटेड प्रेसला सांगितले की अँथ्रोपिकच्या कृत्रिम बुद्धिमत्ता मॉडेलपैकी एकाने चाचणी व्यायामादरम्यान अत्यंत संवेदनशील आणि सुरक्षित यूएस सरकारी संगणक प्रणालीमधील असुरक्षा ओळखल्या आहेत.

या प्रकरणावर चर्चा करण्यासाठी नाव न सांगण्याच्या अटीवर बोलणाऱ्या अधिकाऱ्याने सांगितले की, अँथ्रोपिकने कंपनीच्या मिथॉस मॉडेलचा वापर करून चाचण्या घेण्यासाठी यूएस गुप्तचर संस्थांशी हातमिळवणी केली होती. काही तासांच्या आत काही असुरक्षा ओळखल्या गेल्या होत्या, परंतु याचा अर्थ असा नाही की मॉडेल त्या वेळेत त्यांचे शोषण करू शकले, असे अधिकाऱ्याने सांगितले.

अधिका-याने सांगितले की चाचणी प्रोजेक्ट ग्लासविंग नावाच्या मानववंशीय उपक्रमाद्वारे केली गेली, ज्याने जगातील गंभीर सॉफ्टवेअरला “गंभीर” परिणामांपासून सुरक्षित करण्याच्या आशेने तंत्रज्ञान दिग्गज आणि इतर कंपन्यांना एकत्र आणले जे Mythos मॉडेल सार्वजनिक सुरक्षा, राष्ट्रीय सुरक्षा आणि अर्थव्यवस्थेला धोका देऊ शकते.

व्हर्जिनियाचे डेमोक्रॅटिक सेन मार्क वॉर्नर यांनी 11 जून रोजी बँकिंग, गृहनिर्माण आणि शहरी व्यवहारांवरील सिनेट समितीसमोर झालेल्या सुनावणीदरम्यान चाचणीचा थोडक्यात उल्लेख केला होता. वॉर्नर म्हणाले होते, “हे साधन आमच्या जवळपास सर्व वर्गीकृत प्रणालींमध्ये काही आठवड्यांत नाही तर तासांत मोडले आहे.” त्यांनी या माहितीचे श्रेय राष्ट्रीय सुरक्षा एजन्सी आणि यूएस सायबर कमांडचे प्रमुख, जे जनरल जोशुआ रुड यांना दिले.

एनएसएने ईमेलमध्ये या प्रकरणावर भाष्य करण्यास नकार दिला. मानववंशीय प्रवक्त्यानेही भाष्य करण्यास नकार दिला.

असुरक्षा तपासण्यासाठी अँथ्रोपिक आणि यूएस एजन्सींमधील अलीकडील सहकार्य असूनही, कॅलिफोर्निया कंपनी आणि ट्रम्प प्रशासन यांच्यातील तणाव वाढत आहे. अँथ्रोपिकने अमेरिकन सैन्य आपल्या एआयचा वापर कसा करेल याबद्दल चिंता व्यक्त केली आहे, तर प्रशासनाने अँथ्रोपिकच्या काही मॉडेल्सचा वापर प्रतिबंधित केला आहे.

प्रशासनाने या महिन्याच्या सुरुवातीला एक निर्देश जारी केला ज्यामध्ये परदेशी नागरिकांना त्याचे नवीनतम कृत्रिम बुद्धिमत्ता मॉडेल्स वापरण्यापासून रोखण्यासाठी अँथ्रोपिकची आवश्यकता आहे, ज्यांना फेबल 5 आणि मिथॉस 5 म्हणून ओळखले जाते. अँथ्रोपिकने या महिन्याच्या सुरुवातीला फेबल मोठ्या प्रमाणावर प्रसिद्ध केले. ते मॉडेल अधिक प्रगत Mythos ची मर्यादित आवृत्ती आहे, ज्यामध्ये कंपनीने सायबरसुरक्षा भीतीमुळे घट्ट प्रवेश मर्यादित केला आहे.

राष्ट्राध्यक्ष डोनाल्ड ट्रम्प यांनी त्यांच्या सार्वजनिक प्रकाशनाच्या एक महिन्यापर्यंत अत्याधुनिक एआय सिस्टमच्या राष्ट्रीय सुरक्षा धोक्यांची तपासणी करण्यासाठी फेडरल सरकारसाठी एक फ्रेमवर्क स्थापित करण्याच्या कार्यकारी आदेशावर स्वाक्षरी केल्यानंतर 10 दिवसांनी हे निर्देश आले. एआय डेव्हलपर्सचा सहभाग ऐच्छिक असेल, असे आदेशात म्हटले आहे.

अँथ्रोपिकने सांगितले की त्यांनी प्रशासनाच्या निर्देशांचे पालन करण्यासाठी त्याच्या सर्व ग्राहकांसाठी मॉडेल्स अक्षम केले आहेत. एआय जायंटने म्हटले आहे की संभाव्य सुरक्षिततेच्या समस्येबद्दल ध्वजांकित केलेल्या चिंतेमुळे सरकारने उचललेली पावले निश्चित आहेत यावर विश्वास ठेवत नाही.

सायबरसुरक्षा अधिकाऱ्यांच्या एका गटाने ट्रम्प प्रशासनाला आपले निर्देश मागे घेण्यास सांगितले आहे, असे म्हटले आहे की या निर्णयामुळे यूएस शत्रूंना त्रास होण्यापेक्षा जास्त मदत होऊ शकते. 100 हून अधिक सायबरसुरक्षा तज्ञ आणि Adobe आणि Nvidia सह कंपन्यांच्या नेत्यांनी सरकारला एका पत्रात सांगितले की अँथ्रोपिकचे Mythos मॉडेल सॉफ्टवेअरमधील त्रुटी शोधण्यात आणि शस्त्रास्त्रांचे शोषण करण्यात “बरेच चांगले” आहेत, परंतु ते “या कार्यांमध्ये अद्वितीयपणे चांगले नाहीत.” पत्राच्या अनेक स्वाक्षऱ्यांनी सांगितले की ते सुरक्षा ऑडिट आणि प्रशिक्षणासाठी नियमितपणे इतर फाउंडेशन आणि ओपन-सोर्स मॉडेल्स वापरतात. पत्रात म्हटले आहे की जेव्हा अमेरिकेचे शत्रू वेगाने पुढे जात आहेत तेव्हा “योग्य कारणाशिवाय” सर्वोत्तम सायबर संरक्षण क्षमता काढून घेणे धोकादायक आहे.