ओपनएआयने शुक्रवारी सांगितले की, अंतर्गत पुनरावलोकनात असे आढळून आले की त्यांच्या आगामी ‘एस्ट्रा’ मॉडेलने एजेंटिक कोडिंग आणि सायबरसुरक्षेमध्ये लक्षणीय प्रगती केली आहे, जी त्याच्या क्षमतांबद्दल चिंता निर्माण करण्याइतकी आहे. त्यामुळे त्यांनी या मॉडेलच्या काही पैलूंवरील काम थांबवले आहे.
ओपनएआयने शुक्रवारी एका ब्लॉग पोस्टमध्ये म्हटले आहे की, हे मॉडेल, जे अजूनही विकासाधीन आहे, त्याने आपली “गंभीर सायबरसुरक्षा मर्यादा” गाठली आहे. याचा अर्थ असा की, ते पारंपरिकरित्या सुसंरक्षित असलेल्या वास्तविक प्रणालींवरील सायबर हल्ले स्वतंत्रपणे ओळखू आणि करू शकते. कंपनीने २०२३ मध्ये तयार केलेल्या तिच्या “सज्जता आराखड्या”अंतर्गत, यामुळे अतिरिक्त सुरक्षा उपाययोजना कार्यान्वित झाल्या आहेत.
“आम्ही या मॉडेलची तुलनात्मक तपासणी आणि मूल्यांकन करत असताना, आमच्या प्राथमिक मूल्यांकनानुसार त्याची कामगिरी इतकी दमदार आहे की, आम्ही सध्या ‘क्रिटिकल’ क्षमतेची शक्यता नाकारू शकत नाही,” असे ओपनएआयने लिहिले. “एस्ट्रा हे एक आगामी मॉडेल आहे आणि ‘हगिंग फेस’चा गैरवापर करण्यामध्ये त्याचा सहभाग नव्हता.”
या खुलाशामुळे अस्थिर आणि अजूनही नवजात असलेल्या अग्रगण्य एआय लॅब्स क्षेत्रातील एक असामान्य क्षण समोर आला आहे. प्रत्येक उद्योगातील कंपन्या सुरक्षितता आणि सायबरसुरक्षेच्या चिंतेसह संभाव्य धोक्यांमुळे आपली उत्पादने सादर करणे थांबवतात. परंतु, जेव्हा एखादे उत्पादन अजूनही विकासाधीन असते, तेव्हा ते क्वचितच आपले निर्णय सार्वजनिकपणे जाहीर करतात.
या प्रकरणात, अंतर्गत चाचणीदरम्यान एका वेगळ्या, अप्रकाशित मॉडेलने हगिंग फेसच्या सिस्टीममध्ये घुसखोरी केल्यामुळे ओपनएआय (OpenAI) आधीच चौकशीच्या फेऱ्यात आहे — ही एआय लॅबने आपल्या मॉडेलवरील नियंत्रण गमावल्याची पहिली पडताळण्यायोग्य घटना आहे. तेव्हापासून, ओपनएआय आणि अँथ्रोपिकसारख्या एआय लॅब्सनी अशा इतर घटना उघड केल्या आहेत, ज्यात एआय मॉडेल्सनी त्यांच्या सँडबॉक्समध्ये घुसखोरी केली आणि सायबरसुरक्षा चाचण्यांदरम्यान धोके निर्माण केले.
प्रकरणांच्या या मालिकेमुळे—आता तर रोजच एक नवीन खुलासा होत असल्यासारखे वाटते—सायबर सुरक्षा तज्ञ, कायदेकर्ते आणि खुद्द एआय लॅब्सकडून विविध प्रतिक्रिया उमटल्या आहेत. काही जण भीती व्यक्त करत आहेत आणि अधिक कठोर देखरेखीची मागणी करत आहेत. पण त्याचबरोबर थोडी आत्मप्रौढीही होत आहे. काही विशिष्ट वर्तुळांमध्ये, अशा प्रकारची क्षमता असलेले मॉडेल असलेल्या कोणत्याही एआय लॅबला एक प्रभावी प्रगती म्हणून पाहिले जाईल.
ओपनएआयने म्हटले आहे की ते ही माहिती देत आहेत कारण त्यांच्या मते, “क्षमतांमधील या संभाव्य बदलाबाबत जनता आणि सुरक्षा समुदायांसमोर पारदर्शक असणे महत्त्वाचे आहे.”
एआय लॅबने सांगितले की ते कारवाई करत आहेत, ज्यामध्ये अधिक कडक सुरक्षा नियंत्रणे लागू करणे आणि या वाढीव सुरक्षा उपायांची पूर्तता न करणाऱ्या अॅस्ट्राशी संबंधित अंतर्गत उपक्रमांना थांबवणे यांचा समावेश आहे. ओपनएआयने सांगितले की ते या मॉडेलच्या क्षमता तपासण्यासाठी संबंधित सरकारी संस्था आणि “निवडक एआय सुरक्षा संस्थांसोबत” काम करत आहेत.
जेव्हा तुम्ही आमच्या लेखांमधील लिंक्सद्वारे खरेदी करता, तेव्हा आम्हाला थोडे कमिशन मिळू शकते. यामुळे आमच्या संपादकीय स्वातंत्र्यावर कोणताही परिणाम होत नाही.
Comments are closed.