केंब्रिज विद्यापीठातील मिंडरू सेंटर फॉर टेक्नॉलॉजी अँड डेमोक्रसीच्या प्रमुख जीना नेफ यांनी बीबीसी रेडिओ 4 च्या टुडे प्रोग्रामला सांगितले की सुरक्षा चाचण्या – ज्यांना सँडबॉक्सेस म्हणतात – “हे असे मानले जाते की सुरक्षित वातावरण आहे जिथे तुम्ही मॉडेल काय सक्षम आहेत ते पाहू शकता”.
“या प्रकरणात, असे दिसते की OpenAI ने पुरेसा सुरक्षित सँडबॉक्स बनवला नाही,” ती जोडली.
त्याऐवजी, एजंटांनी सँडबॉक्सवरच त्यांचा स्वतःचा सायबर-हल्ला तयार केला, एक असुरक्षितता शोधून काढली ज्यामुळे त्यांना पळून जाण्याची परवानगी मिळाली.
एकदा बाहेर पडल्यावर, AI ने हगिंग फेसला चाचणीमध्ये शोधत असलेल्या उत्तरांचा संभाव्य स्रोत म्हणून ओळखले आणि प्रवेश मिळवण्याचा प्रयत्न केला.
केंब्रिज विद्यापीठातील मशिन लर्निंगचे प्राध्यापक नील लॉरेन्स यांनी याला एक “प्रभावी कामगिरी” म्हटले आहे, परंतु उच्च-शक्तीच्या एआय मॉडेल्सच्या “सध्याच्या पिढीच्या ज्ञात क्षमतांमध्ये ते चांगले येते” असा इशारा दिला.
त्यांनी निदर्शनास आणून दिले की OpenAI स्वतःला स्टॉक मार्केटमध्ये सूचीबद्ध करण्याचा विचार करत आहे, आणि प्रतिस्पर्धी फर्म अँथ्रोपिकच्या तीव्र दबावाचा सामना करत आहे, ज्याने स्वतःचे शक्तिशाली AI टूल, Mythos सह मथळे बनवले आहेत.
“ओपनएआय आता कॅच-अप खेळत आहे, ते सायबर-सुरक्षेमध्ये त्यांच्या स्वतःच्या सिस्टमची क्षमता प्रदर्शित करण्याचा प्रयत्न करीत आहेत.”
“हे आम्हाला दाखवते की OpenAI त्यांचे स्वतःचे तंत्रज्ञान सुरक्षितपणे तैनात करण्यास सक्षम नाही,” तो पुढे म्हणाला.
त्याच्या मध्ये 16 जुलै रोजी हॅकचा प्रारंभिक खुलासा, बाह्यहगिंग फेस म्हणाले की ते अद्याप कोणत्याही ग्राहक किंवा भागीदार डेटावर परिणाम झाला आहे की नाही याचे मूल्यांकन करत आहे आणि आवश्यक असल्यास प्रभावित पक्षांशी संपर्क साधेल.
त्यात म्हटले आहे की त्यांनी आता या घटनेने हायलाइट केलेल्या असुरक्षा बंद केल्या आहेत आणि प्रभावित सिस्टमची पुनर्बांधणी केली आहे.
“स्वायत्त, एआय-चालित आक्षेपार्ह टूलिंग यापुढे सैद्धांतिक नाही,” असे त्यात म्हटले आहे.
“ऑनलाइन प्लॅटफॉर्मचा बचाव करणे म्हणजे डेटा आणि मॉडेल पृष्ठभागाला प्रथम श्रेणी आक्रमण पृष्ठभाग म्हणून हाताळणे आणि गती राखण्यासाठी संरक्षणावर AI वापरणे.
“आम्ही तिथे गुंतवणूक करत राहू आणि जे शिकतो ते शेअर करत राहू.”
Comments are closed.