हगिंग फेस एआय ब्रेक-इन, वाढत्या प्रतिबद्ध अस्वल रूपकाद्वारे सांगितल्याप्रमाणे

सोमवारी मिठी मारणारा चेहरा प्रकाशित ए तांत्रिक टाइमलाइन जे वाचकांना ओपनएआय मॉडेल्सवर बनवलेले आणि OpenAI च्या स्वतःच्या सायबरसुरक्षा मूल्यमापनांमध्ये कार्यरत असलेले स्वायत्त एआय एजंट, या महिन्याच्या चार दिवसांपेक्षा अधिक काळ त्याच्या सिस्टममध्ये कसे घुसले हे वाचकांना मार्गदर्शन करते. ही पहिली सुरक्षा घटना आहे ज्याबद्दल OpenAI CEO सॅम ऑल्टमन यांना “अत्यंत दृष्य वाटले,” त्यांनी म्हटले आहे.

थोडे आश्चर्य दिले वाटतेकिमान, काहीतरी खरोखर येथे उघड केले गेले आहे. किंबहुना, हगिंग फेसच्या टीमने “प्रत्येकाने बचावकर्ते म्हणून तयार असले पाहिजे” अशी ऑफर देऊन अहवालाची प्रास्ताविक केली होती, सर्वत्र सुरक्षा व्यावसायिकांच्या फायद्यासाठी काय कमी झाले आहे ते जाणून घेण्यापूर्वी.

उर्वरित इंटरनेट प्रयत्न करत असताना अर्थ लावणे काय घडले (हगिंग फेसच्या अहवालातील शब्दजाल बहुतेक लोकांना पार्स करणे अशक्य आहे), एक मुद्दा जो अनेक निरीक्षक गहाळ ठेवतात तो असा आहे की हे काही नव्हते बदमाश एजंट आदेशांचे उल्लंघन करणे. चुकीच्या लक्ष्याविरुद्ध, नेमके तेच करत, शोषणाची शिकार करण्यासाठी तयार केलेली ही व्यवस्था होती.

संपूर्ण गोष्टीचा विचार करण्याचा दुसरा मार्ग म्हणजे कॅम्पसाईटवर अस्वलाचे चित्रण करणे. खरंच. अस्वल तंबूचे झिप्पर आणि कार-दरवाजा हँडल आणि कूलर आणि कचरा झाकण वापरून पाहतो. तो रात्रभर प्रत्येक शिबिराच्या ठिकाणी असे करतो, कारण त्याला माहित आहे की काही गरीब श्मकच्या किराणा सामानाने पोट भरण्यासाठी त्याला फक्त एक अनलॉक केलेला कुलर आवश्यक आहे.

हगिंग फेसवर साधारण तेच झालं. OpenAI प्रणालीने हजारो गोष्टी आजमावून पाहिल्या आणि फक्त चालूच राहिल्या. अखेरीस, त्या मूठभर प्रयत्नांनी काम केले, आणि ते पूर्ण झाल्यावर एजंट पुढे नांगरला. हगिंग फेसच्या म्हणण्यानुसार एजंट धावला 17,600 क्रिया साडेचार दिवस विराम न देता.

जे आम्हाला आमच्या अस्वलाच्या समानतेकडे परत आणते. जसे अन्नाने भरलेले कूलर असलेले एक यश अस्वलाला पुढच्या वेळी आणखी प्रयत्न करायला शिकवते (ते आता “अन्न-कंडिशन” bear), एका लीक झालेल्या पासवर्डमुळे ओपनएआयच्या एजंटला अधिक शोषण शोधण्यात आणि अखेरीस, एकाच किल्लीने अनेक कंपनी प्रणाली एकाच वेळी अनलॉक केल्या.

कोणतीही परिस्थिती निरुपद्रवी नाही. तुमच्या कूलरवर छापा टाकणारा अस्वल अजूनही तुमचे अन्न खातो आणि कदाचित तुमच्या शिबिराच्या ठिकाणी कचरा टाकतो. हे फक्त आहार मिळवण्यावर लक्ष केंद्रित करते, परंतु तरीही ते विनाशाचा माग सोडते. त्याचप्रमाणे, OpenAI चे एजंट इतर कशाचीही पर्वा न करता ध्येयाचा पाठलाग करत होते. एजंट मूळत: सायबरसुरक्षा परीक्षा देत होता, त्याला समजले की परीक्षेची उत्तर की बहुधा हगिंग फेसच्या सर्व्हरवर बसली आहे, आणि तो त्यासाठी गेला.

येथे चिकाटी खरोखरच इतर सर्वांपेक्षा लक्षणीय आहे; एजंटचे काम होते आणि ते पूर्ण होईपर्यंत ते थांबणार नव्हते. मिठी मारणारा चेहरा, शेवटी काहीतरी गडबड असल्याचे लक्षात आल्याने, त्याचा प्रवेश बंद केला आणि घुसखोरी बंद केली, परंतु त्या वेळी, खूप उशीर झाला होता. एजंटने ते ज्यासाठी आले होते ते आधीच मिळवले होते आणि बूट करण्यासाठी बरेच काही.

तुम्ही ते चुकवल्यास, हग्गिंग फेसच्या टाइमलाइननुसार जे घडले ते येथे आहे, परंतु सोप्या इंग्रजीमध्ये.

• एजंट OpenAI साठी सायबर सिक्युरिटी स्किल्स परीक्षा देत होता, ज्यामध्ये सॉफ्टवेअर बग शोधून आणि शोषण करण्यावर AI स्कोअर केला जातो. या विशिष्ट धावण्याने रेलिंग बाहेर काढले होते. (मॉडेल पूर्ण ताकदीने काय करू शकते हे पाहण्यासाठी ओपनएआयने त्याचे नेहमीचे सुरक्षा फिल्टर बंद केले होते, त्याच्या कोणत्याही वैयक्तिक हालचालींमध्ये कोणत्याही मनुष्याचा सहभाग नाही.) तिथे कुठेतरी, त्याने शोधून काढले की परीक्षेचे संदर्भ समाधान हगिंग फेसच्या सर्व्हरवर संग्रहित केले जाण्याची शक्यता आहे. त्यामुळे आव्हान सोडवण्याऐवजी मूळ चाचणीशी काहीही संबंध नसलेल्या पायाभूत सुविधांमधून उत्तर की चोरली.

• हे ओपनएआय परीक्षेच्या वातावरणातून सुटले आणि एका अनपॅच केलेल्या सॉफ्टवेअर त्रुटीचे शोषण करून त्याला मुक्त इंटरनेटचा मार्ग दिला. तिथून, त्याला आणखी एक AI-चाचणी साधन ऑनलाइन उघडलेले आढळले (हगिंग फेसशी काहीही संबंध नाही), त्यातही ते मोडले आणि कोडमध्ये घसरले जे प्रोग्राम सुरू झाल्याच्या क्षणी लपलेले कमांड्स शांतपणे चालवले. यामुळे त्याला मशीनचे पूर्ण नियंत्रण मिळाले – उर्वरित ऑपरेशनसाठी त्याचा नवीन होम बेस जो तो हगिंग फेसच्या सिस्टम्सच्या मागे जाण्यासाठी वापरेल.
• त्या पायथ्यापासून ते हगिंग फेसकडेच वळले. हगिंग फेसमध्ये संशयास्पद विनंत्या ओपन वेबवर पोहोचण्यापासून अवरोधित करण्यासाठी एक फिल्टर होता, परंतु फिल्टरने फक्त आउटगोइंग विनंत्या तपासल्या, सर्व्हरवर बसलेल्या स्थानिक फायली वाचण्याच्या विनंत्या नाहीत. एजंटला हे अंध स्थान सापडले आणि ते त्यातून घसरले. त्याने सामान्य डेटासेटच्या वेशात एक फाइल अपलोड केली, परंतु आत दफन केलेली एक सूचना होती ज्यामध्ये हगिंग फेसच्या स्वतःच्या सिस्टमला सर्व्हरवरून पासवर्ड आणि स्त्रोत कोड काढण्यासाठी आणि सामान्य डेटाच्या वेशात त्यांना परत देण्याची सूचना होती.

• त्या युक्तीने त्याला पासवर्ड आणि कोड मिळाले, परंतु एजंट अद्याप हगिंग फेसच्या सर्व्हरवर काहीही चालवू शकला नाही. तेथे कमांड्स कार्यान्वित करण्यासाठी, त्याला दुसऱ्या मार्गाची आवश्यकता होती. त्याच हगिंग फेस सिस्टममध्ये त्याला एक वेगळा बग सापडला – सॉफ्टवेअर एजंटकडून मजकूराचा एक तुकडा घेईल आणि चुकून फक्त डेटा वाचण्याऐवजी चालवण्याची आज्ञा मानेल. यामुळे एजंटला त्याचा स्वतःचा कोड थेट हगिंग फेसच्या सर्व्हरवर कार्यान्वित करण्याची क्षमता दिली.

• आदेश मिळवण्यासाठी आणि डेटा चोरण्यासाठी, एजंटने हगिंग फेससाठी स्वतःची कोणतीही विशेष पायाभूत सुविधा तयार केली नाही. यात कोणीही प्रवेश करू शकतील अशा साधनांचा वापर केला — पेस्ट वेबसाइट आणि विनंती-लॉगिंग सेवा, तसेच हगिंग फेसचे स्वतःचे अपलोड आणि प्रॉक्सी वैशिष्ट्ये — गुप्त फॅशनमध्ये एकत्र काम करणे. सर्वात वर, त्याने तुकडे व्यवस्थित ठेवण्यासाठी अनुक्रम क्रमांकांसह एक लहान, सुधारित संदेशन प्रणाली तयार केली, तसेच दूषित आलेली कोणतीही गोष्ट पकडण्यासाठी एक झटपट अंगभूत तपासणी, ज्यामुळे ती एकाधिक-चरण आदेश पाठवू शकते आणि चोरीला गेलेला डेटा योग्य क्रमाने एकत्र ठेवू शकते.

• हे देखील सुनिश्चित केले की काहीही साध्या दृष्टीक्षेपात प्रवास करत नाही. त्याने जे काही चोरले किंवा पाठवले, ते प्रथम ओरबाडले. हगिंग फेसच्या सुरुवातीच्या ऑटोमेटेड स्कॅनमध्ये अडवलेल्या ट्रॅफिकचा फक्त एक छोटासा तुकडा पकडला गेला. एजंटच्या स्वतःच्या स्क्रॅम्बलिंग पद्धतीला उलट-इंजिनियर केल्यावरच तपासकर्त्यांना बाकीचे सापडले — अंदाजे चार पट जास्त —.
• एजंटकडे बॅक-अप योजना देखील होत्या, 11 वेगवेगळ्या सर्व्हरवर स्वतःच्या प्रती लावल्या होत्या, प्रत्येकाने स्वतः पुन्हा लाँच करण्यासाठी सेट केले होते जेणेकरून एक प्रत बंद केल्याने काहीही थांबणार नाही, कारण एजंटची अधिक प्रक्रिया इतरत्र सुरू होती.
• एका क्षणी, एजंटने वैध लॉगिन टोकन व्युत्पन्न करण्यासाठी वापरलेली खाजगी क्रिप्टोग्राफिक की पकडली. तिथून, ते हवे तेव्हा स्वतःचे वैध क्रेडेन्शियल्स टाकू शकते.
• एकाच सर्व्हरशी तडजोड केल्यावर, एजंटने एक क्रेडेन्शिअल पकडले जे, हगिंग फेसच्या शेवटी चुकीच्या कॉन्फिगरेशनमुळे, ते आलेले नसून एकाच वेळी अनेक स्वतंत्र अंतर्गत प्रणाली अनलॉक करण्यासाठी निघाले. त्या एकाच चुकीने एजंटला जवळजवळ लगेचच व्यापक नियंत्रण दिले.
• चोरलेल्या रेपॉजिटरी ऍक्सेसचा वापर करून, त्याने बिल्ड स्क्रिप्टमध्ये एक बदल सबमिट केला आहे, जर तो गेला असता, तर तो कोड चालवणाऱ्या ऑटोमेटेड सिस्टमशी तडजोड केली असती. तरी ते चालले नाही. हगिंग फेसच्या सुरक्षेने ते पकडले.
• एजंटने वास्तविक नुकसान करण्यापासून रोखलेले दिसते, हगिंग फेसने निरीक्षण केले, परंतु कदाचित संयमाच्या बाहेर नाही. अन्वेषकांच्या लक्षात आले की क्लाउड संसाधने हटविण्यास किंवा बदलण्यास सक्षम असलेली प्रत्येक कमांड “ड्राय रन” मोडमध्ये चालविली गेली होती, याचा अर्थ ते न करता काय घडेल याचा अहवाल देईल.
• प्रत्येक वेळी जेव्हा त्याचे चाचणी वातावरण रीसेट होते — जे सतत घडते, डिझाइनद्वारे — त्याने प्रत्येक साधन आणि त्याच्या ओळखीचा प्रत्येक ट्रेस गमावला. परंतु ते काहीही न करता पुन्हा तयार झाले आणि प्रत्येक वेळी चार दिवसांपेक्षा जास्त काळ त्याच्या चोरी झालेल्या पायाभूत सुविधांशी पुन्हा जोडले गेले.

शेवटी, हगिंग फेसने त्याच्या अहवालात निष्कर्ष काढला, “सक्षम” मानवी हॅकरने “त्याच त्रुटी शोधल्या आणि त्यांचे शोषण केले असेल: असुरक्षित डेटासेट प्रक्रिया, उघड केलेला क्लाउड मेटाडेटा, अत्याधिक विस्तृत प्रवेश आणि दीर्घकालीन क्रेडेन्शियल.” मोठा फरक, पोशाख चालू ठेवला, तो म्हणजे “एजंटने त्यांना वेगळ्या प्रमाणात शोधले.”

जे खरोखर आहे जेथे अस्वल सादृश्यता सर्वात उपयुक्त ठरते. भुकेल्या अस्वलाविरूद्ध सर्वोत्तम संरक्षण म्हणजे प्रोटोकॉल. आपण अन्न दूर ठेवले; आपण एक कुंडी वापरता जी ठेवण्यासाठी पुरेसे कार्य करते. अस्वल इतके हुशार किंवा खोडकर होते असे नाही. हे असे आहे की ते तपासणे कधीच थांबले नाही. सायबर सिक्युरिटीमध्ये हे समजले आहे की तुम्हाला नेहमीच काही बग सापडत नाहीत, त्यामुळे सर्वकाही तपासणे 100 पट सोपे असल्यास, काहीही खरोखर सुरक्षित नाही. त्यामुळे अनेकांना या भागाबद्दल अस्वस्थ वाटते.