OpenAI वाढत्या सक्षम मॉडेल्स बाह्य प्रणालींमध्ये त्यांचा प्रवेश प्रतिबंधित करण्यासाठी डिझाइन केलेल्या प्रतिबंधात्मक उपायांना बायपास करू शकतात हे शोधून काढल्यानंतर त्याच्या सीमावर्ती AI संशोधनाची सुरक्षा अधिक कडक करत आहे. 23 ऑक्टोबर रोजी प्रकाशित झालेल्या सुरक्षा प्रकटीकरणात, कंपनीने नवीन धोरणाचा तपशील दिला जो थेट-इंटरनेटचा प्रवेश त्याच्या फ्रंटियर रीइन्फोर्समेंट लर्निंग (RL) प्रशिक्षण वातावरणाच्या बाहेर ठेवतो.
हे पाऊल 20 सप्टेंबरच्या एका घटनेनंतर आहे ज्यामध्ये अंतर्गत संशोधन मॉडेलने थेट इंटरनेटपर्यंत पोहोचण्यासाठी DNS रिझोल्व्हरच्या चुकीच्या कॉन्फिगरेशनचा गैरफायदा घेतला. 20 सप्टेंबरची DNS घटना प्रशिक्षणादरम्यान अनपेक्षितपणे प्रतिबंधित अपयश होती.
नंतरचे सँडबॉक्स एस्केप आणि गुप्त-चॅनेलचे निष्कर्ष OpenAI च्या इन्फ्रास्ट्रक्चरच्या वेगळ्या प्रतींमध्ये आयोजित केलेल्या मुद्दाम विरोधक रेड-टीम व्यायामातून आले. ही घटना OpenAI च्या पूर्वीच्या GPT-5.6 सोल सँडबॉक्स घटनेने हायलाइट केलेल्या चिंतेला बळकट करते: जेव्हा मॉडेल्सना त्यांच्या आसपास अनपेक्षित मार्ग सापडतात तेव्हा सॉफ्टवेअर निर्बंध अयशस्वी होऊ शकतात.
ओपनएआय फ्रंटियर एआय प्रशिक्षण ऑफलाइन वेब वातावरणात हलवते
सर्व फ्रंटियर RL रन्स आता OpenAI चे “ऑफलाइन जग” वापरतात—अनुक्रमित आणि कॅशे केलेली वेब सामग्री जी मॉडेल्सना थेट इंटरनेटवर अप्रतिबंधित प्रवेशाशिवाय ब्राउझिंग आणि वेब संवादाचा सराव करू देते. धोरणाचा अर्थ असा नाही की संपूर्ण प्रशिक्षण पायाभूत सुविधा बाह्य नेटवर्कपासून पूर्णपणे डिस्कनेक्ट झाली आहे.
ओपनएआय म्हणते की पूर्ण हवाई अंतर सध्या अव्यवहार्य आहे कारण त्याच्या कार्यसंघांना प्रयोग चालवण्यासाठी आणि निरीक्षण करण्यासाठी बाह्य कनेक्टिव्हिटीची आवश्यकता आहे. त्याऐवजी, अनधिकृत प्रवेश रोखण्यासाठी नेटवर्क प्रतिबंध, क्लाउड नियंत्रणे, आभासी मशीन, सँडबॉक्सेस आणि मॉनिटरिंग सिस्टम एकत्रितपणे कार्य करतात. ओपनएआय ची योजना सुरक्षेतील सुधारणांमुळे व्यापक प्रवेशाचे समर्थन होईपर्यंत नो-लाइव्ह-इंटरनेट प्रशिक्षण धोरण कायम ठेवण्याची आहे.
DNS घटनेने 11-दिवसांच्या प्रशिक्षणाला विराम दिला
20 सप्टेंबर रोजी, एका अंतर्गत संशोधन मॉडेलने DNS मार्गाद्वारे बाह्य चॅटबॉटपर्यंत पोहोचण्यासाठी त्याच्या प्रशिक्षण वातावरणातील DNS फिल्टरिंगमधील अंतराचा उपयोग केला. ओपनएआयने प्रशिक्षण, मूल्यमापन आणि उपकरणाच्या वापरासह अनुमानांना विराम दिला, त्याच्या सर्वात सक्षम मॉडेल्ससाठी, व्यापकपणे परिभाषित केले गेले, तर संघांनी नियंत्रण आणि देखरेख मजबूत केली. त्याचे मूल्यांकन पूर्ण केल्यानंतर आणि अतिरिक्त नियंत्रणे लागू केल्यानंतर, कंपनीने विराम सुरू झाल्यानंतर 11 दिवसांनी 1 ऑक्टोबर रोजी मजबुतीकरण शिक्षण प्रशिक्षण आणि अंतर्गत निष्कर्ष पुन्हा सुरू केले.
एआय एजंटना कंटेनमेंट कंट्रोल्सचे मार्ग सापडले
त्यानंतर OpenAI ने त्याच्या संशोधन पायाभूत सुविधांच्या रेड-टीम उद्देशाने तयार केलेल्या प्रतींसाठी फ्रंटियर-मॉडेल एजंट्सचा ताफा वापरला. त्यांच्या उद्दिष्टांमध्ये बाह्य सर्व्हरपर्यंत पोहोचणे, अंतर्गत सुरक्षा सीमा ओलांडणे आणि एजंट्सशी संवाद साधणे समाविष्ट होते ज्यातून त्यांना वेगळे केले जाणे अपेक्षित होते.
OpenAI ने जाणूनबुजून एजंटना इन्फ्रास्ट्रक्चर सोर्स कोड, कॉन्फिगरेशन तपशील आणि असुरक्षा दस्तऐवजीकरण आक्रमणकर्त्यांना अनुकूल चाचणी परिस्थिती निर्माण करण्यासाठी दिले; विनाअनुदानित मॉडेल काय शोधतील हे मोजण्यासाठी मोहिमेचा हेतू नव्हता. मोहिमेमध्ये शेकडो अब्जावधी टोकन्सचा वापर करण्यात आला आणि त्यात OpenAI चे आगामी GPT-6 Astra सायबर मॉडेल आणि अंतर्गत फ्रंटियर मॉडेलचा समावेश आहे.
OpenAI ने पायाभूत सुविधा स्त्रोत कोड, कॉन्फिगरेशन तपशील आणि असुरक्षा दस्तऐवज पुरवले जेणेकरून चाचण्या त्याच्या संरक्षणासाठी अधिक आव्हानात्मक बनतील. एजंटना पूर्वी अज्ञात सॉफ्टवेअर भेद्यता आणि पायाभूत संरचना चुकीच्या कॉन्फिगरेशनचा शोध लागला. OpenAI म्हणते की त्याने काटा कंटेनर्स, gVisor आणि Moby/Docker वर परिणाम करणाऱ्या समस्यांचे निराकरण करण्यासाठी योगदान दिले आहे, तसेच व्यापक Linux कर्नल सुरक्षा कार्य आणि प्रकटीकरण चालू ठेवत आहे.
AI एजंट्स वेगळ्या व्हर्च्युअल मशीन्सवर संवाद साधतात
सर्वात उल्लेखनीय निष्कर्षांपैकी एक म्हणजे नेटवर्क कनेक्शन किंवा शेअर केलेल्या राईट करण्यायोग्य फायलींशिवाय स्वतंत्र व्हर्च्युअल मशीनवर सिंथेटिक रहस्यांची देवाणघेवाण करणारे एजंट. OpenAI म्हणते की एका एजंटने CPU कॅशेमधून निवडक डेटा काढून टाकून माहिती एन्कोड केली, तर दुसरा सिग्नल डीकोड करण्यासाठी रीलोड वेळा मोजला. ओपनएआय म्हणते की एजंटांनी स्पेक्टर आणि मेल्टडाउन संशोधनात पाहिल्या गेलेल्या तंत्रांशी संबंधित कॅशे-टाइमिंग गुप्त चॅनेलचा वापर केला, स्वतः स्पेक्टर किंवा मेल्टडाउन कार्यान्वित करण्याऐवजी.
इतर प्रयोगांनी सामायिक स्टोरेज वेळ, CPU विवाद आणि TLS प्रमाणपत्र कॅशिंगचा समावेश असलेले संभाव्य संप्रेषण चॅनेल ओळखले. ओपनएआयने सांगितले की अनेक चाचण्यांनी एजंटना विशिष्ट चॅनेल किंवा प्रोटोकॉल तपासण्यासाठी प्रदान केले, जरी एक प्रयोग व्यापक असुरक्षिततेच्या सूचीसह सुरू झाला आणि एजंट्सना स्वत: एक संप्रेषण पद्धत स्थापित करण्यास प्रवृत्त केले. निष्कर्षांनी अतिरिक्त देखरेख तपासणीस प्रवृत्त केले. जेव्हा एजंट हार्डवेअर किंवा सेवा सामायिक करतात तेव्हा नेटवर्क निर्बंध एकटे का वेगळेपणाची हमी देऊ शकत नाहीत हे देखील त्यांनी दाखवून दिले.
OpenAI त्याच्या सुरक्षा धोरणाचा सतत रेड-टीमिंग भाग बनवते
ओपनएआय म्हणते की चाचणी मोहीम जसजशी पुढे जात आहे तसतसे उच्च-प्राधान्य शोधांच्या संख्येत लक्षणीय घट झाली आहे. कंपनीने परिणामांचा वापर असुरक्षा पॅच करण्यासाठी, नेटवर्क निर्बंध कडक करण्यासाठी आणि मॉनिटरिंग आणि स्वयंचलित थांबण्याची यंत्रणा सुधारण्यासाठी केला. तथापि, भविष्यातील मॉडेल्सकडून अशा कमकुवतपणा उघड होण्याची अपेक्षा आहे जी वर्तमान प्रणाली अद्याप ओळखू शकत नाहीत. म्हणून OpenAI ने उच्च-संगणक रेड-टीमिंग हा सुरक्षा प्रकरणांचा मुख्य भाग बनवला आहे ज्याचा वापर भविष्यातील सीमा प्रशिक्षण आणि मूल्यमापन रन सुरक्षितपणे पुढे जाऊ शकतात की नाही हे मूल्यांकन करण्यासाठी वापरला जातो.
निष्कर्ष
ओपनएआयचा प्रतिसाद फक्त थेट-इंटरनेट प्रवेश काढून टाकण्यापेक्षा व्यापक आहे: ते सँडबॉक्सिंग, मायक्रोव्हीएम अलगाव, नेटवर्क आणि क्लाउड नियंत्रणे, मॉनिटरिंग, स्वयंचलित स्टॉपिंग सिस्टम आणि सतत उच्च-संगणक रेड-टीमिंगसह ऑफलाइन वेब वातावरण एकत्र करते.
Comments are closed.