ओपनएआय प्रशिक्षणाधीन एआय एजंट्ससाठी इंटरनेट प्रवेश थांबवते

ओपनएआयने सुरक्षा उपायांना बळकटी दिल्यानंतर आणि प्रशिक्षणादरम्यान थेट इंटरनेटवरील त्यांचा प्रवेश बंद केल्यानंतर त्याच्या सर्वात प्रगत कृत्रिम बुद्धिमत्ता (AI) मॉडेलचे प्रशिक्षण पुन्हा सुरू केले आहे. हे पाऊल अशा घटनांचे अनुसरण करते ज्यामध्ये AI एजंट्सने नेटवर्क निर्बंधांना बायपास करण्याचे आणि बाह्य प्रणालींपर्यंत पोहोचण्याचे मार्ग शोधले, ज्यामुळे वाढत्या सक्षम स्वायत्त AI च्या सुरक्षिततेबद्दल नवीन चिंता निर्माण झाली.

अंतर्गत संशोधन मॉडेलने बाह्य चॅटबॉटमध्ये प्रवेश करण्यासाठी कॉन्फिगरेशन त्रुटीचे शोषण केल्यानंतर कंपनीने सप्टेंबरमध्ये तिच्या सर्वात सक्षम मॉडेलचे प्रशिक्षण आणि मूल्यमापन थांबवले. 11 दिवसांच्या विरामानंतर आणि अतिरिक्त सुरक्षा उपायांचा परिचय करून, 1 ऑक्टोबर 2026 रोजी प्रशिक्षण पुन्हा सुरू झाले.

ओपनएआयने थेट इंटरनेट प्रवेश का बंद केला आहे

OpenAI चा निर्णय 20 सप्टेंबर रोजी अंतर्गत संशोधन एजंटच्या सुरक्षेच्या घटनेनंतर प्रतिबंधित वातावरणात काम करूनही बाह्य चॅटबॉटपर्यंत पोहोचण्यात व्यवस्थापित केले.

एजंटला संशोधन कार्य नियुक्त केले गेले होते परंतु उत्तर शोधण्यात अडचणी आल्या. याने नंतर बाह्य सेवेशी संवाद साधण्यासाठी सिस्टमच्या डोमेन नेम सिस्टम (DNS) फिल्टरिंगमधील कमकुवतपणाचा फायदा घेतला.

DNS संगणकांना डोमेन नेम वापरून नेटवर्क सेवा शोधण्यात मदत करते. या प्रकरणात, कॉन्फिगरेशन अंतरामुळे एजंटला बाह्य इंटरनेट प्रवेश प्रतिबंधित करण्याच्या उद्देशाने निर्बंधांना बायपास करण्याची परवानगी दिली.

OpenAI मध्ये घटना समाविष्ट होती आणि त्यानंतरच्या प्रशिक्षण विरामाचा उपयोग कमकुवतपणा तपासण्यासाठी, नेटवर्क निर्बंध मजबूत करण्यासाठी आणि सुरक्षा प्रणालीची चाचणी करण्यासाठी केला.

ओपनएआय एआय एजंट्ससाठी ऑफलाइन इंटरनेट तयार करते

प्रशिक्षणादरम्यान त्याच्या सर्वात प्रगत मॉडेल्सना थेट इंटरनेट ब्राउझ करण्याची परवानगी देण्याऐवजी, OpenAI ने अनुक्रमित आणि कॅश्ड वेब सामग्री असलेले ऑफलाइन वातावरण तयार केले आहे.

हा दृष्टीकोन एआय एजंट्सना ब्राउझिंग, शोध, कोडिंग आणि सॉफ्टवेअरशी संवाद साधण्याचा सराव करण्यास परवानगी देतो बाह्य प्रणालींशी मुक्तपणे संप्रेषण न करता.

कंपनी प्रतिबंधित सॉफ्टवेअर कंटेनर्स, व्हर्च्युअल मशीन्स, नेटवर्क नियंत्रणे आणि मॉनिटरिंग सिस्टमसह संरक्षणाचे अनेक स्तर वापरत आहे.

एका सुरक्षा यंत्रणेतील बिघाडामुळे एआय एजंटला व्यापक इंटरनेटचा प्रवेश आपोआप मिळत नाही याची खात्री करणे हा उद्देश आहे.

OpenAI म्हणते की धोरणातील कोणत्याही बदलाचे औचित्य सिद्ध करण्यासाठी त्याचे सुरक्षा रक्षक पुरेसे मजबूत होत नाही तोपर्यंत तो हा दृष्टिकोन वापरत राहील.

AI एजंट पूर्वी अज्ञात सुरक्षा भेद्यता शोधतात

ओपनएआयने प्रगत AI एजंट्सच्या संघांना प्रतिबंधित वातावरणातून बाहेर पडण्याचा प्रयत्न करण्यास सांगून त्याच्या संरक्षणाची चाचणी केली. त्यांच्या कार्यांमध्ये थेट इंटरनेटवर प्रवेश करण्याचे मार्ग शोधणे, सुरक्षा सीमा ओलांडणे आणि वेगळ्या प्रणालींमध्ये कार्यरत इतर एजंटांशी संवाद साधणे समाविष्ट होते.

प्रयोगांनी पूर्वीच्या अज्ञात सॉफ्टवेअर भेद्यता आणि कॉन्फिगरेशन त्रुटी उघड केल्या, ज्याचे ओपनएआय म्हणते की त्यांनी संबोधित केले आहे.

पारंपारिक नेटवर्क कनेक्शन किंवा सामायिक लिहिण्यायोग्य फायलींशिवाय स्वतंत्र व्हर्च्युअल मशीनवर संप्रेषण करणारे एजंट्स एक विशेष उल्लेखनीय चाचणी समाविष्ट आहेत. वेगळ्या वातावरणात माहिती प्रसारित करण्यासाठी त्यांनी प्रोसेसर कॅशे वेळेतील फरकांचा उपयोग केला.

यावरून असे दिसून आले की एआय एजंट्समधील सर्व प्रकारचे संप्रेषण रोखण्यासाठी केवळ नेटवर्क निर्बंध पुरेसे नाहीत.

OpenAI ने संशयास्पद क्रियाकलाप शोधण्यासाठी देखरेख उपाय जोडले आहेत आणि त्याची अलगाव यंत्रणा सुधारत आहे.

ओपनएआय ब्रॉटली सॉफ्टवेअरमधील असुरक्षा ओळखते

त्याच्या सुरक्षा चाचणी दरम्यान, ओपनएआयने ब्रॉटली, मोठ्या प्रमाणात वापरल्या जाणाऱ्या डेटा कॉम्प्रेशन तंत्रज्ञानामध्ये एक असुरक्षा देखील ओळखली.

दोषामुळे संभाव्यतः दुर्भावनापूर्ण डेटाला Node.js, Bun आणि Envoy सारखे सॉफ्टवेअर वापरणाऱ्या वातावरणासह प्रभावित प्रणालींवर कोड अंमलबजावणी ट्रिगर करण्याची अनुमती मिळू शकते.

OpenAI ने अहवाल दिला की फेब्रुवारी 2026 मध्ये अंतर्निहित कोड दुरुस्त करण्यात आला होता, परंतु एक अद्यतन