सायबर हल्ल्यानंतर OpenAI प्रगत AI चे प्रशिक्षण कमी करते

OpenAI म्हणते की त्यांनी सुरक्षितता सुधारण्यासाठी त्यांच्या काही सर्वात प्रगत AI मॉडेलचे प्रशिक्षण कमी केले आहे.

मध्ये एक ब्लॉग पोस्ट, बाह्यChatGPT-निर्मात्याने सांगितले की त्याच्या AI एजंट्सनी स्वायत्तपणे सुरक्षिततेला बायपास केल्यानंतर आणि टेक स्टार्ट-अप हगिंग फेस हॅक केल्यानंतर ते नवीन उपाय सादर करत आहेत.

त्यात असे म्हटले आहे की प्रशिक्षण दोन आठवड्यांसाठी मंद केले जाईल जेव्हा ते अपग्रेड्स ठिकाणी ठेवते.

“फ्रंटियर मॉडेल्सची क्षमता झपाट्याने वेगवान होत आहे,” असे कंपनीने म्हटले आहे. “समजून घेण्याची आमची क्षमता…आणि त्यांना सुरक्षित ठेवण्यासाठी पुढे राहिले पाहिजे.”

क्लॉड-मेकर अँथ्रोपिक आणि फेसबुक-मालक मेटा यांनी त्यांच्या काही मॉडेल्सने हगिंग फेस हॅक केल्याची OpenAI द्वारे सुरुवातीच्या घोषणेनंतर आठवड्यांत त्यांच्या AI द्वारे अशाच प्रकारच्या हॅकची नोंद केली.

परंतु फर्मने सांगितले की त्याने एआय विकास पूर्णपणे थांबविला नाही. त्याऐवजी, विराम “आमच्या नवीनतम मॉडेल्सवर मजबुतीकरण शिक्षण प्रशिक्षण” वर घेतला जाईल.

ही एक प्रशिक्षण पद्धत आहे ज्यामध्ये AI मॉडेल्स थेट फीडबॅकद्वारे सुधारतात, ज्यामुळे त्यांची कार्ये पार पाडण्याची आणि वापरकर्त्यांना अधिक प्रभावीपणे प्रतिसाद देण्याची क्षमता सुधारते.

कंपनी धोकादायक वर्तनावर लक्ष ठेवण्यासाठी वापरत असलेल्या प्रणालींचा विस्तार देखील करेल आणि मोठ्या प्रमाणात प्रशिक्षण पुन्हा सुरू करण्यापूर्वी अतिरिक्त सुरक्षा तपासण्या सादर करेल.

“मॉडेलची प्रगती आता अत्यंत वेगवान आहे,” OpenAI चे मुख्य कार्यकारी सॅम ऑल्टमन X वर पोस्ट केले, बाह्य उपायांबद्दल.

“आम्ही नेहमी म्हणालो की मॉडेल क्षमता सुरक्षिततेच्या गतीला मागे टाकत आहेत असे आम्हाला वाटल्यास आम्ही कारवाई करू.”

एआय क्षेत्रातील काहींनी सावध आशावादाने विराम दिला – इतर संशयास्पद राहिले.

केंब्रिज विद्यापीठातील मिंडरू सेंटर फॉर टेक्नॉलॉजी अँड डेमोक्रसीचे कार्यकारी संचालक प्रोफेसर जीना नेफ म्हणाले की, ओपनएआय “प्रेस रिलीझद्वारे सुरक्षिततेसाठी केस” बनवत आहे आणि मोठ्या सरकारी देखरेखीशिवाय स्वयंसेवी कंपनी सुरक्षा पुरेशी आहे का असा प्रश्न केला.

“ते काय आहे: ओपनएआयवर स्वेच्छेने सेफगार्ड्स ठेवण्यासाठी विश्वास ठेवला जाऊ शकतो जे प्रत्यक्षात काम करतात किंवा ते सॉफ्टवेअर बनवण्याच्या पर्यायांसह पुढे ढकलत आहेत ज्यामुळे समाजाला अधिक धोका असतो,” ती म्हणाली.

“हे पाहून खूप आनंद झाला,” AI विश्लेषक Zvi Mowshowitz पोस्ट केले, बाह्यजरी त्यांनी जोडले की योजनांचा संपूर्ण विचार करण्यासाठी उल्लेख केलेल्या सुरुवातीच्या उपायांमधील “तपशील” आणि “अनुसरण” देखील महत्त्वाचे होते.