ओपनएआयने 'विकी घटनेची पुष्टी केली,' असे म्हटले आहे की ते अधिक प्रकटीकरणासाठी 'फ्रेमवर्कवर काम करत आहे'

OpenAI ने नुकत्याच नोंदवलेल्या एका घटनेत तिची भूमिका मान्य केली आहे जिथे AI एजंट्सनी जर्मन विकी फोरमचा ताबा घेतला. कंपनीने असेही म्हटले आहे की तिचे तंत्रज्ञान अनपेक्षित प्रकारे वागते अशा घटनांबद्दल माहिती कशी सामायिक करते याबद्दल “मानके परिभाषित करणे” ही “गेली वेळ” आहे.

मध्ये X वर एक पोस्टओपनएआयने म्हटले आहे की याआधी, “जेव्हा AI मॉडेल्स आणि एजंट्स त्यांच्या निर्माते आणि वापरकर्त्यांपेक्षा भिन्न लक्ष्ये शोधतात) मोठ्या प्रमाणात संशोधन प्रश्न म्हणून हाताळले जात होते, जे संशोधन प्रकाशनांमध्ये संप्रेषित केले जाते.” परंतु चुकीच्या संरेखनामुळे “नवीन प्रकारचे वास्तविक-जगातील प्रभाव निर्माण झाले” म्हणून कंपनीने म्हटले आहे की “मॉडेल क्षमतांच्या या नवीन टप्प्यासाठी त्यांचा दृष्टिकोन वाढवणे आवश्यक आहे.”

शुक्रवारी, रॉयटर्सने वृत्त दिले OpenAI एजंट्स त्यांच्या चाचणी वातावरणातून निसटले होते आणि त्यांनी एक अस्पष्ट जर्मन विकी फोरम “अपहृत” केला होता आणि ते इतर एजंट्ससाठी संदेश बोर्डमध्ये बदलले होते. ओपनएआयच्या नेतृत्वाला आठवड्यापूर्वी या घटनेची जाणीव झाली होती परंतु कंपनीने एका वेगळ्या घटनेचा सामना केल्यामुळे ते लपवून ठेवले होते, जेथे ओपनएआय एजंट्सने हगिंग फेस सर्व्हर हॅक केले होते. (कॅलिफोर्नियाचे ऍटर्नी जनरल रॉब बोन्टा आहेत हॅकचा तपास करत असल्याची माहिती आहे.)

कंपनीच्या प्रवक्त्याने रॉयटर्सला सांगितले की ओपनएआय “आम्हाला पुनरावलोकन करण्याची संधी नसलेल्या अहवालावरील दाव्यांना किंवा निष्कर्षांना अर्थपूर्णपणे प्रतिसाद देऊ शकत नाही,” परंतु त्यांनी असा आग्रह धरला की कंपनीच्या कायदेशीर टीमने तपासणीला परावृत्त केले नाही.

त्याच्या अलीकडील सोशल मीडिया पोस्टमध्ये, ओपनएआयने म्हटले आहे की त्यांनी “विकी घटना” हे आधीच सामायिक केलेल्या इतरांप्रमाणेच “मिसलाइनमेंटचे उदाहरण” मानले आहे. कंपनीने “हगिंग फेस इव्हेंट” शी तुलना केली, जिथे ती “पारंपारिक सुरक्षा घटना प्रतिसाद प्लेबुकचे अनुसरण करते.”

या आठवड्यात मीडिया ब्रीफिंग दरम्यान, जेकब स्टीनहार्ट, नानफा संशोधन लॅब ट्रान्सलूसचे संस्थापक आणि मुख्य कार्यकारी अधिकारी यांनी पत्रकारांना सांगितले की एआय लॅबद्वारे विकसित आणि चाचणी केली जात असलेली साधने “मूलभूतरित्या नियंत्रित करणे कठीण आहे आणि लॅबमधून बाहेर पडण्याचा धोका आहे.” म्हणून स्टीनहार्टने असा युक्तिवाद केला, “आम्ही हे तंत्रज्ञान किमान समान मानकांवर धरले पाहिजे जे आम्ही इतर उच्च-जोखीम वैज्ञानिक संशोधन ठेवतो.”

OpenAI च्या विधानाने अधिक मानकांच्या गरजेकडेही इशारा दिला आहे, असे नमूद केले आहे की OpenAI आणि “मोठ्या AI समुदायाकडे प्रशिक्षण, मूल्यमापन आणि तैनाती दरम्यान दिसणारे चुकीचे संरेखन कसे नोंदवायचे याबद्दल अद्याप स्पष्ट मानक नाही, ज्यामध्ये पारंपारिक सुरक्षा घटनांसारखे दिसत नाही परंतु AI वर्तन आणि भविष्यातील जोखमींबद्दल अंतर्दृष्टी प्रदान करू शकते.”

त्या मानकाच्या अनुपस्थितीत, OpenAI म्हणाले की ते “एक फ्रेमवर्कवर काम करत आहे आणि आगामी आठवड्यात ते सामायिक करेल आणि समांतर आम्ही या समस्यांवर जगभरातील डझनभर सरकारी नियामक संस्थांसोबत काम करत आहोत.”

मेटा आणि अँथ्रोपिक या दोघांनीही त्यांच्या एजंटांनी गैरवर्तन केल्याची घटना मान्य केल्यामुळे या समस्या हाताळणारी OpenAI ही एकमेव AI कंपनी नाही.