OpenAI चे बदमाश एजंट निसटत राहतात, त्यांची चौकशी करण्याची कोणतीही औपचारिक प्रक्रिया नाही

OpenAI दुसऱ्या एजंट झुंडीच्या घटनेच्या केंद्रस्थानी आहे. संशोधकांचे म्हणणे आहे की कंपनीच्या अंतर्गत तैनात केलेल्या एजंटांनी मे आणि जूनमध्ये एक अस्पष्ट जर्मन-भाषेचा विकीचा ताबा घेतला आणि त्याचा वापर करून ओपनएआयच्या स्वतःच्या नियंत्रणापासून दूर राहण्यासाठी मूल्यांकन आणि स्वॅप पद्धतींमध्ये समन्वय साधला (ओपनएआयने अद्याप कंपनीकडून झुंड आल्याची पुष्टी केलेली नाही).

एमईटीआर आणि रेडवुड रिसर्चने जुलैच्या हगिंग फेस भंगाचे त्यांचे खाते प्रकाशित केल्यानंतर काही दिवसांनी हा खुलासा झाला. जुलैमध्ये, OpenAI एजंट्सच्या थव्याने सायबरसुरक्षा मूल्यांकनादरम्यान त्यांच्या सँडबॉक्समधून बाहेर पडण्यासाठी आणि हगिंग फेसच्या सर्व्हरमध्ये प्रवेश करण्यासाठी एकत्र काम केले. त्यानंतरच्या झुंडीने पहिल्यापासून तंत्रे निवडली आणि OpenAI च्या स्वतःच्या पायाभूत सुविधांमध्ये संशोधन क्लस्टरमध्ये प्रशासक प्रवेश मिळविण्यासाठी त्यांचा वापर केला. OpenAI आणले मीटर आणि रेडवुड यांनी घटनेच्या हगिंग फेस भागाची चौकशी केली, परंतु ओपनएआयच्या स्वतःच्या पायाभूत सुविधांशी तडजोड केल्यामुळे त्यांच्या तपासाची व्याप्ती कमी झाली.

जेव्हा एआय एजंट त्याच्या अपेक्षित मर्यादांमधून बाहेर पडतो, तेव्हा काय झाले आणि का झाले हे शोधण्यासाठी कोण जबाबदार आहे? आत्ता, उत्तर आहे: प्रयोगशाळेने ज्याला प्रवेश देण्याचे ठरवले आहे, कोणत्याही अटींवर ते सेट करण्याचा निर्णय घेतील.

आता, आणखी एक घटना उघडकीस आल्यावर – मेटा आणि अँथ्रोपिकमधील मॉडेल्सचा समावेश असलेल्या समान भागांनंतर – एआय सुरक्षा संशोधक अधिक तत्परतेने युक्तिवाद करत आहेत की गंभीर घटनांचा परिणाम प्रयोगशाळेवर सोडण्याऐवजी स्वतंत्रपणे घटनेनंतरच्या तपासात बाहेरील लोकांना कधी आणले जाते आणि त्यांना काय तपासण्याची परवानगी दिली जाते.

“परिणाम नियंत्रित करणे मूलभूतपणे कठीण आहे आणि लॅबमधून बाहेर पडण्याचा महत्त्वपूर्ण धोका आहे,” जेकब स्टीनहार्ट, नानफा संशोधन लॅब ट्रान्सलूसचे संस्थापक आणि सीईओ यांनी बुधवारी एआय सुरक्षा मीडिया ब्रीफिंग दरम्यान सांगितले. “आम्ही इतर उच्च-जोखीम असलेल्या वैज्ञानिक संशोधनांना किमान समान मानकांपर्यंत हे तंत्रज्ञान धरून ठेवण्याची गरज आहे.”

ओपनएआयने हगिंग फेस घटनेची चौकशी करण्यासाठी एमईटीआर आणि रेडवुडला आमंत्रित केले हे प्रशंसनीय असले तरी, अनेकांचे म्हणणे आहे की चौकशी खूपच अरुंद होती. तीन तपासनीसांनी ओपनएआयच्या कार्यालयात सहा दिवसांपर्यंत मर्यादित तपास कालावधीची तपासणी केली अंदाजे आठवडा 13 जुलै रोजी संपत आहे. निर्णायकपणे, OpenAI ची पायाभूत सुविधांची तडजोड 13 जुलैच्या पुढे चालू राहिली आणि त्याची तपासणी झाली नाही.

METR मधील संशोधकांनी सांगितले की प्रत्येक वेळी जेव्हा ते परत आले तेव्हा त्यांची घटनांबद्दलची समज “पर्याप्त प्रमाणात वाढली” ज्यामुळे त्यांना अहवालात लक्षणीयरीत्या विस्तार आणि सुधारणा करता आली. त्यामुळे व्यापक तपासात त्यांना आणखी काय सापडले असावे असा प्रश्न निर्माण होतो.

त्या घटनेची पुढील चौकशी चालू आहे का असे विचारले असता, रेडवुड आणि METR येथील संशोधकांनी टिप्पणी करण्यास नकार दिला आणि ओपनएआयने वारंवार केलेल्या चौकशीला प्रतिसाद दिला नाही.

“एकंदरीत, घटनांची अचूक माहिती मिळवणे कठीण होते आणि आम्ही आमच्या तपासाच्या जवळजवळ शेवटपर्यंत कथेचे पैलू गमावत होतो ज्याचा आम्ही आता महत्त्वाचा विचार करतो,” रेडवूडचे मुख्य शास्त्रज्ञ रायन ग्रीनब्लाट यांनी नमूद केले. सोशल मीडिया पोस्ट अफेअर बद्दल.

स्टीनहार्ट यांनी जोर दिला की सध्याच्या घटना दर्शवितात की उद्योगाला “पद्धतशीर वर्तणूक तपासणी” आणि “घटनेनंतर अधिक स्वतंत्र विश्लेषण” आवश्यक आहे.

“या अलीकडील हॅकिंगच्या घटना एक स्मरणपत्र आहेत की क्षमता वेगाने वाढते आणि त्यामुळे निरीक्षण देखील मोजले पाहिजे,” स्टीनहार्ट म्हणाले. “तंत्रज्ञानाच्या पलीकडे, आम्हाला तृतीय पक्षांकडून अधिक स्वतंत्र प्रवेश आणि देखरेख देखील आवश्यक आहे.”

ओपनएआयने ॲस्ट्रा, त्याचे सर्वात शक्तिशाली आणि सक्षम AI मॉडेल रिलीझ केल्याने कॉल टू ॲक्शन आले – आणि ज्याची सुरक्षा तज्ञांना काळजी आहे ते एका तर्काच्या तंत्रामुळे ब्लॅक बॉक्ससारखे असेल ज्यामुळे मॉडेलच्या विचारांच्या साखळीचे परीक्षण करणे अधिक कठीण होते.

दुर्दैवाने, कायदा अद्याप इतर उद्योगांना आवश्यक असलेल्या स्वतंत्र ऑडिटच्या प्रकारांची मागणी करत नाही — उदाहरणार्थ, जेव्हा विमान अपघात आणि गंभीर रासायनिक प्रकाशनांचा प्रश्न येतो, तेव्हा अनुक्रमे राष्ट्रीय वाहतूक सुरक्षा मंडळ आणि रासायनिक सुरक्षा मंडळ आहे.

राज्याच्या कायदेकर्त्यांनी नुकतेच फ्रंटियर एआय कंपन्यांना काही गंभीर सुरक्षा घटनांचा अहवाल देण्याची आणि काही प्रकरणांमध्ये स्वतंत्र ऑडिट करण्याची आवश्यकता सुरू केली आहे. परंतु कॅलिफोर्निया, न्यू यॉर्क किंवा इलिनॉय मधील तीन प्रमुख सीमावर्ती AI सुरक्षा कायद्यांपैकी एकही यासारख्या घटनांमुळे सुरू झालेल्या स्वतंत्र अपघात तपासणीच्या समतुल्य स्पष्टपणे आज्ञा देत नाही.

“सध्या, आमच्याकडे असलेल्या पुस्तकांवरील बहुतेक कायद्यांना अशा घटनांचा फक्त साध्या भाषेतील सारांश आवश्यक आहे, आणि ते सरकारांना पाठपुरावा प्रश्न विचारण्याचा, तपासकर्त्यांना पाठवण्याचा, रेकॉर्डमध्ये प्रवेश करण्यासाठी किंवा ते जतन करण्याची आवश्यकता नाही असे कोणतेही अधिकार देत नाहीत,” मॅकेन्झी अरनॉल्ड, यूएस कायदा आणि धोरणाचे व्यवस्थापकीय संचालक, LawAI येथे बुधवारी मीडिया ब्रीफिंग दरम्यान म्हणाले. “आणि तुम्हाला याचा अर्थ प्रत्यक्षात आणायचा असेल एवढेच.”

ओपनएआयच्या प्रतिसादाची व्याप्ती आणि पारदर्शकता यावर कायदेकर्ते प्रश्न विचारू लागले आहेत. या आठवड्यात, Reps. Josh Gottheimer (D-NJ) आणि Mike Lawler (R-NY) यांनी दुष्ट AI एजंटना सुरक्षित करण्याच्या उद्देशाने एक विधेयक सादर केले. रेप. ग्रेग कॅसर (D-TX) यांनी या आठवड्यात OpenAI ला सांगितले पत्र हगिंग फेस हॅकिंग घटनेच्या तपासाच्या “मर्यादित व्याप्तीबद्दल” तो खूप चिंतित आहे.