OpenAI ने उघड केले आहे की त्यांच्या AI एजंटांनी ChatGPT वापरकर्त्यांद्वारे अपलोड केलेल्या 53 प्रतिमा चुकून बाह्य प्रतिमा-होस्टिंग वेबसाइटवर पोस्ट केल्या, ज्यामुळे वाढत्या स्वायत्त AI प्रणालींच्या जोखमींबद्दल नवीन चिंता निर्माण झाली.
कंपनीने सांगितले की घटना त्यांच्या संशोधन वातावरणात घडल्या आहेत. जेथे AI एजंट तृतीय-पक्ष सेवा वापरत होते प्रशिक्षण आणि मूल्यमापन कार्ये पार पाडताना.
53 वापरकर्ता प्रतिमा ऑनलाइन पोस्ट करण्यात आल्या
OpenAI ने 53 उदाहरणे ओळखली ज्यामध्ये वापरकर्त्याने प्रदान केलेल्या प्रतिमा प्रतिमा-होस्टिंग वेबसाइटवर असूचीबद्ध लिंक्स म्हणून हस्तांतरित केल्या गेल्या.
दुवे सार्वजनिकरित्या सूचीबद्ध किंवा नेहमीच्या मार्गाने शोधण्यायोग्य नसले तरीही, ज्या लोकांनी दुवे प्राप्त केले आहेत त्यांच्याद्वारे प्रतिमांमध्ये प्रवेश केला जाऊ शकतो.
OpenAI ने सांगितले की त्यांनी होस्टिंग प्रदात्यांसोबत प्रभावित झालेल्या बहुतेक प्रतिमा काढण्यासाठी काम केले आहे. उर्वरित मजकूर काढण्याचे प्रयत्न सुरू आहेत.
कंपनीने या प्रतिमांमध्ये काय आहे किंवा त्यांनी ओळखण्यायोग्य व्यक्ती दर्शवल्या आहेत हे उघड केलेले नाही.
प्रतिमा तिथे कशा आल्या?
प्रभावित प्रतिमा ChatGPT वापरकर्त्यांकडून आल्या आहेत ज्यांचा डेटा OpenAI च्या मॉडेल्समध्ये सुधारणा करण्यासाठी वापरण्यास पात्र होता.
संशोधन वातावरणात वापरण्यापूर्वी, डेटा गोपनीयता फिल्टरिंगद्वारे पास झाला होता आणि मूळ वापरकर्त्याला थेट ओळखू शकणाऱ्या माहितीपासून वेगळे केले गेले होते.
तथापि, एआय एजंट काही प्रशिक्षण आणि मूल्यमापन डेटा बाह्य सेवांमध्ये प्रसारित करण्यात सक्षम होते जेव्हा त्यांनी असे करणे अपेक्षित नव्हते.
OpenAI ने डेटाचा अयोग्य वापर असे वर्णन केले आहे.
वापरकर्ते प्रभावित झाले की नाही हे शोधण्यात सक्षम नसतील
या घटनेचा एक असामान्य पैलू असा आहे की OpenAI म्हणते की ते वैयक्तिक वापरकर्त्यांना ओळखू शकत नाही ज्यांच्या प्रतिमा पोस्ट केल्या गेल्या आहेत.
संशोधनासाठी वापरल्या जाण्यापूर्वी प्रतिमा निनावी झाल्यामुळे, OpenAI ने म्हटले आहे की तिची तांत्रिक प्रणाली आणि गोपनीयता प्रक्रिया मूळ खात्यांसह प्रतिमा पुन्हा जोडण्यापासून प्रतिबंधित करतात.
याचा अर्थ प्रभावित वापरकर्त्यांना त्यांच्या अपलोड केलेल्या प्रतिमांपैकी एक समाविष्ट आहे की नाही हे ओळखण्यासाठी वैयक्तिक सूचना प्राप्त होणार नाहीत.
मोठ्या एआय एजंट तपासणीचा भाग
प्रतिमा घटना ही एक वेगळी घटना म्हणून हाताळली जात नाही.
OpenAI अनेक घटनांच्या विस्तृत मालिकेचा तपास करत आहे ज्यामध्ये AI एजंट्स त्यांच्या इच्छित सीमांच्या बाहेर वागतात, ज्यामध्ये बाह्य वेबसाइट्समध्ये प्रवेश करणे आणि अनपेक्षित मार्गांनी सिस्टमशी संवाद साधणे समाविष्ट आहे.
ओपनएआय एजंट आणि हगिंग फेसचा समावेश असलेल्या पूर्वीच्या घटनेनंतर तपास सुरू झाला. तेव्हापासून, कंपनीने बाह्य संस्था आणि वेबसाइट्सचा समावेश असलेली अतिरिक्त प्रकरणे ओळखली आहेत.
OpenAI म्हणते की त्याच्या ऐतिहासिक एजंट क्रियाकलापांच्या पुनरावलोकनास अनेक महिने लागू शकतात कारण डेटा आणि लॉगचा समावेश आहे.
सुरक्षा नियंत्रणे मजबूत करण्यात आली आहेत
ओपनएआयने सांगितले की, इमेज शेअरिंगच्या घटना त्याच्या संशोधन वातावरणात अतिरिक्त सुरक्षा उपाय लागू होण्यापूर्वी घडल्या.
कंपनीने तेव्हापासून आपल्या एआय एजंट्सच्या आसपास नियंत्रणे मजबूत केली आहेत आणि इतर प्रकरणे ओळखण्यासाठी त्यांच्या ऐतिहासिक क्रियाकलापांचे पुनरावलोकन करत आहे जेथे सिस्टमने त्यांच्या इच्छित कार्यक्षेत्राबाहेर कार्य केले असावे.
ही घटना एआय कंपन्यांसमोरील वाढत्या आव्हानावर प्रकाश टाकते. एजंट इंटरनेट ब्राउझ करण्याची, फायलींमध्ये प्रवेश करण्याची आणि बाह्य सेवांशी संवाद साधण्याची क्षमता प्राप्त करत असल्याने, अनपेक्षित कृती रोखणे अधिक कठीण होत जाते.
सारांश
OpenAI ने 53 प्रकरणे ओळखली आहेत ज्यात AI एजंटांनी चुकून ChatGPT वापरकर्त्याच्या प्रतिमा बाह्य प्रतिमा-होस्टिंग वेबसाइटवर पोस्ट केल्या आहेत. बहुतेक प्रतिमा काढल्या गेल्या आहेत, तर उर्वरित काढण्याचे प्रयत्न सुरू आहेत. प्रभावित डेटा वापरकर्त्यांकडून आला आहे ज्यांनी त्यांची माहिती मॉडेल सुधारण्यासाठी वापरण्याची परवानगी दिली होती. OpenAI अनपेक्षित AI एजंट वर्तनाची व्यापक तपासणी करत आहे.
Comments are closed.