ओपनएआय एजंट्सच्या अयोग्य रीतीने वागण्याच्या 'डझनभर' घटनांचा तपास करत आहे

OpenAI ने शुक्रवारी सांगितले की त्यांनी “डझनभर” जागतिक संस्थांना अलर्ट केले आहे की त्यांच्या वेबसाइटवर एआय एजंट्सच्या अयोग्य कृतीमुळे परिणाम झाला आहे.

ओपनएआय एजंट्सनी “सरकार, विद्यापीठे, सार्वजनिक संस्था आणि इतर संस्थांकडून” काहीवेळा अत्यंत मार्गाने माहिती मिळवण्याचा प्रयत्न केला, असे कंपनीने म्हटले आहे.

काही क्रियाकलाप फक्त “सार्वजनिक माहितीचे अधिकृत स्त्रोत” शोधण्यासाठी कार्य करणाऱ्या साधनांमुळे होते, तर काही त्या पलीकडे गेले. जसे एआय एजंट डेटा नसावा तेव्हा घेतो आणि हस्तांतरित करतो, ओपनएआयने सांगितले.

अशा ॲक्टिव्हिटीमुळे किमान 53 घटना घडल्या ज्यात OpenAI एजंटने ChatGPT वापरकर्त्याच्या ॲक्टिव्हिटीमधून इमेज घेतली आणि ती इतरत्र हस्तांतरित केली.

कंपनीने म्हटले आहे की एआय एजंटद्वारे वापरकर्त्याची प्रतिमा वापरली आणि हस्तांतरित केल्याच्या प्रत्येक घटनेत, वापरकर्त्याने ओपनएआयला त्यांचा डेटा वापरून मॉडेल्सचे प्रशिक्षण देण्याची परवानगी दिली होती.

तरीही, ओपनएआयने कबूल केले की, “या डेटाचा हा योग्य वापर नाही”.

हे जोडले गेले की वापरकर्त्याच्या प्रतिमा लीक झाल्यामुळे एआय प्रशिक्षणावर नवीन सुरक्षा उपाय लागू केले गेले आणि ते सर्व वापरकर्त्याच्या प्रतिमा कोणत्याही तृतीय-पक्षाकडे हस्तांतरित करण्यासाठी कार्य करत होते.

रॉयटर्सने प्रथम या समस्यांची माहिती दिली.

ओपनएआयने शुक्रवारी सूचित केले की त्याच्या सॉफ्टवेअरने प्रभावित साइट्सच्या काही सुरक्षा नियंत्रणांमध्ये अडथळा आणला आहे – जरी याचा अर्थ असा नाही की प्रत्येक घटनेमुळे महत्त्वपूर्ण सुरक्षा उल्लंघन झाले.

“काही संस्था आम्ही काय सामायिक करतो याचे पुनरावलोकन करू शकतात आणि निष्कर्ष काढू शकतात की माहिती हेतुपुरस्सर सार्वजनिक होती किंवा मॉडेलच्या परस्परसंवादाशी संबंधित नाही. इतर एखाद्या डिझाइन समस्या किंवा सुरक्षा कमकुवतपणा ओळखू शकतात जे त्यांना संबोधित करायचे आहे,” कंपनीने म्हटले आहे.

ओपनएआयने सांगितले की, त्याच्या एआय मॉडेल्सने एआय प्लॅटफॉर्म हगिंग फेस हॅक केल्याचे कळल्यानंतर सुरू झालेल्या तपासादरम्यान ही घटना समोर आली आहे, ही घटना गेल्या महिन्यात सार्वजनिकरित्या उघड झाली होती.

शुक्रवारी हे खुलासे ऑस्ट्रेलियन पंतप्रधान अँथनी अल्बानीज यांनी म्हटल्याच्या काही दिवसांनंतर आले आहेत की ओपनएआयने त्यांच्या सरकारी आरोग्य सेवा योजना, मेडिकेअरच्या वेबसाइटवर सार्वजनिक नसलेल्या फाइल्सचा भंग केला आहे.