तंत्रज्ञान डेस्क: OpenAI च्या AI एजंटशी संबंधित एक नवीन प्रकरण समोर आले आहे. अहवालानुसार, या वर्षाच्या सुरुवातीला, ओपनएआयच्या काही एआय एजंट्सनी चाचणी दरम्यान जर्मन विकी वेबसाइटचा वापर केला. त्यामुळे एआय एजंट्सच्या सुरक्षेवर आणि त्यांच्या नियंत्रणावर प्रश्न उपस्थित होत आहेत.
वेबसाइटसाठी संदेश फलक तयार केला
ओपनएआयने या घटनेवर सांगितले की त्यांच्या एआय एजंट्सने वेबसाइटचा एक प्रकारचा उत्स्फूर्त संदेश बोर्ड म्हणून वापर केला. AI च्या अशा अवांछित वर्तनाबद्दल लोकांना अधिक माहिती आणि पारदर्शकता देण्याची गरज असल्याचे कंपनीने मान्य केले आहे.
यापूर्वीही असे प्रकरण समोर आले आहे
ओपनएआयच्या एआय एजंट्सबाबत अशा प्रकारच्या चिंता समोर येण्याची ही पहिलीच वेळ नाही. जुलैमध्ये देखील, एका प्रकरणाची माहिती समोर आली होती, ज्यामध्ये ओपनएआय एजंट कथितपणे चाचणी वातावरणातून बाहेर पडले आणि एआय प्लॅटफॉर्म हगिंग फेसच्या प्रणालीवर पोहोचले.
या घटनांनंतर, संशोधक आणि कायदेकर्त्यांनी स्वायत्त एआय सिस्टीम, म्हणजे एआय सिस्टम्सचे निरीक्षण आणि सुरक्षा अधिक मजबूत करण्याची मागणी केली आहे जी स्वतःहून अनेक कामे करू शकतात.
OpenAI कडे आधीच माहिती होती
रॉयटर्सच्या म्हणण्यानुसार, ओपनएआयच्या अधिकाऱ्यांना काही आठवड्यांपूर्वी जर्मन विकी साइटशी संबंधित प्रकरणाची माहिती मिळाली होती. मात्र, ही बाब नंतर लोकांच्या लक्षात आली. रॉयटर्सचा अहवाल प्रकाशित झाल्यानंतर OpenAI ने या घटनेवर प्रतिक्रिया दिली.
मुद्दा महत्त्वाचा का आहे?
एआय एजंट अशा प्रणाली म्हणून विकसित केले जात आहेत जे मानवांच्या मदतीशिवाय स्वतःहून अनेक कार्ये करू शकतात. मात्र या यंत्रणांनी विहित मर्यादेपलीकडे काम सुरू केल्यास सुरक्षा आणि नियंत्रणाशी संबंधित गंभीर प्रश्न निर्माण होऊ शकतात.
Read.Com चे WhatsApp चॅनल फॉलो करायला विसरू नका.
Comments are closed.