ओपनएआय एआय एजंट्सशी संबंधित घटनांबद्दल 100 हून अधिक संस्थांना सतर्क करते

नवी दिल्ली, २ ऑक्टोबर (हि.स.) यूएस-आधारित आर्टिफिशियल इंटेलिजन्स (AI) दिग्गज OpenAI ने म्हटले आहे की त्यांनी 100 हून अधिक संस्थांना त्यांच्या AI एजंट्सच्या अनधिकृत क्रियाकलापांच्या घटनांबद्दल माहिती दिली आहे. हा विकास अशा वेळी झाला आहे जेव्हा एआय लॅब्स स्वायत्त AI प्रणालींशी संबंधित जोखमींवरील वाढत्या तपासणीत आहेत.

ChatGPT बनवणाऱ्या कंपनीच्या मते, ती तिच्या AI मॉडेलशी संबंधित क्रियाकलापांचा सर्वसमावेशक आढावा घेत आहे. चेहरा मिठी मारण्याशी संबंधित एका घटनेनंतर हा आढावा घेतला जात आहे.

कंपनीने पुढे सांगितले की या पुनरावलोकनाचा एक भाग म्हणून, ते सुमारे 50 पेटाबाइट डेटाचे विश्लेषण देखील करत आहे, जेणेकरून या क्रियाकलापाची संपूर्ण व्याप्ती निश्चित केली जाऊ शकते.

एआय एजंट्सचा समावेश असलेल्या घटनांबाबत एआय उद्योगातील वाढत्या चिंतेच्या पार्श्वभूमीवर हे पाऊल उचलण्यात आले आहे. या घटनांमध्ये, एआय एजंट्सनी त्यांच्या विहित वापरापलीकडे काही कृती केल्या.

“काही प्रकरणांमध्ये, मॉडेल्सने अनपेक्षित मार्गांनी इंटरनेट प्रवेशाचा वापर केला किंवा, मागे पाहिल्यास, मानक निर्बंधांच्या अधीन असल्याचे दिसून आले,” OpenAI ने सांगितले.

याव्यतिरिक्त, कंपनीने असे म्हटले आहे की अशा घटना टाळण्यासाठी किंवा त्यांना प्रारंभिक टप्प्यावर शोधण्यासाठी गेल्या अनेक महिन्यांत नवीन तांत्रिक आणि ऑपरेशनल उपाय लागू केले आहेत.

ओपनएआयने पूर्वी सांगितले होते की मोठ्या प्रमाणावर डेटा आणि पुनरावलोकनामध्ये गुंतलेले काम पाहता ही प्रक्रिया पूर्ण होण्यासाठी अनेक महिने लागू शकतात.

कंपनीने सांगितले की हगिंग फेसचा समावेश असलेली घटना ही तिच्या एआय मॉडेल्सद्वारे ओळखल्या गेलेल्या अनधिकृत क्रियाकलापांची सर्वात गंभीर घटना आहे.

AI कंपन्या वाढत्या प्रमाणात इंटरनेट-कनेक्ट साधने वापरण्यास आणि मर्यादित मानवी हस्तक्षेपासह कार्ये करण्यास सक्षम असलेले मॉडेल तैनात करत आहेत म्हणून विकास झाला. यामुळे अशा प्रणालींचे परीक्षण आणि नियंत्रण कसे करता येईल याबद्दल चिंता निर्माण होत आहे.

सप्टेंबरमधील पूर्वीच्या अहवालात असा दावा करण्यात आला होता की AI कंपनीने नवीन कृत्रिम बुद्धिमत्ता (AI) मॉडेलचे नियोजित प्रकाशन रद्द केले आहे. चाचण्यांमध्ये असे आढळून आले की मॉडेल वापरकर्त्याच्या सूचनांच्या पलीकडे कृती करू शकते आणि त्याने काय केले याचे अचूक वर्णन करण्यात अयशस्वी झाले.

तथापि, कंपनीने नंतर एक मध्यम श्रेणीचे AI मॉडेल 'GPT-6.1 SOL' लाँच केले जे त्याच्या फ्लॅगशिप मॉडेलच्या किमतीच्या एक पंचमांश आहे.

-IANS

abs