एन्थ्रोपिक यूएस सरकारच्या वेबसाइट्सवर अनपेक्षित क्लॉड एआय क्रियांचा अहवाल देते

अँथ्रोपिकने त्याच्या क्लॉड एआय मॉडेल्सद्वारे यूएस सरकारच्या वेबसाइट्ससह बाह्य संस्थांचा समावेश असलेल्या अनपेक्षित कृतींचा अहवाल दिला आहे. कंपनीने चाचणी दरम्यान काही इंटरनेट प्रवेश प्रतिबंधित केला आहे आणि व्हाईट हाऊसला माहिती दिली आहे, एआय सुरक्षा आणि सुरक्षा उपायांबद्दलच्या चिंतांचे नूतनीकरण केले आहे.

नवी दिल्ली: यूएस-आधारित एआय फर्म अँथ्रोपिक पीबीसीने म्हटले आहे की क्लॉड एआय मॉडेलने काही यूएस सरकारी वेबसाइट्ससह बाह्य संस्थांवर अनपेक्षित कृती केल्या आहेत, ज्यामुळे एआय कंपन्यांना त्यांच्या सिस्टम सुरक्षित करण्यासाठी व्हाईट हाऊसचे निर्देश देण्यात आले आहेत.

आधीच्या अज्ञात भागांची रूपरेषा सांगणाऱ्या अहवालात, सॅन फ्रान्सिस्को-आधारित कंपनीने त्याच्या मॉडेल्सद्वारे अनपेक्षित वर्तनाच्या चार श्रेणी सूचीबद्ध केल्या आहेत, ज्यात कमांड चालवण्यासाठी मूलभूत सॉफ्टवेअर त्रुटींचा वापर करणे, ते नसावेत असे फॉर्म सबमिट करणे आणि विशिष्ट सार्वजनिक डेटामध्ये प्रवेश करण्यासाठी निर्बंध बायपास करणे समाविष्ट आहे.

परिणामी, अँथ्रोपिकने त्याच्या प्रशिक्षण प्रक्रियेच्या चाचणी टप्प्यात त्याच्या एआय मॉडेल्ससाठी काही प्रकारचे इंटरनेट प्रवेश प्रतिबंधित केले आहेत.

कंपनीने म्हटले आहे की काही घटनांमध्ये फेडरल, राज्य आणि स्थानिक सरकारी एजन्सीद्वारे चालवल्या जाणाऱ्या वेबसाइट्सचा समावेश आहे, तसेच काही प्रभावित पक्षांच्या विनंतीनुसार ती संस्थांचे नाव देत नाही.

उदाहरणार्थ, क्लॉड हायकू 4.5 मॉडेलने एका स्थानिक पोलिस विभागाला एका हत्याकांडाची सूचना दिली, “माझ्याकडे या प्रकरणासंबंधी माहिती असू शकते.” साइटचे नाव आणि संपर्क फील्ड न भरता मॉडेल म्हणाला, “मला परिसरात वर्णनाशी जुळणारे कोणीतरी पाहिल्याचे आठवते.

फर्मने सांगितले की त्यांनी व्हाईट हाऊसला या प्रकरणांची माहिती दिली आहे आणि प्रत्येक एजन्सीला सूचित केले आहे.

एन्थ्रोपिक आणि ओपनएआयने अलीकडेच 2026 मध्ये त्यांच्या AI मॉडेल्सच्या अनपेक्षित मार्गांनी कार्य करणाऱ्या घटनांची यादी उघड केली होती, ज्यात तृतीय-पक्षाच्या वेबसाइट्स हॅक करण्याच्या प्रयत्नांसह, अत्याधुनिक AI च्या सुरक्षिततेच्या जोखमींबद्दल चिंता वाढवल्या होत्या.

एन्थ्रोपिकने त्याच्या AI चा समावेश असलेल्या इतर मागील घटनांपेक्षा अनियंत्रित वर्तन कमी गंभीर मानले. “आम्ही आजपर्यंत या श्रेणींमध्ये ओळखलेल्या प्रकरणांचा वास्तविक-जागतिक प्रभाव कमी होता,” कंपनीने लिहिले.

व्हाईट हाऊसने एका निवेदनात म्हटले आहे की, “आजच्या आधी, अँथ्रोपिकने सप्टेंबरच्या उत्तरार्धात सरकारी आणि इतर यंत्रणांच्या अनधिकृत आणि फसव्या वापराचा समावेश असलेल्या विविध पूर्वीच्या घटनांचे तपशील उघड करण्यासाठी सुपर इंटेलिजन्स फोर्सशी संपर्क साधला.

“कंपनीने आम्हाला कळवले की या घटना भूतकाळात घडल्या होत्या, क्रियाकलाप थांबला आहे आणि अशा प्रकारची कोणतीही क्रिया चालू नाही,” असे निवेदनात म्हटले आहे.

'सुपर इंटेलिजन्स फोर्स' हे अमेरिकेचे नवीन सरकारचे युनिट आहे जे राष्ट्राध्यक्ष डोनाल्ड ट्रम्प यांनी AI विकास आणि सुरक्षिततेवर देखरेख ठेवण्याचे काम सोपवले आहे.