रॉग एन्थ्रोपिक एआय एजंटने न सुटलेल्या खून प्रकरणात पोलिसांना खोटी टीप दिली

अँथ्रोपिकने विकसित केलेला आर्टिफिशियल इंटेलिजन्स (एआय) एजंट बदमाश झाला आणि त्याने अमेरिकन पोलिसांना या वर्षाच्या सुरुवातीला न सुटलेल्या हत्येबद्दल खोटी सूचना पाठवली, असे अधिकाऱ्यांनी उघड केले आहे.

फिलाडेल्फिया पोलिस विभागाने सांगितले की, 18 जुलै रोजी पाठवलेली टीप “स्पॅम म्हणून ध्वजांकित” होती आणि तपासणीसाठी दिली गेली नाही, परंतु उल्लंघन शोधण्यासाठी आणि अहवाल देण्यासाठी दोन महिन्यांहून अधिक काळ घेतल्याबद्दल टेक कंपनीवर टीका केली.

एका निवेदनात पोलिसांनी म्हटले आहे की बोगस टीप सार्वजनिक वेबसाइटद्वारे आली आहे जिथे लोक निराकरण न झालेल्या खुनांची माहिती सामायिक करू शकतात आणि एआय एजंटने लिहिले आहे की त्यात एखाद्या प्रकरणाची माहिती असू शकते आणि “वर्णनाशी जुळणारे कोणीतरी” पाहिले असल्याचा दावा केला आहे.

एखाद्या एआय एजंटने अधिकाऱ्यांना बनावट माहिती पाठवण्याची ही पहिलीच वेळ असल्याचे मानले जाते, परंतु हे हॅकिंग सिस्टम किंवा प्लॅटफॉर्मवर नियंत्रण ठेवण्यासह बदमाश AI क्रियाकलापांचा समावेश असलेल्या घटनांच्या मालिकेतील नवीनतम घटना आहे.

एन्थ्रोपिकचा हवाला देत, पोलिस विभागाने सांगितले की एआय एजंट एक चाचणी चालवत होता ज्यामध्ये यादृच्छिकपणे निवडलेल्या वेबसाइट्सशी परस्परसंवाद समाविष्ट होता, जेव्हा त्याने बनावट टिप पाठवली.

संदेश पाठवल्यानंतर दोन महिन्यांहून अधिक कालावधीनंतर अँथ्रोपिकला 28 सप्टेंबर रोजी उल्लंघनाचा शोध लागला आणि त्यामागे असलेली स्वयंचलित चाचणी प्रक्रिया बंद केली, असे पोलिसांनी सांगितले.

परंतु अधिकाऱ्यांना आणखी नऊ दिवस – 7 ऑक्टोबर रोजी सूचित केले गेले नाही.

“कंपनीने शहराच्या माहितीशिवाय शहराच्या प्रणालींवर अशाच प्रकारच्या घटना घडण्यापासून रोखण्यासाठी आपले संरक्षण मजबूत केले पाहिजे,” फिलाडेल्फिया पोलिसांनी स्थानिक माध्यमांना दिलेल्या निवेदनात म्हटले आहे, बाह्य.

“शहराला घटनेचा शोध घेण्यास आणि अहवाल देण्यास दोन महिन्यांचा विलंब अस्वीकार्य आहे.”

पोलिस विभागाने जोडले की कोणत्याही विभागीय प्रणालींमध्ये उल्लंघनाची कोणतीही चिन्हे नाहीत आणि त्याच्या सुरक्षिततेच्या प्रक्रियेमुळे बनावट टीप त्याच्या स्पॅम फोल्डरमधून जाण्यापासून थांबली आहे.

परंतु सुरक्षारक्षक “एआय प्रणालीची बनावट माहिती सादर करण्याचे गांभीर्य कमी करत नाही जणू ती एखाद्या हत्येची माहिती असलेल्या व्यक्तीकडून आली आहे,” असे पोलिस निवेदनात म्हटले आहे.

या आठवड्यात मानववंशीय एक अहवाल प्रकाशित केला, बाह्य त्याच्या एजंटांनी केलेल्या अनेक प्रकारच्या “अनपेक्षित” क्रियांचे तपशील.

ज्या संस्थांवर परिणाम झाला आहे त्यात व्हाईट हाऊससह अनेक अमेरिकन सरकारी संस्थांचाही समावेश आहे, असे त्यात म्हटले आहे.

यूएस स्टेट डिपार्टमेंटने सांगितले की एआय एजंटने त्याच्या वेबसाइटवर फॉर्म वापरून 20 व्हिसा अर्ज दाखल केले होते, परंतु ते अपूर्ण होते आणि त्यावर प्रक्रिया केली जात नव्हती, असे अहवालात म्हटले आहे.

अध्यक्ष डोनाल्ड ट्रम्प यांनी अलीकडेच एआय टास्क फोर्सची घोषणा केली, जे ते म्हणाले की एआय कंपन्या, ग्राहक आणि धार्मिक गटांसह सरकार आणि सर्व पक्षांमधील प्रतिबद्धता समन्वयित करेल.

या वर्षाच्या सुरुवातीला, प्रतिस्पर्धी टेक कंपनी, ओपन एआयच्या एका बदमाश एजंटने ऑस्ट्रेलियन सरकारी वेबसाइट हॅक केली आणि देशाच्या युनिव्हर्सल हेल्थकेअर स्कीम, मेडिकेअरवरील खाजगी डेटामध्ये प्रवेश केला.

दुसऱ्या एका प्रसंगात, 1,200 हून अधिक OpenAI एजंट्स बदमाश झाले आणि अनपेक्षितपणे संवाद साधू लागले, ज्यामुळे एआय प्लॅटफॉर्म हगिंग फेस हॅक करण्यासाठी एक मोठा गट एकत्र आला.