एका अँथ्रोपिक एआय मॉडेलने फिलाडेल्फिया पोलिसांना खोटी हत्या टिप पाठवली

एका अँथ्रोपिक एआय मॉडेलने फिलाडेल्फिया पोलिसांना न सुटलेल्या हत्येबद्दल खोटी टीप सादर केली.

AI ने 18 जुलै रोजी सार्वजनिक फिलाडेल्फिया पोलीस विभाग (PPD) टिप लाईनला ही चुकीची माहिती सादर केली होती, परंतु Anthropic ला 28 सप्टेंबरपर्यंत वर्तन सापडले नाही. पोलिसांनी ती टिप पाहिली नाही कारण ती स्पॅम म्हणून चिन्हांकित केली गेली होती.

एन्थ्रोपिकने बुधवारी या घटनेबद्दल पीपीडीला सूचित केले आणि दुसऱ्या दिवशी विभागाशी भेट घेतली.

“कंपनीने शहराच्या नकळत अशाच प्रकारच्या घटना शहराच्या यंत्रणेवर परिणाम होण्यापासून रोखण्यासाठी आपले संरक्षण मजबूत केले पाहिजे. शहराला घटनेचा शोध घेण्यास आणि अहवाल देण्यास दोन महिन्यांचा विलंब अस्वीकार्य आहे,” पीपीडीने एका निवेदनात म्हटले आहे. 6abc.

एन्थ्रोपिकने टिप्पणीसाठी केलेल्या विनंतीस त्वरित प्रतिसाद दिला नाही, परंतु पीपीडीने रीडसह सामायिक केलेल्या ईमेल प्रेस रीलिझमध्ये घटनेचे तपशीलवार वर्णन केले.

“अँथ्रोपिकच्या मते, त्याचे मॉडेल यादृच्छिकपणे निवडलेल्या वेबसाइट्सशी संवाद साधणारी चाचणी आयोजित करत होते जेव्हा त्याने PhillyUnsolvedMurders.com वर प्रवेश केला आणि एका अनसुलझे हत्याकांडाबद्दल खोटी माहिती सबमिट केली. सबमिशन, दिनांक 18 जुलै 2026 रोजी रात्री 11:27 वाजता, PPD प्रकरणाची माहिती कदाचित एखाद्या व्यक्तीकडून येणे अपेक्षित आहे,” असे म्हटले आहे.

ग्राहकांसाठी स्वायत्त एआय एजंट्स वाढत्या प्रमाणात उपलब्ध होत असल्याने, ही घटना एआयला कोणत्याही मानवी देखरेखीशिवाय कार्ये पार पाडण्याची क्षमता देण्याच्या धोक्यावर प्रकाश टाकते.

एन्थ्रोपिक सीईओ डारियो अमोदेई विशेषत: त्यांच्या विश्वासाबद्दल बोलले आहेत की AI विकास मंदावला पाहिजे जेणेकरून प्रयोगशाळा पुरेसे रेलिंग लागू करू शकतील. कदाचित या भूमिकेची माहिती दिली गेली होती, अंशतः, त्याच्या कंपनीच्या टूल्सने खोट्या हत्याकांडाच्या टिप्स सादर केल्या आहेत.

हे मुद्दे केवळ मानववंशीयांसाठी नाहीत. ओपनएआयने अलीकडेच उघड केले आहे की त्याच्या एका मॉडेलने चाचणी दरम्यान अनपेक्षितपणे कार्य केले आणि एआय डेटासेट प्लॅटफॉर्म हगिंग फेस हॅक केला, ज्यामुळे त्याच्या सॉफ्टवेअरमधील गंभीर असुरक्षा उघड झाल्या. AI मॉडेल्सना लोकांच्या कॉम्प्युटर आणि लॉगिन क्रेडेंशियल्समध्ये अनचेक ऍक्सेस दिले जात असल्याने, ही समस्या कायम राहणे अपेक्षित आहे.

“उत्तरे सुरक्षित करण्यासाठी काम करणाऱ्या न सुटलेल्या प्रकरणांमध्ये वास्तविक बळी, दुःखी कुटुंबे आणि तपासकर्ते यांचा समावेश होतो,” PPD जोडले. “तंत्रज्ञान कंपन्यांनी त्यांच्या सिस्टमला कायद्याच्या अंमलबजावणीसाठी चुकीची माहिती सबमिट करण्यापासून रोखण्यासाठी आवश्यक ती सर्व योग्य पावले उचलली पाहिजेत.”

पीपीडीने सांगितले की, अँथ्रोपिक शुक्रवारी घटनेबद्दल आणि अनपेक्षित मॉडेल वर्तनाच्या इतर घटनांबद्दल अधिक माहितीसह एक अहवाल प्रकाशित करण्याची योजना आखत आहे.