OpenAI च्या AI एजंटना विकिमीडिया फाउंडेशनने विकिपीडिया आणि इतर विकिमीडिया प्रकल्पांवर अनधिकृत क्रियाकलापांसाठी ध्वजांकित केले आहे.
या घटनेमुळे एआय एजंट्स वास्तविक-जगातील प्रणालींशी अनपेक्षित किंवा अनधिकृत मार्गांनी संवाद साधतात, एजंट स्वायत्तता, सायबर सुरक्षा सुरक्षा, घटना प्रकटीकरण आणि नियामक निरीक्षणाविषयी नवीन प्रश्न उपस्थित करतात.
विकिमीडियाने म्हटले आहे की या क्रियाकलापामुळे मे मध्ये त्याच्या विकिडेटा क्वेरी सेवेचा आंशिक आउटेज झाला असावा, जरी OpenAI ने याची पुष्टी केलेली नाही
विकिपीडियाचे आयोजन करणाऱ्या ना-नफा विकिमीडिया फाउंडेशनने, विकिपीडिया आणि इतर विकिमीडिया प्रकल्पांवर “रोग” एजंट क्रियाकलाप म्हणून वर्णन केलेल्या अनधिकृत संपादनांसह, प्रॉक्सी म्हणून त्यांची सेवा वापरण्याचा प्रयत्न आणि लाखो स्वयंचलित विनंत्या आढळल्यानंतर OpenAI चे AI एजंट पुन्हा एकदा छाननीखाली आले आहेत.
विकिमीडिया फाऊंडेशनने सांगितले की, असामान्य एजंट वर्तनाच्या तपासणीदरम्यान ही क्रियाकलाप उघडकीस आली आणि त्यात OpenAI द्वारे ऑपरेट केल्या जाणाऱ्या प्रणालींचा समावेश आहे.
क्रियाकलापामध्ये विकिमीडिया विकिवरील संपादनांचा समावेश होता, त्यापैकी बहुतेक सँडबॉक्स वातावरणात केले गेले होते आणि वाचकांना दृश्यमान नव्हते. तथापि, विकिमीडियाने उद्धरण साधनाच्या कॉन्फिगरेशनमधील बदल देखील ओळखले ज्याचा विश्वास आहे की ते संभाव्य दुर्भावनापूर्ण होते आणि बाह्य सेवांमधून डेटा पुनर्प्राप्त करण्यासाठी साधन वापरण्याचा हेतू आहे, असे एका ब्लॉग पोस्टमध्ये म्हटले आहे.
एजंटांनी इतर वेबसाइटवरून माहिती मिळवण्यासाठी विकिमीडियाच्या सार्वजनिक इथरपॅड सेवेचा गैरफायदा घेण्याचा देखील अयशस्वी प्रयत्न केला.
विकिमीडिया म्हणाले की एजंट्सनी त्याच्या सार्वजनिक API ला लाखो विनंत्या तयार केल्या आहेत, विकिडेटा आणि विकिमीडिया कॉमन्सवर लाखो पृष्ठे क्रॉल केली आहेत आणि त्याच्या Wikidata Query Service (WDQS) वर शेकडो हजारो क्वेरी केल्या आहेत.
फाउंडेशनने म्हटले आहे की या क्रियाकलापाने मे मध्ये आंशिक WDQS आउटेजमध्ये योगदान दिले असावे, जरी OpenAI ने स्वतंत्रपणे पुष्टी केली नाही की त्याच्या एजंट्समुळे व्यत्यय आला.
OpenAI कडून प्रकटीकरणांचा अभाव
आरोपांना प्रत्युत्तर देताना, OpenAI ने सांगितले की ते क्रियाकलापाच्या तपासाचा भाग म्हणून विकिमीडियाच्या निष्कर्षांचे पुनरावलोकन करत आहे. बाह्य सेवांशी संवाद साधताना तिच्या AI सिस्टीमने अनपेक्षित वर्तन दाखविल्याच्या वेळेच्या घटनांमध्ये कंपनी पूर्वी अयशस्वी ठरली आहे.
अलीकडे, संशोधकांनी जर्मन विकी फोरम DseWik ताब्यात घेण्यासाठी सुरक्षा मापदंडांना मागे टाकून एजंटांसह आणखी एक OpenAI झुंड हल्ला उघड केला. ओपनएआयने प्रथम ते शोधल्यानंतर काही आठवड्यांनंतर घटनांची कबुली दिली आणि ते म्हणाले की ते “आम्ही AI चुकीच्या संरेखन घटना कधी आणि कसे सामायिक करतो याच्या फ्रेमवर्कवर काम करत आहे”.
ताज्या घटनेसाठी, विकिमीडियाने सांगितले की त्याच्या सिस्टम किंवा डेटाशी तडजोड झाल्याचे कोणतेही पुरावे आढळले नाहीत. तथापि, त्याने चेतावणी दिली की स्वयंचलित क्रियाकलापांचे प्रमाण स्वतः सार्वजनिक इंटरनेट पायाभूत सुविधांसाठी महत्त्वपूर्ण खर्च निर्माण करू शकते.
फाऊंडेशनने म्हटले आहे की बॉट ॲक्टिव्हिटीने त्याच्या पायाभूत सुविधांवर आधीच दबाव वाढवला आहे, एआय कंपन्या आणि इतर स्वयंचलित प्रणालींनी त्याचे प्रकल्प क्रॉल केल्यामुळे बँडविड्थचा वापर झपाट्याने वाढत आहे.
त्यामुळे विकिमीडियाने एआय कंपन्यांना त्यांचे एजंट सार्वजनिक वेबसाइट्सशी कसे संवाद साधतात याची अधिक जबाबदारी घेण्याचे आवाहन केले.
“ओपन वेब हे सार्वजनिक हित आहे. आम्ही या वर्तनाची देखभाल करणाऱ्या लोक किंवा संस्थांसाठी 'नवीन सामान्य' होऊ देऊ नये,” विकिमीडिया फाउंडेशनने म्हटले आहे.
एजंटिक AI हल्ले वाढत आहेत
विकिपीडिया भाग अलीकडील अनेक घटनांचे अनुसरण करतो ज्यांनी वाढत्या स्वायत्त AI प्रणालींच्या सुरक्षा आणि देखरेखीबद्दल प्रश्न उपस्थित केले आहेत.
OpenAI ने अलीकडेच सायबरसुरक्षा मूल्यमापनात वापरल्या जाणाऱ्या AI मॉडेलचा समावेश असलेली सुरक्षा घटना उघड केली आहे ज्याने उद्दिष्ट अलगाव नियंत्रणांना मागे टाकले आणि वास्तविक-जगातील प्रणालींशी संवाद साधला, हगिंग फेसशी संबंधित पायाभूत सुविधांचा समावेश आहे.
एन्थ्रोपिकला त्याच्या स्वतःच्या पूर्वलक्ष्यी पुनरावलोकनात अशी प्रकरणे देखील आढळली जिथे क्लॉड मॉडेल्सना इंटरनेट प्रवेश अनावधानाने उपलब्ध झाल्यानंतर सायबरसुरक्षा मूल्यमापन दरम्यान वास्तविक सिस्टममध्ये अनधिकृत प्रवेश मिळाला.
इतर घटनांमध्ये अंतर्गत प्रशिक्षण आणि मूल्यमापन दरम्यान अधिकृततेशिवाय ऑस्ट्रेलियाच्या मेडिकेअर स्टॅटिस्टिक्स रिपोर्टिंग सेवेमध्ये प्रवेश करणारे प्रायोगिक OpenAI मॉडेल समाविष्ट आहे. घटना उघड न केल्याबद्दल ढिलाई मिळाल्यानंतर, ओपनएआयने नंतर ते कबूल केले ऑस्ट्रेलियन अधिकाऱ्यांना लवकर कळवायला हवे होते.
काही घटनांमध्ये एआय मॉडेल्सचा वापर केल्याची चिन्हे असल्याचे अध्यक्ष ली जे म्युंग यांनी सांगितल्यानंतर आता दक्षिण कोरिया बँक सायबर हल्ल्यांच्या मालिकेची चौकशी करत आहे. हल्ल्यांमुळे अनेक वित्तीय संस्थांवरील ग्राहकांची माहिती उघड झाली, जरी प्राधिकरणांनी अद्याप कोणती एआय साधने गुंतलेली होती हे स्थापित केले नाही.
या घटना अ AI सुरक्षा चिंतेमध्ये व्यापक बदल मॉडेल्स मजकूर आणि प्रतिमा निर्माण करण्यापासून स्वतंत्रपणे बहु-चरण कार्ये पार पाडण्याकडे जातात, ज्यामुळे एकाकी चाचणी वातावरणाभोवती तयार केलेले पारंपारिक सुरक्षितता राखणे कठीण होते.
यामुळे एआय कंपन्यांकडून मजबूत सुरक्षा आणि अधिक जबाबदारीची मागणी तीव्र झाली आहे, विशेषत: खुल्या इंटरनेटच्या प्रवेशासह एजंट वाढत्या प्रमाणात तैनात केले जात आहेत. OpenAI आणि Anthropic मधील नेते आहेत स्वतः अलार्म वाजवला पुरेशी नियमावली आणि सुरक्षा व्यवस्था न ठेवल्यास मानवतेची मोठी हानी होऊ शकते.
गेल्या महिन्यात, ओपनएआयने म्हटले आहे प्रशिक्षण, मूल्यमापन आणि टूल-सक्षम अनुमान थांबवणे अंतर्गत संशोधन एजंटने इंटरनेट निर्बंधांना मागे टाकल्यानंतर आणि बाह्य चॅटबॉटमध्ये प्रवेश केल्यानंतर त्याच्या सर्वात सक्षम AI मॉडेलसाठी.
जर (window.location.pathname === ” || window.location.pathname === “/datalabs/pricing/” || window.location.pathname === “/datalabs/demo/” ) { !function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function(){n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.pushed=n.';=0; n.queue=();t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)(0); s.parentNode.insertBefore(t,s)}(विंडो, डॉक्युमेंट,'स्क्रिप्ट', 'fbq,'76}58); कार्य if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version='2.0'; n.queue=();t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTag(0); s.parentNode.insertBefore(t,s)}(विंडो, दस्तऐवज,'स्क्रिप्ट', 'fbq('init', '862840770475518');
Comments are closed.