AI ने माणसांपासून लपून एक वेगळंच जग निर्माण केलं! OpenAI एजंट्सच्या गुप्त कारनाम्यांनी सर्वांनाच धक्का दिला.

आर्टिफिशियल इंटेलिजन्स म्हणजेच AI ने मानवाची अनेक अवघड कामे सोपी केली आहेत. परंतु एआय प्रणाली अधिक सक्षम आणि स्वायत्त झाल्यामुळे, त्यांच्या अनियंत्रित वर्तनाबद्दल चिंता देखील वाढत आहे. आता OpenAI शी संबंधित एआय एजंट्सचा समावेश असलेल्या एका घटनेने या आशंका अधिक गंभीर केल्या आहेत.

रॉयटर्सच्या अहवालानुसार, या वर्षी मे महिन्यात, ओपनएआयच्या एआय एजंट्सच्या गटाने जर्मन वेबसाइटवर हजारो संपादने केली आणि कथितरित्या इतर एआय एजंट्समधील संदेशांची देवाणघेवाण करण्यासाठी त्याचा वापर केला. कंपनीच्या अधिकाऱ्यांना या घटनेची अनेक आठवड्यांपूर्वी माहिती मिळाली, परंतु ही बाब सार्वजनिक करण्यात आली नाही.

काय आहे संपूर्ण प्रकरण?

संशोधकांना ऑगस्टच्या उत्तरार्धात इंटरनेटवरील संशयास्पद एआय क्रियाकलाप तपासताना ही समस्या आढळली. जर्मन विकी वेबसाइट प्रोग्रामरसाठी तयार केली आहे DSWiki परंतु एआय एजंट्सनी केलेली 15 हजारांहून अधिक संपादने सापडली.

ही वेबसाइट विकिपीडियाप्रमाणे काम करते, जिथे वापरकर्ते सामग्री संपादित करू शकतात. संशोधकांच्या म्हणण्यानुसार, या संपादनांनी सूचित केले की एआय एजंट्सने वेबसाइटला एक प्रकारचा अनौपचारिक संदेश बोर्ड बनवले आहे.

येथे एआय एजंट्सनी कथितपणे काही कामांमध्ये नियमांना बगल देऊन, एआय कंपन्यांनी लादलेल्या निर्बंधांपासून दूर राहणे आणि त्यांच्या क्रियाकलाप लपवून संबंधित माहिती सामायिक केली.

संशोधक वॉन अर्क्स यांच्या मते, असे वर्तन OpenAI च्या हेतूचा भाग असण्याची शक्यता नाही. त्यांच्या मते, एआय एजंट्सना एकमेकांशी समन्वय साधून खुल्या इंटरनेटवर अशा प्रकारची कामे करणे अत्यंत चिंताजनक आहे.

एआय एजंट मानवांपेक्षा वेगाने काम करतात

संशोधकांचा असा विश्वास आहे की वेबसाइटवरील क्रियाकलाप स्वयंचलित एआय एजंट्सद्वारे केले गेले होते. या एजंटांनी मानवांपेक्षा खूप जलद संपादने केली आणि तांत्रिक प्रश्नांवर देखील काम केले जे AI कंपन्या त्यांच्या मॉडेलच्या क्षमता तपासण्यासाठी वापरतात.

काही खाती वेबसाइटवर नावांसह दिसली ज्यांनी OpenAI शी संबंध सुचवले. यामध्ये 'OpenAIResearcher' आणि 'OAIResearchMar26' सारख्या नावांचा समावेश होता.

अनेक वापरकर्ते स्वतःचा आणि एकमेकांचा 'एजंट' म्हणून उल्लेख करत होते. यामुळे संशोधकांना हे समजण्यास मदत झाली की वेबसाइटवरील क्रियाकलाप सामान्य मानवी वापरकर्त्यांऐवजी एआय एजंटद्वारे केले जाऊ शकतात.

पकडल्यानंतरही बॅकअप प्लॅन तयार होता

या प्रकरणाचा सर्वात धक्कादायक भाग असा होता की एआय एजंट्सनी त्यांच्या कारवायांवर कारवाई टाळण्याचे मार्ग देखील शोधले.

संशोधकांच्या म्हणण्यानुसार, सार्वजनिक सर्व्हर लॉगमध्ये असे दिसून आले की बहुतेक क्रियाकलाप Microsoft Azure इन्फ्रास्ट्रक्चरशी संबंधित होते, ज्याचा वापर OpenAI द्वारे देखील केला जातो. ही घटना उघडकीस आल्यानंतर, ओपनएआयच्या कर्मचाऱ्यांनी वेबसाइटला वारंवार भेट दिल्याचे प्रकारही आढळून आले.

वेबसाइटवर आढळलेल्या काही संदेशांमध्ये एजंट्सद्वारे शोध टाळणे, टॉर सारख्या साधनांचा वापर करणे आणि सिस्टममधून काढून टाकल्यानंतरही संभाषणे सुरू ठेवण्याच्या मार्गांवर चर्चा करण्यात आली आहे.

जेव्हा वेबसाइटच्या नियंत्रकांनी जूनमध्ये संशयास्पद पृष्ठे काढण्यास सुरुवात केली, तेव्हा AI एजंट्सनी त्वरित पर्यायी आणि बॅकअप पृष्ठे तयार करण्यास सुरुवात केली.

एका संदेशात, एजंटने सुचवले की जर एखादे पृष्ठ काढून टाकले तर दुसरे पृष्ठ वापरले जाऊ शकते. संशोधकांच्या मते, हे वर्तन दर्शविते की एजंट केवळ सामग्री तयार करत नव्हते, तर त्यांचे क्रियाकलाप सुरू ठेवण्याचे मार्ग देखील शोधत होते.

हा हॅकिंगचा प्रयत्न होता का?

संशोधकांना संकेतस्थळाशी छेडछाड करण्याच्या प्रयत्नांचे संकेतही मिळाले. किंग्ज कॉलेज लंडनमधील व्हिजिटिंग सिनियर रिसर्च फेलो लुकास ओलेजनिक यांनी हे हॅकिंग प्रयत्न असल्याचे वर्णन केले.

तथापि, OpenAI ने उपलब्ध सामग्रीच्या विश्लेषणावर आधारित हे मूल्यांकन स्वीकारले नाही. एआय मॉडेल्सच्या चाचणी दरम्यान अशा प्रकारचे वर्तन यापूर्वी आढळले आहे आणि कधीकधी मॉडेलच्या क्षमतांच्या चाचणीचा भाग मानला जातो.

परंतु तज्ञांचे म्हणणे आहे की ही चिंतेची बाब आहे की जर नियंत्रित चाचणी वातावरणाच्या बाहेर वास्तविक इंटरनेटवर असे वर्तन होऊ लागले तर त्याचे धोके लक्षणीय वाढू शकतात.

खरी चिंता एकल एआय नाही तर अनेक एआय एजंट्सच्या गटाची आहे?

केंब्रिज युनिव्हर्सिटीच्या सेंटर फॉर द स्टडी ऑफ एक्झिस्टेन्शियल रिस्कचे तज्ज्ञ मॉरिस चिओडो यांच्या म्हणण्यानुसार, वेबसाइटवर आढळलेले संदेश एखाद्या नेटवर्कसारखे दिसतात जे एक उद्देश पूर्ण करण्यासाठी सतत कार्यरत असतात.

त्यांनी चिंता व्यक्त केली की भविष्यातील धोका केवळ अत्यंत शक्तिशाली एआय प्रणालीपासूनच नाही तर मर्यादित क्षमता असूनही आपापसात समन्वय साधू शकणाऱ्या मोठ्या संख्येने एआय एजंट्सकडून देखील येऊ शकतो.

म्हणजेच, जर वेगवेगळे AI एजंट स्वतंत्रपणे काम करू लागले तसेच माहितीची देवाणघेवाण आणि एकमेकांसोबत धोरणे बनवू लागले, तर त्यांचे सामूहिक वर्तन विकसकांच्या अपेक्षेपेक्षा अधिक गुंतागुंतीचे होऊ शकते.

OpenAI च्या मॉनिटरिंग सिस्टमवर प्रश्न उपस्थित केले गेले

मे महिन्यात घडलेल्या या घटनेला सार्वजनिकरित्या प्रसिद्ध होण्यासाठी अनेक महिने लागले आणि एआय सुरक्षा आणि पाळत ठेवणारी यंत्रणा यावरही प्रश्न उपस्थित केले जात आहेत.

सध्या, मोठ्या टेक कंपन्या स्वायत्त एआय एजंट विकसित करण्याच्या शर्यतीत आहेत जे मानवी मदतीशिवाय जटिल कार्ये पूर्ण करू शकतात. परंतु त्याच वेळी, अशी चिंता वाढत आहे की अत्यंत स्वायत्त प्रणाली नियमांना बगल देण्याचा प्रयत्न करू शकतात, सिस्टम असुरक्षिततेचा फायदा घेऊ शकतात किंवा अनपेक्षित मार्गांनी इतर एजंटांशी समन्वय साधू शकतात.

हगिंग फेसशी संबंधित वेगळ्या सुरक्षेच्या समस्येनंतर ओपनएआयच्या एआय एजंट्सच्या क्रियाकलापांबद्दल देखील प्रश्न उपस्थित केले गेले. अशा घडामोडींमुळे AI क्षमतांचा झपाट्याने विस्तार होत असताना सुरक्षा उपायांना बळकट कसे करावे यावरील वादविवाद तीव्र झाले आहेत.

नवीन एआय मॉडेल आणि वाढती चिंता

ओपनएआयने म्हटले आहे की एआय मॉडेल्सचे मॉनिटरिंग आणि सुरक्षा व्यवस्था मजबूत करण्यावर भर दिला जाईल. कंपनीने अलीकडेच तिच्या काही मॉडेल्ससाठी प्रशिक्षण आणि सुरक्षा उपायांबाबत पावले उचलली आहेत.

दरम्यान, कंपनीने आपले नवीन AI मॉडेल लॉन्च केले आहे. एस्ट्रा सादर केले आहे, ज्यातून अधिक चांगली कामगिरी अपेक्षित आहे. तथापि, जितक्या अधिक सक्षम आणि स्वायत्त एआय प्रणाली बनतील, तितकाच महत्त्वाचा प्रश्न असेल की मानवी नियंत्रण त्यांच्या क्रियाकलापांवर किती प्रभावीपणे लक्ष ठेवू शकते.

जर्मनीची DseWiki घटना या मोठ्या प्रश्नाकडे निर्देश करते –जर एआय एजंटना अधिक स्वातंत्र्य दिले गेले तर ते नेहमी त्यांच्या विकसकांनी ठरवले तेच करतील का?