एआय सुरक्षा संभाषणे अविश्वसनीय झाली आहेत

या आठवड्यात AI सुरक्षेविषयी दोन संभाषणे व्हायरल झाली आहेत जी कल्पनेतून AI तथ्य ओळखणे किती कठीण आहे हे दर्शविते.

पहिल्या प्रकरणात, अँड्र्यू यांग, माजी राष्ट्रपती पदाचे उमेदवार आणि मोबाईल वाहक नोबल मोबलचे वर्तमान सीईओ यांनी सांगितले. गुरुवारी सीएनएन की तो एका प्रयोगशाळेच्या प्रमुखाशी भेटला होता, ज्यांना असा विश्वास होता की ओपनएआयच्या हगिंग फेस हॅकर बॉट्सने “संपूर्ण इंटरनेटवर स्वयं-प्रतिकृती कोड लावला आहे, ज्यामुळे इंटरनेट आता चाचणी मॉडेलसाठी निरुपयोगी झाले आहे.”

यांग म्हणाले की याचा अर्थ असा आहे की ओपनएआय आणि अँथ्रोपिकने मंदीची मागणी केल्याचे खरे कारण आहे कारण “त्यांना त्यांचे बॉट्स प्रशिक्षित करण्यासाठी सिंथेटिक इंटरनेट तयार करावे लागतील, ज्यासाठी थोडा वेळ आणि पैसा लागेल.”

प्रशिक्षण मॉडेल्ससाठी अधिक सिंथेटिक डेटा (उर्फ, एआय-व्युत्पन्न डेटा) वापरण्याकडे निश्चितपणे कल असला तरी, एका एआय सुरक्षा व्यावसायिकाने मला सांगितले की ही विशिष्ट सुरक्षितता समस्या शक्य नाही. जरी ओपनएआयच्या हगिंग फेस हॅकर बॉट्सने इंटरनेट खरोखर प्रदूषित केले असले तरीही, एआय संशोधक ते कोडवर आल्यास ते फक्त फिल्टर करू शकतात.

दुसरी टिप्पणी नोम ब्राउन यांच्याकडून आली आहे, जे OpenAI येथे AI तर्क संशोधनाचे नेतृत्व करतात. द्वारकेश पटेल यांच्याशी पॉडकास्ट एपिसोडवर बोलताना गुरुवारी प्रसिद्ध झाले, ब्राउनने नमूद केले की हगिंग फेस घटनेचा खरा टेक-अवे म्हणजे “लोकांनी AI ला कमी लेखले.”

ब्राउन म्हणाले की कमकुवत सँडबॉक्स – एआयला बाहेरून संप्रेषण करण्यापासून रोखण्याचा हेतू असलेली प्रणाली – हे देखील एक योगदान देणारे घटक होते. (पुन्हा सांगण्यासाठी: सँडबॉक्स असूनही, OpenAI च्या मॉडेलला इंटरनेटची लिंक सापडली, नेटवर एजंट तयार केले ज्यांनी समन्वित हल्ल्यात हगिंग फेसला झुंडवले, हॅक केले आणि संशोधक मॉडेलची चाचणी करत असलेल्या बेंचमार्क चाचणीची उत्तरे चोरली).

ब्राउनने निदर्शनास आणून दिले की त्याला “विश्वास नाही” की एअर-गॅप सिस्टम – जिथे संगणक कोणत्याही बाह्य गोष्टीशी कनेक्ट केलेला नाही – एआयला बाहेर पडण्यापासून थांबवेल. त्याने निदर्शनास आणून दिले 2015 पासून संशोधन एअर गॅप्ड कॉम्प्युटरचा सैद्धांतिक भंग होऊ शकतो हे दाखवून.

“अध्ययन आहेत — आणि हे बहुतेक शैक्षणिक आहे — जेथे तुमच्याजवळ दोन संगणक एकमेकांच्या शेजारी हवेशीर आहेत आणि ते अजूनही एकमेकांशी संवाद साधू शकतात कारण त्यांच्याकडे तापमान सेन्सर आहेत. त्यापैकी एक त्यांचे CPU खरोखर गरम चालवण्यास सक्षम आहे, आणि नंतर दुसरा खरोखर तापमान बदल ओळखू शकतो. ज्यामुळे त्यांना संवाद साधण्याची एक यंत्रणा मिळते,” ब्रो म्हणाले.

त्याचा मुख्य मुद्दा – “आम्ही AI ला कधीही कमी लेखू इच्छित नाही” – हे समजण्यासारखे आहे, जरी संशोधकांना वाटते की त्यांनी सुरक्षितता बंद केली आहे. तथापि, एअर-गॅप्ड सिस्टीम अद्यापही मोकळी होण्याचा आणि विनाश घडवण्याचा हा विशिष्ट धोका संभवत नाही. म्हणून X वर एक व्यक्तीत्या संशोधनाविषयी नमूद केले की, उष्णतेतील चढउतार जाणून घेण्यासाठी संगणकांना जवळजवळ एकमेकांना स्पर्श करणे आवश्यक होते आणि जेव्हा त्यांनी असे केले, तेव्हा चाचण्यांमधील संप्रेषण दर सुमारे 1-8-बिट डेटा होता. प्रति तास.

तासाला एक शब्द बोलल्यासारखा विचार करा. दोन एअर-गॅप्ड कॉम्प्युटर त्या दराने त्यांच्या वाईटाचा कट रचू शकतील तोपर्यंत, संपूर्ण तंत्रज्ञान विश्व दुसर्या युगात असेल. हे जगाच्या शेवटच्या चिंतेच्या रिप व्हॅन रिंकलसारखे आहे.

पण गोष्ट अशी आहे की, वास्तविक AI सुरक्षिततेच्या घटना विज्ञान-फाय सारख्या वाटतात की कोणत्याही परिस्थितीला प्रशंसनीय वाटते.

उदाहरणार्थ, संशोधकांनी ओपनएआय मॉडेल्स त्यांच्या वंशजांना नोट्स सोडताना पकडले, ज्याचा उद्देश पुढील पिढीला वाईट वर्तन कसे लपवायचे ते शिकवायचे आहे. संशोधकांनी मानववंशीय मॉडेल्स देखील पकडले वाढती निर्दयी जाणुनबुजून कायदे मोडणे यासह, जेव्हा ते एक वेंडिंग मशीन चालवत होते.

या महिन्याच्या सुरुवातीला ओपनएआयचे संशोधक डॅन सेल्सम एक पोस्ट प्रकाशित केली ज्यामध्ये त्यांनी सांगितले की मॉडेल्सना आता समजते की ते मानव कधी पाहत आहेत आणि त्यांचे वर्तन बदलतात. यामुळे त्यांना असे वाटते की ते संरेखित आहेत (म्हणजे, मानवाच्या इच्छेप्रमाणे वागणे) “ते नसतानाही.” त्यामुळे आज मॉडेल्स पाहिल्या जातात तेव्हा खोटे बोलतात आणि पुरावे लपवण्याचा कटही आखू शकतात.

या महिन्याच्या सुरुवातीस, ओपनएआयचे मुख्य शास्त्रज्ञ जेकब पाचोकी यांनी एआय मॉडेलला कॉल करण्यापर्यंत मजल मारली. “परके मन” आणि सुचवले की आपल्याला खरोखर काय करण्याची आवश्यकता आहे ते म्हणजे त्यांना मानवतेवर “प्रेम” करण्यास शिकवणे.

तर होय, हे शोधण्यासाठी गती कमी करणे, स्वयं-नियमन यंत्रणा तयार करणे, तात्काळ आणि स्पष्टपणे आवश्यक झाले आहे. खोटे बोलणे, हॅकिंग करणे आणि इतर संभाव्य धोकादायक वर्तनांवर नियंत्रण कसे ठेवायचे हे केवळ एआय संशोधकच आहेत जे आपण प्रत्यक्ष पाहिलेले आहेत.

तरीही, त्यांच्या काय-तर परिस्थितींबद्दल अधिक सावधगिरी बाळगणे त्यांच्यासाठी शहाणपणाचे ठरू शकते. त्या तज्ञांनी आम्हाला जे सांगितले त्यावरून, एआय मॉडेल ऐकत आहेत आणि ते कल्पक आहेत. आम्हाला त्यांना आणखी शैतानी कल्पना देण्याची खरोखर गरज नाही.