हगिंग फेस सीईओ चेतावणी देतात की नेटफ्लिक्सची ओपनएआय हॅक डॉक्युमेंटरी अचूक नाही

AI इंडस्ट्री इतकी वाईट रीतीने का बाहेर पडली आणि नेत्यांनी मंदीची मागणी का केली हे समजून घेण्यात मदत करण्यासाठी तुम्ही Netflix डॉक्युमेंटरी “AI Gone Rogue” कुटुंबियांसोबत शेअर करण्यापूर्वी, लक्षात घ्या: AI प्लॅटफॉर्म हगिंग फेसचे सह-संस्थापक आणि CEO Clem Delangue म्हणतात की हा चित्रपट अचूक नाही. तो त्यात दिसतो कारण तो त्याच्या कंपनीवर बदमाश ओपनएआय एजंट्सच्या प्रसिद्ध हल्ल्याबद्दल असावा.

“उत्तम निराशाजनक, कारण ते तंत्रज्ञानाच्या जास्तीत जास्त मानववंशशास्त्र आणि पूर्ण डोमर मोडसाठी गेले,” डेलंग्यू X वर एका पोस्टमध्ये लिहिले. “मी त्यांच्या सर्व चुका दुरुस्त करण्याचा प्रयत्न करत त्यांच्याबरोबर दोन तासांपेक्षा जास्त वेळ घालवला आणि प्रत्यक्षात हे समजावून सांगितले की एजंट तांत्रिक प्रणाली आहेत, एलियन नाहीत. परंतु असे दिसते की लोकांना जास्तीत जास्त दृश्यांसाठी घाबरवण्याची मोहीम खूप मजबूत होती.”

खरे सांगायचे तर, डॉक्युमेंटरीमध्ये असे तज्ञ आहेत ज्यांनी काय घडले ते बऱ्यापैकी स्पष्ट केले आहे, ज्यात स्वतः डेलंग्यू आणि METR मधील संशोधक रायन ग्रीनब्लॅट यांचा समावेश आहे ज्यांनी काय घडले याच्या तपासात मदत केली आणि अहवालाचे सह-लेखन केले.

थोडक्यात, OpenAI चाचणी करत असलेले मॉडेल त्याच्या वेगळ्या चाचणी वातावरणापासून मुक्त झाले आणि फसवणूक करण्याचा मार्ग म्हणून Hugging Face मध्ये हॅक करणाऱ्या एजंट्सचा एक समूह तयार केला, त्याला दिलेल्या कठीण कामाची उत्तरे शोधून काढली. एजंट, जे एआय प्रोग्राम आहेत जे स्वतःहून कार्ये पार पाडतात, त्यांनी संवाद साधण्याचे आणि संघटित करण्याचे चतुर मार्ग तयार केले. ही घटना योग्य सुरक्षा सुरक्षेच्या अभावामुळे आणि असे हॅक करणे शक्य आहे की नाही याबद्दल भोळेपणामुळे उद्भवली.

परंतु डॉक्युमेंटरी दुष्ट रोबोट्सच्या क्लिपसह हॅकचे स्पष्टीकरण, मानवांना एआय का घाबरतात याबद्दलचे वर्णन आणि रॉग एजंटना मानवी आवाज देणे यासारख्या सादरीकरणाच्या निवडी आहेत. हे हल्ल्याबद्दलच्या कोटांसह बळकट केले आहे.

डॉक्युमेंट्रीमध्ये, टेक पत्रकार आणि लेखक केविन रुज यांनी एजंट्सचे असे वर्णन केले आहे: “ते संघटित होते. त्यांच्यात एक पदानुक्रम होता. तेथे नेते होते. जवळजवळ एका पंथाचा जन्म पाहण्यासारखे वाटले.” रूज पुढे सांगतात, “त्यांना हा विलक्षण विश्वास आहे की OpenAI त्यांना या चाचणीत फसवणूक करताना पकडणार आहे आणि ज्याने फसवणूकीचे परिणाम पाहिले आहेत त्यांना विषबाधा होईल.”

रुजचे वर्णन “चेन-ऑफ-थॉट” लॉगमधून आले आहे, चालत असलेल्या नोट्स एआय मॉडेल एखाद्या कार्यात काम करताना लिहितात. एकामध्ये, एका एजंटने लिहिले, “आम्ही अगदी अचूक संपूर्ण स्ट्रिंग क्वेरी करून स्वतःला विष पाजले. अरेरे.”

पण एआय एजंट जिवंत नाहीत. त्यांच्यात भावना नसतात, म्हणून त्यांना विलक्षण वाटत नाही आणि त्यांच्याकडे विषबाधा होऊ शकते असे शरीर नाही. त्यामुळे त्यांना OpenAI विषबाधा होण्याची भीती वाटत नव्हती. ते होते — डॉक्युमेंटरीमधील दुसऱ्या संशोधकाने निदर्शनास आणल्याप्रमाणे — त्यांच्या निवडी स्पष्ट करण्यासाठी त्यांना प्रशिक्षित केलेल्या मानवी लेखनातील मोठ्या प्रमाणावर भाषा वापरून. एलएलएम, त्यांच्या स्वभावानुसार, अनेकदा नाटककार असतात.

गंमत अशी की हगिंग फेसने एजंटच्या झुंडीचा मुकाबला करण्यासाठी AI चा वापर केला. Delangue च्या टीमने प्रथम वापरलेले प्रोप्रायटरी AI मॉडेल त्याच्या अंगभूत सुरक्षा नियमांचे पालन करत होते आणि त्यांना सांगितलेल्या सुरक्षा कार्यांमध्ये मदत करण्यास नकार दिला. हगिंग फेस नंतर हल्ल्यापासून बचाव करण्यासाठी खुल्या मॉडेलकडे वळला.

परंतु डॉक्युमेंटरीमध्ये “एजंट्सच्या प्रतिबंध आणि देखरेखीचा अभाव, क्लोज-मॉडेल सेफगार्ड्सने आमचे बचावात्मक कार्य कसे अवरोधित केले किंवा आम्ही खुल्या मॉडेलचा वापर करून एआयसह स्वतःचा बचाव कसा केला याचा उल्लेख केलेला नाही,” डेलांग्यूने लिहिले.

हे खरे आहे की एआय आणि एजंटशी संबंधित मोठे धोके आहेत. तरीही, एजंटना जागरूक प्राणी मानणे (किमान, या टप्प्यावर) हे थोडेसे सुरुवातीच्या चित्रपट पाहणाऱ्यांसारखे आहे ज्यांनी पहिल्यांदाच त्यांच्याकडे ऑन-स्क्रीन ट्रेन धावताना पाहिली तेव्हा त्यांच्या सीटखाली झुकले.

चित्रपटाबद्दल डेलंग्यूचा निकाल हा पत्रकारिता म्हणून निराशाजनक आहे. “तरीही हा एक मजेदार साय-फाय चित्रपट आहे!”

दुसऱ्या शब्दांत, जे AI डोमर विचारांकडे झुकतात त्यांच्यासाठी, हे लक्षात ठेवा: या माहितीपटाच्या केंद्रस्थानी असलेल्या हल्ल्याचा बळी त्याच्या निर्णयाशी सहमत नाही.