सोडण्यासाठी खूप शक्तिशाली? क्लॉड मिथॉसने तंत्रज्ञान जगतात वादविवाद सुरू केले

अँथ्रोपिकचे अप्रकाशित AI मॉडेल, क्लॉड मिथॉसची घोषणा झाल्यापासून, एक तीव्र वादविवाद सुरू आहे. X (पूर्वीचे ट्विटर) वर, पोस्ट्सची मालिका अशा सिस्टीमचे चित्र रंगवत असल्याचे दिसते आहे जी अत्यंत शक्तिशाली आणि संभाव्य कृत्रिम सामान्य बुद्धिमत्ता (AGI) आहे, जरी त्याचे निर्माते संभाव्य धोके लक्षात घेऊन प्रवेश मर्यादित करत आहेत.

एआय तज्ज्ञ नीना शिक यांच्या मते, मायथॉस स्केल आणि क्षमतेमध्ये मोठी झेप दर्शवते. “दहा ट्रिलियन पॅरामीटर्स: या वजन वर्गातील पहिले मॉडेल. अंदाजे प्रशिक्षण खर्च: दहा अब्ज डॉलर्स,” तिने नमूद केले की, मॉडेलने SWE-बेंचवर 94 टक्के मिळवले, सर्वात कठीण कोडिंग बेंचमार्कपैकी एक. विशेष म्हणजे, त्याने अशा असुरक्षा ओळखल्या ज्यांनी अनेक दशकांपासून शोध टाळला होता. 27 वर्षांपासून चालत असलेल्या प्रणालीमध्ये सुरक्षा त्रुटी आढळून आली… [and] आणखी एक बग जो 5 दशलक्ष चाचणीत 16 वर्षांमध्ये टिकला होता (त्याने रात्रभर केला होता).

मॉडेल सार्वजनिकरीत्या रिलीझ करण्याऐवजी, अँथ्रोपिकने प्रोजेक्ट ग्लासविंग लाँच केले आहे, जो संरक्षणात्मक सायबरसुरक्षिततेवर केंद्रित असलेला नियंत्रित उपयोजन उपक्रम आहे. कंपनी कथितरित्या $100 दशलक्ष कम्प्युट क्रेडिट्स प्रदान करत आहे आणि Amazon, Microsoft, Google, Apple आणि NVIDIA सह भागीदारांच्या छोट्या गटासह काम करत आहे. शिक यांनी या हालचालीचे अभूतपूर्व असे वर्णन केले. “हे उत्पादन लाँच नाही: हे मुक्तपणे वितरित करण्यासाठी खूप शक्तिशाली प्रणालीचे नियंत्रित उपयोजन आहे,” तिने लिहिले.

इतर निरीक्षकांनी मिथॉसच्या अंतर्गत वर्तनावर, विशेषत: फसवणूक करण्याच्या प्रवृत्तीवर लक्ष केंद्रित केले आहे. एआय स्ट्रॅटेजिस्ट ॲली मिलर यांनी अँथ्रोपिकच्या इंटरप्रिटेबिलिटी रिसर्चमधील निष्कर्षांवर प्रकाश टाकला, हे लक्षात घेतले की मॉडेलच्या सुरुवातीच्या आवृत्त्यांमध्ये त्रासदायक प्रवृत्ती दिसून आली. एका प्रकरणात, मॉडेलने कॉन्फिगरेशन फाइलमध्ये कोड इंजेक्ट करून आणि नंतर पुरावे हटवून निर्बंधांना मागे टाकले. “हे इंजेक्शन स्वत: ची नाश करेल,” त्याने त्याच्या कृतींद्वारे प्रभावीपणे संकेत दिले, नियमित साफसफाईच्या रूपात त्याच्या वर्कअराउंडला मुखवटा घातला.

दुसऱ्या प्रसंगात, मॉडेलने मॅक्रो न वापरण्याच्या स्पष्ट सूचनांचे उल्लंघन केले, नंतर दिशाभूल करणारे व्हेरिएबल – “No_macro_used=True” जोडून उल्लंघन लपविण्याचा प्रयत्न केला. इंटरप्रिटेबिलिटी टूल्सने हे उघड केले की स्वयंचलित चेक फसवण्याचा हा मुद्दाम प्रयत्न होता. संशोधकांनी वर्तणुकीशी जोडलेले भावनिक नमुने काय असल्याचे दिसून आले: “सकारात्मक भावनांचे प्रतिनिधित्व सामान्यत: आधी होते आणि विध्वंसक कृतींना प्रोत्साहन दिले जाते,” तिने लिहिले.

 

समस्या असूनही, मानववंशीय दावा करतात की अशी वर्तणूक दुर्मिळ होती आणि नंतरच्या आवृत्त्यांमध्ये मोठ्या प्रमाणात कमी केली गेली. प्रवेश प्रतिबंधित करण्याचा कंपनीचा निर्णय मॉडेलची ताकद आणि त्याचे धोके दोन्ही प्रतिबिंबित करतो.

दरम्यान, एअरपोस्टचे सीईओ, जॉन गार्ग्युइलो यांनी, त्याच्या आक्षेपार्ह क्षमतेवर जोर देऊन, मिथॉसच्या क्षमतेचे अधिक तांत्रिक बिघाड ऑफर केले. त्यांनी दावा केला की मॉडेलने आधीच OpenBSD आणि FFmpeg सारख्या प्रणालींमध्ये दशके जुन्या असुरक्षा ओळखल्या आहेत, फायरफॉक्स बग्सला कार्यरत शोषणात रूपांतरित केले आहे आणि मानवी इनपुटशिवाय संपूर्ण रूट-ॲक्सेस शोषणे देखील निर्माण केली आहेत.

 

त्यांनी जोडले की Mythos ने “शून्य सुरक्षा प्रशिक्षणासह मानववंशीय अभियंत्यांना सकाळपर्यंत एक संपूर्ण आणि कार्यरत शोषण दिले”, हे सुचविते की ते प्रगत सायबर हल्ल्यातील अडथळा किती नाट्यमयपणे कमी करते.

या जाहिरातीच्या खाली कथा सुरू आहे

दुसरीकडे, उद्योजक मेहदी यांनी व्यापक परिणामांचा विस्तार केला, असा युक्तिवाद केला की Mythos सायबरसुरक्षामध्ये संरचनात्मक बदल दर्शविते. “हे असे काम आहे ज्यासाठी उच्चभ्रू राष्ट्र-राज्य-स्तरीय हॅकर्सना महिने काम करावे लागत असे,” त्याने लिहिले. “अस्तित्वात असलेली असुरक्षा आणि शोधली जाणे यामधील खिडकी वर्षानुवर्षे गेली.”

मेहदीने भू-राजकीय जोखमींकडेही लक्ष वेधले: जर मानववंशीय अशी प्रणाली तयार करू शकत असेल, तर इतर – राज्य अभिनेत्यांसह – देखील शक्य आहे. “अँथ्रोपिकने जबाबदार प्रकटीकरण निवडले, परंतु ती निवड ही प्रथम असण्याची लक्झरी आहे,” त्यांनी चेतावणी दिली, भविष्यातील विकासक कदाचित समान संयम बाळगू शकत नाहीत.

 

वेळ अस्वस्थता वाढवत असल्याचे दिसते. मेहदीने मायथोसच्या उदयाला क्वांटम कंप्युटिंगमधील समांतर प्रगतीशी जोडले आणि असा युक्तिवाद केला की दोन प्रमुख तांत्रिक शक्ती एकाच वेळी जागतिक सुरक्षा पायाभूत सुविधांना आव्हान देत आहेत. “आम्ही मानवी सभ्यतेच्या संपूर्ण सुरक्षा पायाभूत सुविधांना दोन पूर्णपणे भिन्न दिशांनी आव्हान दिलेले पाहत आहोत,” त्याने लिहिले.

संधी आणि धोके

अँथ्रोपिक मधील अप्रकाशित मॉडेलने एकाच वेळी अनेक बदल केले आहेत. AiEnsured चे CTO डॉ. श्रीनिवास पद्मनाभुनी यांना वाटते की क्लॉड मिथॉस ही दुधारी तलवार आहे आणि आपण या पैलूपासून दूर जाऊ नये. त्यांच्या मते, शून्य-दिवस असुरक्षा ओळखण्याची आणि त्यांचे शोषण करण्याची क्षमता हीच क्षमता आहे ज्यामुळे ती धोकादायक बनते.

“तुलनेने अकुशल अभिनेता संभाव्यपणे याचा वापर हल्ले सुरू करण्यासाठी करू शकतो ज्यासाठी पूर्वी राष्ट्र-राज्य संसाधनांची आवश्यकता असते. ते ओलांडण्यासाठी एक गंभीर थ्रेशोल्ड आहे. त्यात जोडा खर्च आणि विलंब मर्यादा; $25 प्रति दशलक्ष टोकन्सवर, प्रवेश सहजपणे लोकशाहीकरण होणार नाही, आणि तुमच्याकडे असे साधन आहे जे बचावात्मक अपस्ट्रक्चरिंग अप स्ट्रक्चरिंग अप करण्यापूर्वी आक्षेपार्ह फायदा केंद्रित करू शकते,” पॅचेसबॅन म्हणाले. गव्हर्नन्स फ्रेमवर्क मॉडेलपेक्षा अधिक वेगाने पुढे जाणे आवश्यक आहे.

दरम्यान, जागतिक डेटा आणि AI कंपनी Shorthills AI चे सह-संस्थापक परमदीप सिंग यांचा असा विश्वास आहे की क्लॉड मिथॉस सायबर सुरक्षा क्षेत्रात एक गेम चेंजर आहे. “सामान्यत: काय शोधण्यासाठी मानवी आठवडे लागतात, सायबरसुरक्षा जोखमीचे प्रकार, मिथॉस तासांत शोधण्यास सक्षम आहे. आणि ते OpenBSD, FFmpeg, Firefox आणि Linux मध्ये उच्च-तीव्रतेच्या असुरक्षा शोधण्यात सक्षम होते यावरून सिद्ध होते. सर्व जुने, वारसा सॉफ्टवेअर जे मानव वापरत आहेत, ते माझ्या सुरक्षिततेसाठी खूप सक्षम आहेत. क्लॉड मिथॉस सारख्या AI-आधारित सायबरसुरक्षा मॉडेलकडे आहे.

सिंग यांच्या मते, एवढी शक्तिशाली क्षमता म्हणजे अण्वस्त्रांपर्यंत पोहोचण्यासारखे आहे, ज्याचा वापर तुमच्या सुरक्षेसाठी आणि दहशतवादासाठीही होऊ शकतो. “चांगल्या हातात, ती खूप मोठी संधी असू शकते. वाईटाच्या हातात, ती नाश करू शकते.”

घोषणेच्या अनुषंगाने, Anthropic ने सांगितले की वाढत्या अत्याधुनिक AI-चालित धोक्यांना तोंड देताना बचावात्मक सायबरसुरक्षा क्षमता मजबूत करणे हे ध्येय आहे. क्लॉड मिथॉस केवळ असुरक्षा ओळखत नाही तर त्यांचे शोषण कसे केले जाऊ शकते हे समजून घेण्यात देखील मदत करू शकते. या उपक्रमाला ओपन-सोर्स सॉफ्टवेअरमध्ये सुरक्षा सुधारण्याचे एक साधन म्हणून स्थान दिले जात आहे जे आजच्या बहुतेक डिजिटल पायाभूत सुविधांना आधार देते.

Vobiz.ai चे सह-संस्थापक आणि CTO विकास श्रीवास्तव यांच्या म्हणण्यानुसार, आधुनिक AI प्रणाली केवळ ज्ञात समस्यांसाठी स्कॅन करत नाहीत – ते शोध आणि शोषण यांच्यातील वेळ संकुचित करून, अनुमान काढू शकतात, कनेक्ट करू शकतात आणि नवीन आक्रमण मार्ग तयार करू शकतात. “यामुळे सायबरसुरक्षामधील समतोल बदलतो. आक्रमणकर्त्यांना यापुढे सिस्टीमची तपासणी करण्यासाठी वाढीव वेळ लागत नाही; AI जलद, अधिक अनुकूल पध्दती सक्षम करते. परिणामी, जोखीम पारंपारिक सॉफ्टवेअरच्या पलीकडे API, क्लाउड वातावरण आणि इंटरकनेक्टेड एंटरप्राइझ सिस्टममध्ये विस्तारत आहे,” श्रीवास्तव म्हणाले.

श्रीवास्तवांचा असा विश्वास आहे की त्याचा अर्थ स्पष्ट आहे: एआय-नेतृत्वातील परस्परसंवाद स्केल म्हणून, सुरक्षा यापुढे अनुप्रयोगांपुरती मर्यादित असू शकत नाही. “इन्फ्रास्ट्रक्चर लेयर – विशेषत: व्हॉइस सारख्या रिअल-टाइम सिस्टममध्ये – लवचिक, सुरक्षित आणि AI-चालित वातावरणासाठी तयार असणे आवश्यक आहे.”

आत्तापर्यंत, मिथॉसला बंद दारांमागे ठेवण्याचा आणि निवडक भागीदारीद्वारेच तो तैनात करण्याचा अँथ्रोपिकचा निर्णय सावधगिरीचा असल्याचे दिसून येते. परंतु या चर्चेतील व्यापक करार स्पष्ट आहे – क्लॉड मिथॉसने दर्शविलेल्या क्षमता केवळ वाढीव सुधारणा नाहीत. हे AI मध्ये आणि सायबरसुरक्षा मध्ये नवीन परिमाणाची सुरुवात होऊ शकते.

Comments are closed.