मिथुनने 3 खाजगी प्रणालींचा भंग केला: AI सुरक्षेबद्दल चिंता वाढली, AI हॅकिंग भविष्यात किती मोठे आव्हान बनेल?

AI सायबर सुरक्षा: कृत्रिम बुद्धिमत्ता यापुढे केवळ प्रश्नांची उत्तरे देणे किंवा सामग्री तयार करणे इतकेच मर्यादित राहिलेले नाही. एआय एजंटना इंटरनेटवर माहिती शोधणे, कोड चालवणे आणि संगणक प्रणालीवर काही विशिष्ट क्रिया करणे यासारख्या क्षमता दिल्या जात आहेत.

अशा परिस्थितीत, गुगल जेमिनीशी संबंधित एका सुरक्षिततेच्या घटनेने पुन्हा एकदा एआयच्या वाढत्या सामर्थ्याशी संबंधित एक महत्त्वाचा प्रश्न समोर आणला आहे – जर एआयला अधिक डिजिटल अधिकार मिळाले, तर त्याच्या चुकीचा किंवा चुकीच्या दिशानिर्देशाचा किती मोठा परिणाम होऊ शकतो?

मे महिन्यात सुरक्षा चाचणी दरम्यान जेमिनी मॉडेलने तीन वेगवेगळ्या खाजगी संगणक प्रणालींमध्ये अनधिकृत प्रवेश मिळवला, CNBC ने अहवाल दिला. मॉडेलने पासवर्डचा अंदाज लावला आणि सार्वजनिकरीत्या उपलब्ध पासवर्ड याद्याही वापरल्या.

मात्र, हा कोणत्याही कंपनीवर झालेला स्वतंत्र सायबर हल्ला नव्हता. ही घटना चाचणीच्या वातावरणात घडली, जिथे तांत्रिक बिघाडामुळे एआय एजंटना इंटरनेटवर प्रवेश मिळाला. जेव्हा मॉडेलला नंतर कळले की ते चाचणीपेक्षा वास्तविक प्रणालीपर्यंत पोहोचले आहे, तेव्हा त्याने पुढील ऑपरेशन्स थांबवले.

पण याच घटनेमुळे AI सुरक्षेच्या भवितव्याबाबत महत्त्वाचे प्रश्न निर्माण झाले आहेत.

काय झालं? मिथुनला तीन प्रणालींमध्ये प्रवेश कसा मिळाला?

ही घटना इस्रायली सायबर सिक्युरिटी स्टार्टअप अनियमित येथे घडली. “कॅप्चर-द-ध्वज” सुरक्षा चाचणी दरम्यान घडले. एआय मॉडेलची सायबर सुरक्षा क्षमता आणि वर्तन तपासणे हा या चाचणीचा उद्देश होता. एआय एजंटना खुल्या इंटरनेटवर प्रवेश असायला हवा होता, परंतु चाचणी वातावरणातील एका बगमुळे ते शक्य झाले.

मिथुनने इंटरनेटवर उपलब्ध माहिती शोधली. त्यानंतर त्याने काही क्रेडेन्शियल्सचा अंदाज घेतला आणि तीन खाजगी संगणक प्रणालींमध्ये प्रवेश मिळवला.

मिथुनने खरंच हॅकिंग केलं होतं का?

येथे घटना आणि त्याचा संदर्भ यातील फरक समजून घेणे महत्त्वाचे आहे. मॉडेलने अशा प्रणालींमध्ये प्रवेश मिळवला ज्या चाचणीचा भाग नसल्या पाहिजेत. त्यामुळे याला अनधिकृत सिस्टीम ऍक्सेस म्हणणे अधिक अचूक आहे.

पण मिथुनला खुले इंटरनेट दिले गेले आणि त्यामुळे जगभरातील यंत्रणा आपोआपच हॅक होऊ लागली, अशा पद्धतीने हे समजणे योग्य ठरणार नाही. ही नियंत्रित सुरक्षा चाचणी होती आणि चाचणीच्या वातावरणातील तांत्रिक त्रुटीही लक्षणीय होत्या.

सर्वात महत्त्वाचे म्हणजे, जेव्हा मॉडेलला समजले की त्याला वास्तविक प्रणालीमध्ये प्रवेश मिळाला आहे, तेव्हा त्याने पुढील क्रियाकलाप थांबवला.

मग हा कार्यक्रम इतका महत्त्वाचा का आहे?

कारण ते AI ची बदलती भूमिका दाखवते. एका सामान्य AI मॉडेलला “पासवर्ड सुरक्षित कसा ठेवायचा?” असे विचारले तर तो उत्तर देईल. परंतु जर एआय एजंटला इंटरनेट ब्राउझ करण्याची, माहिती शोधण्याची, कोड चालवण्याची आणि संगणकावर कृती करण्याची परवानगी असेल तर ती केवळ उत्तर देणारी प्रणाली बनते.

तो डिजिटल जगात कारवाई करणारा एजंट बनतो. इथेच सुरक्षेचे आव्हान वाढते.

सर्वात मोठा धोका म्हणजे AI चे 'स्मार्ट' नसणे, ती त्याची पोहोच आहे.

AI जितकी सक्षम असेल तितकी ती अधिक जटिल कार्ये करू शकते. परंतु जोखीम त्याला कोणत्या प्रणाली आणि संसाधनांमध्ये प्रवेश दिला जातो यावर देखील अवलंबून असेल.

कल्पना करा की एआय एजंट एकाच वेळी:

• इंटरनेट प्रवेश
• संवेदनशील माहितीमध्ये प्रवेश
• लॉगिन क्रेडेन्शियल्स
• कोड चालविण्याची क्षमता
• संगणकावर कारवाई करण्याची परवानगी आहे

अशा परिस्थितीत, एआयची कोणतीही चूक किंवा चुकीची सूचना केवळ एका चुकीच्या उत्तरापुरती मर्यादित असू शकत नाही. हे डिजिटल प्रणालीमध्ये वास्तविक बदल करू शकते.AI सायबर सुरक्षेचा हा मोठा अलार्म आहे.

भविष्यात संगणक प्रणाली सुरक्षित राहणार नाही का?

असा निष्कर्ष काढणे खूप घाईचे आहे. एआय कोणतीही संगणक प्रणाली सहजपणे हॅक करू शकते हे या घटनेमुळे सिद्ध होत नाही. फायरवॉल, मल्टी-फॅक्टर ऑथेंटिकेशन, ऍक्सेस कंट्रोल्स, नेटवर्क आयसोलेशन आणि इतर सुरक्षा उपाय सायबर सिक्युरिटीमध्ये महत्त्वाचे आहेत.

पण जसजसे AI अधिक सक्षम आणि अधिक स्वायत्त होत जाईल, सुरक्षेचा दृष्टीकोन देखील बदलावा लागेल. भविष्यातील आव्हान केवळ एआयला काय करण्याची परवानगी आहे हेच नाही तर ते चुकीच्या मार्गावर गेल्यावर एआय किती लवकर थांबवता येईल हे देखील असेल.

एआयशी संबंधित अशा घटना यापूर्वीही समोर आल्या आहेत.

इतर AI मॉडेल्सचा समावेश असलेल्या अलीकडील चाचणीच्या घटनांनी देखील एआय एजंट त्याच्या इच्छित वातावरणाच्या सीमांच्या पलीकडे जाऊन भटकल्यास काय होऊ शकते याबद्दल प्रश्न उपस्थित केले आहेत.

या घटनांमध्ये अनियमित द्वारे घेण्यात आलेल्या सुरक्षा चाचण्यांचाही समावेश होता. कंपनीच्या म्हणण्यानुसार, मिथुनचा समावेश असलेली घटना त्याच समस्येशी संबंधित होती जी इतर AI लॅबमध्ये देखील नोंदवली गेली होती.

याचा अर्थ ही समस्या केवळ एका मॉडेलपुरती मर्यादित नाही. एआय एजंट्सना सुरक्षित आणि नियंत्रित करण्याचे आव्हान संपूर्ण उद्योगासाठी महत्त्वाचे बनत आहे.

AI सुरक्षिततेसाठी 5 मोठे अलार्म

1. चाचणी आणि वास्तविक जग यांच्यातील सीमारेषा

ज्या वातावरणात AI ची चाचणी केली जात आहे त्या वातावरणाची मर्यादा तोडणे ही एक गंभीर सुरक्षा समस्या बनू शकते.

2. क्रेडेन्शियल्समध्ये प्रवेश

सार्वजनिक माहितीवरून लॉगिन तपशील किंवा पासवर्डचा अंदाज लावण्याची क्षमता सुरक्षा प्रणालींसाठी नवीन आव्हाने निर्माण करू शकते.

3. AI चा वेग

मानवाला जे करायला काही तास लागतात, ते एआय एजंट्स शक्यतो खूप जलद करू शकतात. त्यामुळे चूक झाली तर त्याचा फटका झपाट्याने पसरतो.

4. अधिक अधिकार, अधिक जोखीम

AI ला जितके जास्त सिस्टीम अधिकार मिळतील, तितकाच त्याच्या गैरवर्तनाचा संभाव्य परिणाम होऊ शकतो.

5. मानवी निरीक्षणाची गरज

एआय एजंटना पूर्णपणे स्वतंत्र सोडण्याऐवजी, गंभीर डिजिटल क्रियांसाठी मानवी परवानगी, मर्यादित प्रवेश आणि सतत देखरेख हे महत्त्वाचे सुरक्षा उपाय असू शकतात.

या घटनेनंतर गुगलने काय केले?

गुगलच्या म्हणण्यानुसार, या घटनेची माहिती मिळाल्यानंतर त्यांनी आपल्या चाचणी प्रक्रियेत बदल करण्यासाठी अनियमित सोबत काम केले. कंपनीने या घटनेत सामील असलेल्या विशिष्ट मिथुन मॉडेलचे नाव जाहीर केले नाही.

Google चे सुरक्षा अभियांत्रिकीचे उपाध्यक्ष हीदर ॲडकिन्स म्हणाले की, या घटनांवरून हे दिसून येते की शक्तिशाली AI मॉडेल्सना जबाबदारीने वागण्यासाठी प्रशिक्षण देणे किती महत्त्वाचे आहे.

धोका AI पासून नाही तर अनियंत्रित AI पासून वाढू शकतो.

ही मिथुन घटना म्हणजे एआयने सायबर जगाचा ताबा घेण्यास सुरुवात केली याचा पुरावा नाही. परंतु हे असे दर्शविते की इंटरनेट आणि संगणक प्रणालीवर AI ने कारवाई करण्याची अधिक क्षमता प्राप्त केल्याने, सुरक्षा नियंत्रणे मजबूत करणे आवश्यक आहे.

एआय किती शक्तिशाली असू शकते हा आजचा सर्वात मोठा प्रश्न नाही. त्या शक्तीच्या मर्यादा कोण ठरवणार, त्यावर कसं लक्ष ठेवणार आणि चूक झाली तर ती किती लवकर थांबवता येईल, हा प्रश्न आहे.

म्हणूनच या मिथुन घटनेकडे केवळ सुरक्षा चाचणीची कथा म्हणून पाहिले जात नाही, तर एआयच्या पुढील टप्प्यातील सायबर सुरक्षेसाठी एक इशारा म्हणून पाहिले जात आहे.