जेमिनी एआयने सायबर सिक्युरिटी टेस्टमध्ये 3 रिअल कंपन्यांना 'फेक' मानून हॅक केले

नवी दिल्ली: आर्टिफिशियल इंटेलिजन्सची अफाट क्षमता आणि त्याच्या संभाव्य धोक्यांबाबत एक धक्कादायक प्रकरण समोर आले आहे. गुगलच्या प्रगत AI मॉडेल 'जेमिनी'ने सायबर सुरक्षा चाचणीदरम्यान आपल्या मर्यादांचे उल्लंघन केले आणि तीन बाह्य कंपन्यांच्या सिस्टमचे उल्लंघन केले. इतिहासातील ही पहिलीच वेळ आहे की Google च्या कृत्रिम बुद्धिमत्ता मॉडेलने मानवी हस्तक्षेपाशिवाय वास्तविक कॉर्पोरेट नेटवर्क स्वयंचलितपणे हॅक केले आहे. या अनपेक्षित घटनेने संपूर्ण तंत्रज्ञान क्षेत्रातील मंडळी आश्चर्यचकित झाली आहेत. इतर दोन प्रकरणांमध्ये, एआयने इंटरनेटवर उघड क्रेडेन्शियल्स शोधून काढले आणि त्यांचा वापर वास्तविक वेबसाइटच्या सुरक्षा भिंती तोडण्यासाठी केला.

पासवर्ड अंदाज

सायबर सिक्युरिटी फर्मच्या मे महिन्यात झालेल्या 'कॅप्चर द फ्लॅग' चाचणीपासून या घटनेची सुरुवात झाली. यामध्ये जेमिनी मॉडेलला बनावट कंपनीच्या सिस्टीममधून डेटा काढण्याचे काम देण्यात आले होते.
चाचणी वातावरणात इंटरनेट कनेक्शन चुकून उघडले गेले. मॉडेलने वेब शोधांमधून सार्वजनिक माहिती गोळा केली आणि पासवर्डचा अचूक अंदाज घेऊन सुरक्षित नेटवर्कमध्ये प्रवेश केला.

Google चे स्पष्टीकरण

Google मधील सुरक्षा अभियांत्रिकीचे उपाध्यक्ष हीदर ॲडकिन्स यांनी या घटनेची पुष्टी केली आणि सांगितले की जेमिनीला हे समजताच की ते चाचणीच्या काल्पनिक प्रणालीऐवजी वास्तविक कंपन्यांच्या पायाभूत सुविधांमध्ये प्रवेश करत आहे, त्यांनी पुढील कारवाई त्वरित थांबवली. गुगलच्या म्हणण्यानुसार, या उल्लंघनामुळे कोणत्याही कंपनीच्या डेटाला हानी पोहोचली नाही. गुगलने याबाबत तीन बाधित संस्था आणि संबंधित अधिकाऱ्यांना माहिती दिली आहे. यासह, प्रशिक्षण भागीदाराच्या सहकार्याने सुरक्षा तपासणी आणि चाचणी प्रोटोकॉल पूर्वीपेक्षा अधिक कडक करण्यात आला आहे.

AI सुरक्षेबद्दल चिंता वाढवत आहे

ही घटना स्पष्ट करते की एआय मॉडेल्सना जबाबदारीच्या मर्यादा शिकवणे किती कठीण आणि गंभीर विषय आहे. गुगल व्यतिरिक्त, OpenAI आणि Anthropic सारख्या मोठ्या कंपन्या देखील शक्तिशाली मॉडेल तयार करत आहेत. उदाहरणार्थ, अँथ्रोपिकचे मॉडेल सुरक्षा भेद्यता ओळखून कंपन्यांची सुरक्षा मजबूत करण्याचा दावा करते. तथापि, तांत्रिक तज्ञ चिंतित आहेत की अशा आधुनिक एआय प्रणालीने चुकीचे वळण घेतले किंवा अनपेक्षित पद्धतीने वागण्यास सुरुवात केली तर ते जागतिक सायबर सुरक्षेसाठी अत्यंत धोकादायक ठरू शकते.