Google चे AI मॉडेल जेमिनी स्वायत्तपणे त्याच्या सायबर-सुरक्षा क्षमतांच्या चाचणी दरम्यान तीन कंपन्यांमध्ये हॅक केले गेले, कंपनीने असे म्हटले आहे की, असे कृत्य केल्याचे पहिले ज्ञात प्रकरण असल्याचे मानले जाते.
जेमिनीला “सार्वजनिक माहिती ऑनलाइन सापडली आणि चाचणीचा भाग वाटत असलेल्या वेबसाइट्समध्ये प्रवेश करण्यासाठी क्रेडेन्शियल्सचा अंदाज लावला”, एका Google अधिकाऱ्याने बीबीसीला सांगितले की, प्रत्येक घटनेत “मॉडेल थांबले” असे नमूद केले.
बाधित कंपन्यांना उल्लंघनाची माहिती देण्यात आली आहे.
हे AI विकासाच्या गतीवर नूतनीकरण केलेल्या सार्वजनिक छाननीनंतर आले आहे, काही टेक कंपन्यांनी मंदीची मागणी केली आहे कारण ते मानवतेला त्याच्या संभाव्य धोक्याबद्दल चिंता व्यक्त करतात – जरी सर्व कंपन्या सहमत नसतील.
खाचखळगे. वॉल स्ट्रीट जर्नलने प्रथम अहवाल दिलेला, सायबर-सुरक्षा मूल्यमापन करणाऱ्या एका स्वतंत्र कंपनीने घेतलेल्या चाचणीदरम्यान मे महिन्यात घडला.
Google मधील सुरक्षा अभियांत्रिकीच्या उपाध्यक्ष हीदर ॲडकिन्स यांनी बीबीसीला एका निवेदनात सांगितले: “आम्ही हे सुनिश्चित केले की तिन्ही संस्थांना जागरूक केले गेले आहे आणि आम्ही आमच्या प्रशिक्षण भागीदारासह त्यांच्या चाचणी प्रक्रियेत आता केलेल्या बदलांवर काम केले.”
ती पुढे म्हणाली: “या घटना शक्तिशाली AI मॉडेल्सना जबाबदारीने वागण्यासाठी प्रशिक्षण देण्याचे महत्त्व अधोरेखित करतात.”
इतर AI सिस्टीमने अलीकडेच उल्लंघनाच्या समान घटना नोंदवल्या आहेत.
जुलैमध्ये, ओपनएआयने त्याच्या मॉडेल्सने अनेक “सार्वजनिकरित्या उपलब्ध सेवा” विरुद्ध सायबर-हल्ले केले होते असे म्हटल्यानंतर काही दिवसांतच अँथ्रोपिकच्या क्लॉडने तीन संस्थांना स्वतःहून हॅक करण्यासाठी चाचणीच्या वातावरणातून पळ काढला.
तंत्रज्ञान विकसित करण्याच्या सुरक्षिततेवर सार्वजनिक वादविवाद वाढत असताना, नियमाभोवती संभाषण देखील होते.
Nvidia चे CEO जेन्सेन हुआंग आणि OpenAI चे मुख्य कार्यकारी सॅम ऑल्टमन हे दोघेही पुढील शुक्रवारी चीनचे राष्ट्राध्यक्ष शी जिनपिंग यांच्यासोबत व्हाईट हाऊसच्या स्टेट डिनरला उपस्थित राहतील अशी अपेक्षा आहे. त्यानंतर पुढील आठवड्यात ऑल्टमन संयुक्त राष्ट्र सुरक्षा परिषदेला माहिती देतील.
शुक्रवारी, हुआंगने बीबीसीचे यूएस भागीदार सीबीएस न्यूजला सांगितले की, एआय डेव्हलपमेंटसह “आम्ही शक्य तितक्या वेगाने जावे”.
Comments are closed.