प्रत्येकजण रिअल टाइममध्ये AI सुरक्षा नेव्हिगेट करत आहे — अगदी Google देखील

मला अलीकडेच लॉस एंजेलिसमधील एका कार्यक्रमात गुगल क्लाउडचे सीओओ फ्रान्सिस डी सूझा यांच्यासोबत बसण्याची संधी मिळाली. आपल्या सभोवतालच्या गोंधळात, विद्यापीठाच्या प्राध्यापकाप्रमाणे शांतपणे बोलणाऱ्या डी सूझाने, आम्ही सर्व जगत असलेल्या AI सुरक्षिततेच्या क्षणी नेव्हिगेट करणाऱ्या कंपन्यांसाठी उपयुक्त सल्ला दिला, “एक संक्रमण कालावधी असेल आणि नंतर मला वाटते की आम्ही या चांगल्या ठिकाणी पोहोचू.”

तो त्या क्षणी Google बद्दल बोलत नव्हता, परंतु हे स्पष्ट आहे की Google अजूनही गोष्टी शोधत आहे.

डी सूझाचा मुख्य संदेश असा होता की एक सुरक्षा व्यावसायिक वर्षानुवर्षे एक्झिक्युटिव्ह्जना अंतर्गत बनवण्याचा प्रयत्न करीत आहेत, आता AI द्वारे त्वरित केले गेले आहे: सुरक्षा हा नंतरचा विचार असू शकत नाही. “कंपन्या या AI प्रवासाला सुरुवात करत असताना, त्यांना प्लॅटफॉर्मचा दृष्टीकोन घेणे आवश्यक आहे,” तो म्हणाला. “सुरक्षा ही अशी गोष्ट नाही जी तुम्ही नंतर बळकट करू शकता आणि ही अशी गोष्ट नाही जी तुम्ही कर्मचाऱ्यांवर स्वतःहून करू शकता.” त्यांनी विशेषतः “शॅडो एआय” बद्दल चेतावणी दिली – कर्मचारी संघटनात्मक निरीक्षणाशिवाय ग्राहक साधनांपर्यंत पोहोचतात – आणि असा युक्तिवाद केला की कंपन्यांनी सुरुवातीपासूनच त्यांच्या प्लॅटफॉर्मवरून सुरक्षा, प्रशासन आणि ऑडिटेबिलिटीची मागणी करणे आवश्यक आहे. “डेटा स्ट्रॅटेजी आणि सिक्युरिटी स्ट्रॅटेजीशिवाय एआय स्ट्रॅटेजी असे काहीही नाही. त्यांना हातात हात घालून जाणे आवश्यक आहे.”

लक्षात घेण्यासारखे: तो एकटा Google क्लाउड पिच करत नव्हता. जेव्हा मी पाहिले की त्याचा सल्ला एखाद्या Google जाहिरातीसारखा वाटतो तेव्हा त्याने मागे ढकलले. Google, तो म्हणाला, मल्टीक्लाउड दृष्टिकोनासाठी वचनबद्ध आहे, आणि ज्या कंपन्या त्यांना एकाच क्लाउडवर कार्य करत आहेत असे वाटते त्या जवळजवळ नक्कीच नाहीत असे त्यांनी असे केले. “जरी त्यांनी एकच मेघ निवडला तरी ते SaaS ऍप्लिकेशन्सवर अवलंबून आहेत, असे व्यवसाय भागीदार आहेत जे कदाचित भिन्न ढग वापरत असतील,” तो म्हणाला. “कंपन्यांसाठी ढगांवर, मॉडेल्सवर सुसंगत असलेली सुरक्षा मुद्रा असणे महत्वाचे आहे.”

त्याने हे देखील सांगितले की धोक्याची लँडस्केप इतकी मूलभूतपणे बदलली आहे की जुनी बचावात्मक मॉडेल्स खूप हळू आहेत. त्याने नमूद केले की प्रारंभिक उल्लंघन आणि हल्ल्याच्या पुढील टप्प्यात हँडऑफ दरम्यानचा सरासरी वेळ आठ तासांवरून 22 सेकंदांवर घसरला आहे आणि हल्ल्याचा पृष्ठभाग पारंपारिक नेटवर्क परिमितीच्या पलीकडे विस्तारला आहे. “तुमच्या नेहमीच्या इस्टेट व्यतिरिक्त, तुमच्याकडे आता मॉडेल्स आहेत. तुमच्याकडे मॉडेल्सचे प्रशिक्षण देण्यासाठी वापरल्या जाणाऱ्या डेटा पाइपलाइन आहेत. तुमच्याकडे एजंट आहेत, तुमच्याकडे प्रॉम्प्ट्स आहेत. या सर्वांचे संरक्षण करणे आवश्यक आहे.”

एक धोका डी सूझाने ध्वजांकित केला आहे ज्याकडे पुरेसे लक्ष दिले जात नाही: एजंट कंपनीच्या अंतर्गत प्रणालींमधून फिरणारे विसरलेले डेटा रिपॉझिटरीज दाखवू शकतात ज्याबद्दल कोणीही वर्षानुवर्षे विचार केला नाही. “बऱ्याच संस्थांकडे जुने शेअरपॉईंट सर्व्हर (आणि प्रवेश नियंत्रणे) आहेत त्यांनी खरोखर अद्यतनित केलेले नाही, परंतु काही फरक पडला नाही कारण ते कोठे आहेत हे कोणालाही ठाऊक नव्हते. परंतु तुमच्या एंटरप्राइझवर रोमिंग करणारे एजंट त्या डेटा मालमत्ता शोधतील आणि त्यांच्यावरील डेटा उघड करतील.”

उत्तर, त्याच्या मते, मशीनच्या गतीसह मशीनच्या गतीला भेटणे आहे. “आम्ही आता एआय-नेटिव्ह, पूर्णपणे एजंटिक संरक्षणाचा उदय पाहत आहोत जिथे संस्था त्यांच्या संरक्षणासाठी एजंट चालवू शकतात,” तो म्हणाला. “मानव-नेतृत्वाखालील संरक्षण किंवा अगदी लूपमध्ये मानव असण्याऐवजी, आता तुम्ही मानवांना पूर्णपणे एजंटिक संरक्षणाची देखरेख करू शकता.” ते पुढे म्हणाले की हा केवळ तंत्रज्ञानाचा नसून नेतृत्वाचा मुद्दा बनला आहे. “ही बोर्ड-स्तरीय समस्या आणि कार्यकारी टीमची समस्या आहे. ही केवळ सुरक्षा टीमची समस्या नाही.”

परंतु जरी AI अधिक बचावात्मक वर्कलोड घेते, तरीही त्याच्या देखरेखीसाठी पात्र लोकांचा पुरवठा कमी आहे — आणि AI स्वतःच ज्या असुरक्षा सादर करत आहे त्या सुरक्षा टीम त्यांना संबोधित करू शकतील त्यापेक्षा वेगाने गुणाकार करत आहेत. “बग-पोकॅलिप्सचा सामना करण्यासाठी आम्हाला लोकांची गरज आहे,” लिंक्डइनचे मुख्य माहिती सुरक्षा अधिकारी ली किसनर न्यूयॉर्क टाइम्सला सांगितले या आठवड्यात, ती जोडत आहे की उद्योगाने किमान अनेक वर्षांपर्यंत कोणत्याही शाश्वत दीर्घकालीन मार्गाने AI सुरक्षा समजून घेण्याची अपेक्षा करत नाही.

जे आम्हाला स्वतः प्लॅटफॉर्म प्रदात्यांकडे परत आणते. जेमिनी मॉडेल्सना अनधिकृत API कॉल्सनंतर Google क्लाउड डेव्हलपरच्या लाटेचे दस्तऐवजीकरण करणारे अहवालांची मालिका द रजिस्टरने प्रकाशित केली आहे — त्यापैकी अनेकांनी कधीही वापरल्या नाहीत किंवा जाणूनबुजून सक्षम केल्या नाहीत. प्रकरणे एक परिचित पॅटर्नचे अनुसरण करतात: एपीआय की मूळतः Google नकाशेसाठी तैनात केलेल्या, Google च्या स्वतःच्या सूचनांनुसार सार्वजनिकरित्या ठेवल्या गेल्या, Google ने बदल स्पष्टपणे न सांगता त्यांची व्याप्ती वाढवल्यानंतर शांतपणे जेमिनीमध्ये प्रवेश करण्यास सक्षम बनल्या.

रॉड डॅनन, मुलाखत-प्रीप प्लॅटफॉर्म प्रेंटसचे सीईओ म्हणाले की त्यांचे बिल हिट झाले अंदाजे 30 मिनिटांत $10,138 हल्लेखोरांनी त्याच्या तडजोड केलेल्या API कीचा गैरफायदा घेतल्यानंतर. Isuru Fonseka, एक सिडनी-आधारित विकासक ज्याच्या खात्यात अशीच तडजोड केली गेली होती, त्याच्याकडे $250 खर्चाची मर्यादा आहे असा विश्वास असूनही अंदाजे AUD $17,000 चे शुल्क आकारले गेले. या दोघांनाही माहीत नव्हते की Google च्या स्वयंचलित सिस्टीमने खाते इतिहासाच्या आधारे त्यांचे बिलिंग टियर्स अपग्रेड केले होते, त्यांची प्रभावी मर्यादा स्पष्ट संमतीशिवाय $100,000 पर्यंत वाढवली होती.

द रजिस्टरने प्रारंभिक अहवाल प्रकाशित केल्यानंतर Google ने दोन्ही परत केले. तरीही, Google ने द रजिस्टरला सांगितले की त्यांचे स्वयंचलित टियर-अपग्रेड धोरण बदलण्याची त्यांची कोणतीही योजना नाही, ते म्हणाले की ते वापरकर्त्यांच्या सांगितलेल्या बजेट प्राधान्यांची अंमलबजावणी करण्यापेक्षा सेवा खंडित होण्यापासून रोखण्यास प्राधान्य देते.

दरम्यान, जेव्हा विकसक गोष्टी बंद करण्याचा प्रयत्न करतो तेव्हा काय होते हा स्वतंत्र प्रश्न आहे. रजिस्टर या आठवड्यात अहवाल दिला सिक्युरिटी फर्म आयकिडोने केलेल्या संशोधनात असे आढळून आले आहे की जे डेव्हलपर देखील तडजोड केलेली की पकडतात आणि ती ताबडतोब हटवतात ते सुरक्षित असू शकत नाहीत. Aikido च्या निष्कर्षांनुसार, आक्रमणकर्ते वरवर पाहता 23 मिनिटांपर्यंत ती की वापरणे सुरू ठेवू शकतात कारण Google च्या रद्दीकरणाचा प्रसार त्याच्या पायाभूत सुविधांमध्ये हळूहळू होतो. आयकिडोचे संशोधक जोसेफ लिओन यांनी द रजिस्टरला सांगितले की त्या विंडो दरम्यान, यशाचे दर अप्रत्याशित आहेत — काही मिनिटांत 90% पेक्षा जास्त विनंत्या अजूनही प्रमाणीकृत आहेत — आणि आक्रमणकर्ते जेमिनीमधील फायली आणि कॅश केलेला संभाषण डेटा बाहेर काढण्यासाठी वेळ वापरू शकतात.

लिओनने असेही नमूद केले की Google च्या स्वतःच्या नवीन क्रेडेन्शियल फॉरमॅटमध्ये समान समस्या असल्याचे दिसत नाही: सेवा खाते API क्रेडेन्शियल सुमारे पाच सेकंदात रद्द होतात आणि जेमिनीच्या नवीन AQ-प्रीफिक्स्ड की फॉरमॅटला सुमारे एक मिनिट लागतो. “दोन्ही Google स्केलवर चालतात,” त्याने Aikido च्या संबंधित पेपरमध्ये लिहिले. “दोन्ही सुचवितात की हे Google API कीसाठी देखील तांत्रिकदृष्ट्या सोडवण्यायोग्य आहे.” थोडक्यात, लिओनच्या म्हणण्यानुसार, 23-मिनिटांची विंडो ही अभियांत्रिकी मर्यादा नसून कंपनीसाठी प्राधान्याचा विषय आहे.

डी सूझाचा सल्ला वाचताना ते विचारात घेण्यासारखे आहे, जे योग्य आहे आणि ते खूप गांभीर्याने घेतले पाहिजे. तो चुकीचा नाही, परंतु सध्या प्लॅटफॉर्म लिहून देत आहेत आणि ते स्वतः किती वेगाने जुळवून घेत आहेत यामधील अंतर आहे आणि याची जाणीव असणे देखील चांगले आहे.