AI रेलिंग कसे आक्षेपार्ह सायबरसुरक्षा संशोधकांच्या कामात अडथळा आणत आहेत

अनेक महिन्यांपासून, AI दिग्गजांनी दुर्भावनापूर्ण हॅकर्सद्वारे त्यांच्या मॉडेल्सचा वापर मर्यादित करण्यासाठी विशेष परीक्षण कार्यक्रम आणि कठोर रेलिंग तयार केले आहेत. परंतु या मर्यादा आता कायदेशीर नेटवर्क बचावकर्त्यांच्या तसेच आक्षेपार्ह सायबरसुरक्षा संशोधकांच्या कामात अडथळा आणत आहेत.

जूनमध्ये, यूएस सरकारने अँथ्रोपिकच्या बहुचर्चित AI मॉडेल्स Mythos आणि Fable वर निर्यात नियंत्रण निर्बंध लादले. वापरकर्त्यांना दुर्भावनापूर्ण सायबर हल्ले तयार करण्यासाठी आणि अंमलात आणण्यासाठी वापरण्यापासून प्रतिबंधित करण्यासाठी डिझाइन केलेल्या मॉडेल्सच्या रेलिंगला बायपास करणे शक्य असल्याचा दावा केलेल्या अहवालाद्वारे या हालचालीला किमान काही प्रमाणात सूचित केले गेले.

ही घटना खरोखर जेलब्रेकच्या भीतीने प्रेरित होती की नाही याची पर्वा न करता, वस्तुस्थिती अशी आहे की Anthropic ने वारंवार Mythos ला काही प्रकारचे डूम्सडे सायबरमशीन म्हणून विपणन केले आहे जे केवळ काळजीपूर्वक तपासलेल्या वापरकर्त्यांना दिले जाऊ शकते आणि तरीही त्या ठिकाणी कडक रेलिंग आहेत. (Fable 5 आणि Mythos 5 वरील निर्यात नियंत्रणे तेव्हापासून उठवण्यात आली आहेत. Fable 5 1 जुलै रोजी सामान्य प्रवेशावर परत आले; Mythos 5 हे सरकारच्या पुनरावलोकन प्रक्रियेचा भाग म्हणून केवळ तपासलेल्या यूएस संस्थांना पुन्हा सादर केले गेले आहे.)

अशा प्रकारचे गेटकीपिंग मिथॉससाठी अद्वितीय नाही. अँथ्रोपिक, त्याच्या इतर मॉडेल्ससह आणि ओपनएआय दोन्ही सायबरसुरक्षा संशोधक प्रोग्राम ऑफर करतात जे ते तपासण्यासाठी अर्ज करू शकतात आणि – मंजूर असल्यास – कमी सायबर सुरक्षा निर्बंधांसह मॉडेल्समध्ये प्रवेश करू शकतात: OpenAI चे सायबर प्रोग्रामसाठी विश्वसनीय प्रवेश आणि मानववंशीय सायबर पडताळणी कार्यक्रम.

या रेलिंगवर मोठ्या प्रमाणावर टीका केली गेली आहे, विशेषत: संशोधकांनी ज्यांचे कार्य सिस्टीममधील अज्ञात असुरक्षा शोधणे आणि गुन्हेगारांपूर्वी त्यांचे शोषण करण्याचे मार्ग तयार करणे आहे.

सायबर सिक्युरिटी पॉडकास्टवर नुकत्याच दिसल्याच्या वेळी, मार्क डाऊड, एक सुप्रसिद्ध सुरक्षा संशोधक, म्हणाला की, “या यादृच्छिक मोठ्या कंपन्या सुरक्षिततेमध्ये काय सुरक्षित आहे आणि काय नाही याबद्दल अनियंत्रित निर्णय घेत आहेत हे माझ्यासाठी खरोखर सोयीस्कर नाही.”

दौडने दशके घालवली आहेत “शून्य-दिवस” ​​शोधणे आणि विक्री करणे — पूर्वीच्या अज्ञात सॉफ्टवेअर त्रुटी आणि त्यांचा गैरफायदा घेणारे शोषण — पाश्चात्य सरकारांना, सॉफ्टवेअर निर्मात्यांना अहवाल देण्याऐवजी ते पॅच होतील. सरकार असुरक्षिततेसाठी प्रीमियम भरतात कारण ते खुल्या राहतात, जे गुप्तचर ऑपरेशन्ससाठी उपयुक्त आहे.

डाऊडने कबूल केले की त्याचे काम त्याला पक्षपाती बनवू शकते, परंतु तो एकटा नाही. आक्षेपार्ह सायबर सुरक्षेमध्ये काम करणारे अनेक लोक – ते कमकुवततेसाठी सिस्टमची सक्रियपणे तपासणी करतात – ते एआय टूल्स कसे वापरतात आणि त्यांच्या रेलिंगशी कसे व्यवहार करतात हे वाचण्यासाठी वर्णन केले आहे.

सुरक्षा सल्लागार कंपनी NCC ग्रुपचे मुख्य शास्त्रज्ञ ख्रिस ॲन्ले म्हणाले की, एआय मॉडेलला बगचा फायदा घेण्याचा प्रयत्न करण्यास सांगणे ही खरी असुरक्षा निश्चित करणे योग्य आहे याची पुष्टी करण्यासाठी एक महत्त्वाची पायरी आहे. परंतु जर रेलिंग मॉडेलला प्रश्नाचे उत्तर देण्यास स्पष्टपणे नकार देण्यास प्रवृत्त करते, तर रेलिंग रक्षकांना दुखावते, तो म्हणाला.

“संपूर्ण आक्षेपार्ह विरुद्ध बचावात्मक आणि रेलिंगचा भाग येथे येतो, कारण 'हा कोड फिक्स करा' प्रॉम्प्ट म्हणून संरक्षणासाठी एक आवश्यक यंत्रणा आहे परंतु कोड बेसमधील गंभीर भेद्यता शोधण्यासाठी रोडमॅप देखील आहे,” ॲन्ले म्हणाले. “म्हणून त्याच वेळी, समान साधन हे आक्षेपार्ह साधन आणि बचावात्मक साधन दोन्ही आहे आणि ते दोन्ही खरोखरच अनपिक केले जाऊ शकत नाहीत.”

तो “हातोड्यासारखा आहे,” तो पुढे म्हणाला. “तुम्ही हातोड्याशिवाय घर बांधू शकत नाही. हे नक्कीच एक साधन आहे पण ते एक अपूरणीय शस्त्र देखील आहे.”

जेव्हा तो आणि त्याचे सहकारी अशा अडथळ्याला सामोरे जातात, तेव्हा ते कधीकधी ओपन सोर्स एआय मॉडेल्सवर मागे पडतात ज्यामध्ये रेलिंग नसतात.

Crowdfense चे मुख्य तंत्रज्ञान अधिकारी, Paolo Stagno, सरकारी एजन्सींना अज्ञात असुरक्षा विकसित करणारी, विकत घेणारी आणि विकणारी सुप्रसिद्ध कंपनी, Dowd शी सहमत, AI कंपन्या त्यांच्या तपासणी कार्यक्रम आणि रेलिंगसह “अत्यावश्यकपणे ग्राहकांना लहान मुलांप्रमाणे वागवतात”.

स्टॅग्नो म्हणाले की तो आणि त्याचे सहकारी फ्रंटियर मॉडेल्स वापरतात – परंतु केवळ उलट अभियांत्रिकीसाठी. ते असुरक्षा शोधण्यात किंवा शोषण निर्माण करण्यात मदत करण्यासाठी AI वापरणे टाळतात, कारण क्लाउड-आधारित मॉडेलमध्ये काम केल्याने संवेदनशील असुरक्षा डेटा लीक होण्याचा धोका असतो किंवा भविष्यातील प्रशिक्षणात त्याचा समावेश होतो. त्या चरणासाठी, ते म्हणाले, ते स्थानिक पातळीवर चालणारे ओपन सोर्स मॉडेल वापरतात, कारण ते मॉडेलच्या बाहेर डेटा सामायिक करण्यावर अवलंबून नसतात.

ज्युसेप्पे कॅली, एक सुरक्षा संशोधक जो शून्य-दिवस शोधतो आणि शोषण विकसित करतो, म्हणाला की रेलिंग त्याच्या कामात अडथळा आणत नाहीत. कारण तो आक्षेपार्ह कामासाठी AI वापरत नाही; त्याऐवजी, तो प्रारंभिक उलट अभियांत्रिकीसाठी, तो विश्लेषण करत असलेला कोड समजून घेण्यासाठी आणि समर्थन साधने तयार करण्यासाठी त्याचा वापर करतो. त्यासाठी, ते म्हणाले, एआय टूल्स प्रक्रियेला गती देऊ शकतात आणि असुरक्षा शोधण्यावर लक्ष केंद्रित करू शकतात.

“मला अजूनही वास्तविक बग शोध आणि शस्त्रास्त्रे स्वतःची मालकी हवी आहे आणि उद्या सर्व रेलिंग उचलले गेले तर ते बदलणार नाही,” कॅली म्हणाले. “मला माझ्या बग्सचा हेवा वाटतो आणि मला हा गेम खूप आवडतो जेणेकरून मॉडेल माझ्यासाठी खेळू दे.”

स्मार्टफोन-घटक निर्मात्याच्या एका संशोधकाने, ज्याने नाव न सांगण्याच्या अटीवर सांगितले कारण त्याला प्रेसशी बोलण्याची परवानगी नाही, त्याने सांगितले की त्याचा नियोक्ता Anthropic च्या CVP प्रोग्रामचा भाग नाही आणि परिणामी, त्याची साधने असुरक्षा शोधण्यासाठी फारच उपयुक्त आहेत कारण रेलिंग खूप कडक आहेत.

“जर तो वारा पकडला तर आम्ही सुरक्षिततेशी संबंधित काहीही करत आहोत, ते फक्त थांबते आणि वापरण्यायोग्य नाही,” ती व्यक्ती म्हणाली.

ख्रिस थॉम्पसन – सायबर सुरक्षा फर्म रिमोट थ्रेटचे मुख्य कार्यकारी आणि आक्षेपार्ह सुरक्षा आणि एआय-केंद्रित इव्हेंट ऑफेन्सिव्ह एआय कॉनचे संस्थापक – म्हणाले की फ्रंटियर एआय मॉडेल्स वापरण्याच्या त्यांच्या अनुभवात, रेलिंग विसंगत असू शकतात आणि दररोज वेगळ्या पद्धतीने कार्य करू शकतात. अँथ्रोपिक आणि ओपनएआयच्या तपासलेल्या कार्यक्रमांच्या ढिलाईच्या सीमांमध्येही हे खरे आहे.

थॉम्पसन म्हणाले, “मला वाटतं की व्यावहारिक परिणाम म्हणजे तुम्ही मूळ सुरक्षा कार्यक्रमावर काम करण्याऐवजी मॉडेलशी वाटाघाटी करण्यात बराच वेळ घालवता. “शोषणाच्या माध्यमातून असुरक्षिततेचे विश्लेषण करण्याऐवजी आणि तर्क करण्याऐवजी, तुम्हाला विसंगत परिणाम का मिळत आहेत किंवा मॉडेल्स आउटपुटला जास्त का निर्जंतुक करत आहेत हे शोधण्याचा प्रयत्न करत आहात.”

परिणामी, संशोधक GLM सारख्या चिनी ओपन सोर्स मॉडेल्सवर विसंबून राहतात किंवा त्यांच्याकडे ढकलले जातात – मुक्तपणे डाउनलोड करण्यायोग्य मॉडेल्स जे कोणत्याही तपासणी किंवा वापर प्रतिबंधांशिवाय स्थानिक पातळीवर चालवले जाऊ शकतात – थॉम्पसन म्हणाले.

“तुमच्याकडे हे जबाबदार संशोधक आहेत जे यूएस-शासित प्रणालींपासून परदेशी-मालकीच्या प्रणालींकडे ढकलले जात आहेत,” तो म्हणाला. “मला वाटते की हे रेलिंग जागी ठेवणे चांगले पेक्षा जास्त हानिकारक आहे.”

आणखी निर्बंध घट्ट करण्याऐवजी, थॉम्पसनने एआय फ्रंटियर लॅबला त्यांचे कार्यक्रम उघडण्यासाठी, जबाबदार प्रवेश प्रदान करण्यासाठी आणि त्यांच्या साधनांचा गैरवापर करणाऱ्यांना जबाबदार धरण्यासाठी बोलावले. अन्यथा, त्याने युक्तिवाद केला, बचावपटू AI शर्यत गमावतील.

“हे मोठे वादळ येत आहे. आक्रमणांची ही मोठी लाट आहे जी पूर्वी कधीच घडली नाही अशा वेगाने आणि प्रमाणात होणार आहे,” थॉम्पसन म्हणाले. “परंतु त्याच सुरक्षा सल्लागार कंपन्या आणि कायदेशीर संशोधक जे फरक करण्याचा प्रयत्न करीत आहेत ते सध्या दाबले जात आहेत.”