फ्रंटियर एआय मॉडेल सुरक्षित करण्यासाठी अनियमित million 80 दशलक्ष वाढवते

बुधवारी, एआय सुरक्षा कंपनीने अनियमितपणे सेकोइया कॅपिटल आणि रेडपॉईंट वेंचर्स यांच्या नेतृत्वात असलेल्या फेरीत million 80 दशलक्ष डॉलर्सची घोषणा केली आणि विझचे मुख्य कार्यकारी अधिकारी असफ रॅपपोर्ट यांच्या सहभागासह. या कराराजवळील एका स्त्रोताने सांगितले की फेरीचे मूल्य $ 450 दशलक्ष आहे.

“आमचे मत असे आहे की लवकरच, मानवी-ऑन-ए-ए-इंटरॅक्शन आणि एआय-ऑन-ए-संवादातून बरीच आर्थिक क्रियाकलाप होणार आहे,” सह-संस्थापक डॅन लहाव यांनी वाचले, “आणि यामुळे एकाधिक बिंदूंवर सुरक्षा स्टॅक तोडणार आहे.”

पूर्वी पॅटर्न लॅब म्हणून ओळखले जाते, अनियमित एआय मूल्यांकनात आधीपासूनच महत्त्वपूर्ण खेळाडू आहे. कंपनीचे कार्य सुरक्षा मूल्यांकनात नमूद केले आहे क्लॉडसाठी 3.7 सॉनेट तसेच ओपनईचे ओ 3 आणि ओ 4-मिनी मॉडेल? अधिक सामान्यत: मॉडेलची असुरक्षितता-शोध क्षमता स्कोअर करण्यासाठी कंपनीची चौकट (डब सॉल्व्ह) उद्योगात मोठ्या प्रमाणात वापरला जातो.

मॉडेलच्या विद्यमान जोखमीवर अनियमित काम करत असताना, कंपनी आणखी महत्वाकांक्षी गोष्टींकडे लक्ष देऊन निधी गोळा करीत आहे: जंगलात उमटण्यापूर्वी उदयोन्मुख जोखीम आणि वर्तन शोधणे. कंपनीने सिम्युलेटेड वातावरणाची विस्तृत प्रणाली तयार केली आहे, जे मॉडेल सोडण्यापूर्वी मॉडेलची गहन चाचणी सक्षम करते.

सह-संस्थापक ओमर नेव्हो म्हणतात, “आमच्याकडे जटिल नेटवर्क सिम्युलेशन आहेत जिथे आमच्याकडे हल्लेखोर आणि डिफेंडरची भूमिका आहे. “म्हणून जेव्हा नवीन मॉडेल बाहेर येईल, तेव्हा आम्ही पाहू शकतो की बचाव कोठे धरून ठेवतो आणि ते कोठे नाहीत.”

अधिक जोखीम उद्भवल्यामुळे फ्रंटियर मॉडेल्सने उद्भवलेल्या संभाव्य जोखमीमुळे एआय उद्योगासाठी सुरक्षा तीव्र लक्ष केंद्रित करण्याचा मुद्दा बनला आहे. संभाव्य कॉर्पोरेट हेरगिरीकडे लक्ष देऊन ओपनईने या उन्हाळ्यात त्याच्या अंतर्गत सुरक्षा उपायांची दुरुस्ती केली.

त्याच वेळी, एआय मॉडेल्स सॉफ्टवेअर असुरक्षा शोधण्यात वाढत्या प्रमाणात पारंगत आहेत – हल्लेखोर आणि डिफेंडर दोघांनाही गंभीर परिणाम असलेली एक शक्ती.

अनियमित संस्थापकांसाठी, मोठ्या भाषेच्या मॉडेल्सच्या वाढत्या क्षमतांमुळे होणार्‍या बर्‍याच सुरक्षा डोकेदुखींपैकी हे पहिले आहे.

“जर फ्रंटियर लॅबचे लक्ष्य वाढत्या अधिक परिष्कृत आणि सक्षम मॉडेल्स तयार करणे असेल तर हे मॉडेल सुरक्षित करणे हे आमचे ध्येय आहे,” लहाव म्हणतात. “परंतु हे एक हलणारे लक्ष्य आहे, म्हणूनच अंतर्निहितपणे भविष्यात बरेच, बरेच काही करणे आवश्यक आहे.”