Delve ने LiteLLM, मालवेअरने प्रभावित झालेल्या AI प्रकल्पावर सुरक्षा अनुपालन केले

हे सिलिकॉन व्हॅलीच्या वास्तविक जीवनातील भागांपैकी एक आहे जे HBO व्यंग्य शोमधून काढलेले दिसते. या आठवड्यात, द्वारे विकसित केलेल्या ओपन सोर्स प्रोजेक्टमध्ये काही खरोखर क्रूर मालवेअर सापडले वाई कॉम्बिनेटर पदवीधर LiteLLM.

LiteLLM विकसकांना शेकडो एआय मॉडेल्समध्ये सहज प्रवेश देते आणि खर्च व्यवस्थापनासारखी वैशिष्ट्ये प्रदान करते. हा एक ब्रेकआउट हिट आहे, दररोज 3.4 दशलक्ष वेळा डाउनलोड केला जातो, Snyk नुसारया घटनेचे निरीक्षण करणाऱ्या अनेक सुरक्षा संशोधकांपैकी एक. प्रकल्प होता GitHub वर 40K तारे आणि हजारो काटे (ज्यांनी ते बदलण्यासाठी आणि ते स्वतःचे बनवण्यासाठी आधार म्हणून वापरले).

मालवेअरचा शोध लागला, दस्तऐवजीकरण, आणि उघड वेब संशोधनासाठी AI एजंट ऑफर करणारी कंपनी, FutureSearch चे संशोधन शास्त्रज्ञ कॅलम मॅकमोहन यांनी. मालवेअर “अवलंबन” द्वारे सरकले, म्हणजे LiteLLM वर अवलंबून असलेले इतर मुक्त स्त्रोत सॉफ्टवेअर. त्यानंतर त्याने स्पर्श केलेल्या प्रत्येक गोष्टीचे लॉग-इन क्रेडेन्शियल्स चोरले. त्या क्रेडेन्शियल्ससह, मालवेअरने अधिक क्रेडेन्शियल मिळविण्यासाठी अधिक मुक्त स्त्रोत पॅकेजेस आणि खात्यांमध्ये प्रवेश मिळवला, आणि असेच.

मालवेअरमुळे मॅकमोहनने LiteLLM डाउनलोड केल्यानंतर त्याचे मशीन बंद झाले. त्या घटनेने त्याला तपास करण्यास आणि शोधण्यास प्रवृत्त केले. गंमत म्हणजे, मालवेअरमधील बगमुळे त्याचे मशीन उडून गेले. कारण तो थोडासा ओंगळ कोड अतिशय चपखलपणे डिझाइन केला होता, तो (तसेच प्रसिद्ध AI संशोधक आंद्रेज करपथी) असा निष्कर्ष काढला की ते व्हायब कोड केलेले असावे.

LiteLLM डेव्हलपर या आठवड्यात न थांबता काम करत आहेत परिस्थिती सुधारण्यासाठी आणि चांगली बातमी अशी आहे की ते तुलनेने वेगाने पकडले गेले, बहुधा काही तासांत.

या गाथेचा आणखी एक भाग आहे तो X वर लोक बद्दल बोलणे थांबवू शकत नाही. LiteLLM, 25 मार्च रोजी आम्ही पाहिले तेव्हा, अजूनही अभिमानाने त्याच्या वेबसाइटवर दाखवते की त्यांनी दोन प्रमुख सुरक्षा अनुपालन प्रमाणपत्रे, SOC2 आणि ISO 27001 उत्तीर्ण केली आहेत.

पण त्या प्रमाणपत्रांसाठी डेल्व्ह नावाच्या स्टार्टअपचा वापर केला.

डेल्वे हे Y-Combinator AI-संचालित अनुपालन स्टार्टअप आहे ज्यावर कथितपणे बनावट डेटा तयार करून आणि रबर स्टॅम्प अहवाल देणाऱ्या ऑडिटर्सचा वापर करून त्यांच्या ग्राहकांना त्यांच्या खऱ्या अनुपालन अनुरुपतेबद्दल दिशाभूल केल्याचा आरोप आहे. दळवे यांनी हे आरोप फेटाळून लावले आहेत.

येथे एक महत्त्वाचा मुद्दा समजून घेण्यासारखा आहे. अशी प्रमाणपत्रे यासारख्या घटनांची शक्यता मर्यादित करण्यासाठी कंपनीकडे मजबूत सुरक्षा धोरणे आहेत हे दर्शविण्यासाठी हेतू आहे. LiteLLM सारख्या कंपनीला मालवेअरचा फटका बसण्यापासून प्रमाणपत्रे आपोआप प्रतिबंधित करत नाहीत. SOC 2 मध्ये सॉफ्टवेअर अवलंबित्वांच्या सभोवतालच्या धोरणांचा समावेश असण्याची शक्यता आहे, तरीही मालवेअर आत येऊ शकतात.

असे असले तरी, अभियंता गेर्गेली ओरोझ यांनी निदर्शनास आणल्याप्रमाणे एक्स वर जेव्हा त्याने लोकांना याबद्दल ऑनलाइन हसताना पाहिले, “अरे अरे, मला वाटले की हा एक विनोद आहे. … पण नाही, LiteLLM *खरोखर* 'डेल्व्हद्वारे सुरक्षित' होते.

LiteLLM साठी, सीईओ क्रिश ढोलकिया यांनी डेल्वेच्या वापरावर कोणतीही प्रतिक्रिया दिली नाही. तो अजूनही हल्ल्याचा बळी होण्यापासून दुर्दैवी गोंधळ साफ करण्यात व्यस्त आहे.

“आमची सध्याची प्राथमिकता मँडियंटच्या बरोबरीने सक्रिय तपास आहे. आमचे फॉरेन्सिक पुनरावलोकन पूर्ण झाल्यावर आम्ही विकसक समुदायासह शिकलेले तांत्रिक धडे सामायिक करण्यास वचनबद्ध आहोत,” त्याने रीडला सांगितले.