अर्सी, एक यूएस ओपन सोर्स एआय लॅब, म्हणते की चिनी मॉडेल्स नैसर्गिकरित्या धोकादायक नाहीत

चिनी ओपन-वेट एआय मॉडेल्सची क्षमता आणि लोकप्रियता वाढत असताना, याबद्दल तर्क त्यांच्याबद्दल काय केले पाहिजे पुन्हा एकदा तापाच्या शिखरावर पोहोचले आहेत.

आहे बोलणे की ट्रम्प प्रशासन त्यांच्यावर बंदी घालण्याचा प्रयत्न करू शकेल (जरी ते अद्याप अभिनय केला नाही कल्पनेवर). दरम्यान, प्रोप्रायटरी मॉडेल निर्माते, विशेषतः OpenAI आणि Anthropic, दिसणे त्यांच्याबद्दल वाढत्या काळजी.

Moonshot AI चे Kimi K3 किंवा Alibaba चे Qwen सारखे ओपन-वेट मॉडेल या मोठ्या यूएस लॅबमधून बंद-स्रोत मॉडेल्सच्या टोकन किमतीच्या काही अंशावर अनुमान देतात. भीती अशी आहे की त्यांना एक प्रकारचा धोका देखील आहे. निश्चितपणे, ते मोठ्या मालकीच्या AI लॅबच्या नफ्याला धोका देतात.

पण ही मॉडेल्स त्यांच्या स्वत:च्या डेटा सेंटरमध्ये चालवणाऱ्या उद्योगांनी चिनी हॅकर्ससाठी वेक्टर असू शकतात या भीतीला बळी पडावे का?

नाही, लुकास ऍटकिन्स म्हणतात, चे CTO अर्सीजे यूएस कंपन्यांना चिनी मॉडेल्सला घरगुती पर्याय देण्यासाठी खुले मॉडेल तयार करत आहे.

चिनी मॉडेल्सवरील बंदीमुळे कोणत्याही स्टार्टअपला फायदा होत असेल तर आर्सीला होईल. परंतु ॲटकिन्स म्हणतात की चीनचे ओपन मॉडेल्स कंपनी वापरत असलेल्या इतर कोणत्याही ओपन-सोर्स सॉफ्टवेअरपेक्षा जास्त धोकादायक नाहीत. खरं तर, ते म्हणतात, ते अगदी त्याच्या स्वतःच्या कंपनीलाही फायदे देतात.

“बरेच लोक याला चिनी सॉफ्टवेअर प्रोग्रामसारखेच पाहतात. जसे की, हे या x, y, z हेतूने कोड केलेले होते” जे वाईट अभिनेता फक्त आज्ञा देऊ शकतो, तो म्हणाला.

“मूळत: हे मॉडेल कसे प्रशिक्षित केले जातात असे नाही. Arcee किंवा Alibaba साठी मॉडेल बनवण्याचा कोणताही मार्ग नाही, कोणीतरी ते त्यांच्या स्वतःच्या वातावरणात चालवावे आणि आमच्यासाठी त्यात काहीही प्रवेश असेल,” त्याने स्पष्ट केले.

यापैकी बहुतेक मॉडेल्स “ओपन वेट” म्हणून ओळखल्या जाणाऱ्या आहेत आणि ते खरोखरच पूर्णपणे मुक्त-स्रोत सॉफ्टवेअर नसले तरी, स्त्रोत कोड (जो भाग प्रत्यक्षात सर्व्हरवर चालेल), जर तो हगिंग फेस सारख्या मुक्त-स्रोत साइटवरून डाउनलोड केला असेल, तर तो मोठ्या प्रमाणात दृश्यमान आणि पुनरावलोकन करण्यायोग्य आहे. (जे उपलब्ध नाही ते म्हणजे मॉडेल्सना प्रशिक्षण देण्यासाठी वापरल्या जाणाऱ्या पद्धती आणि डेटा.)

मोठ्या संस्थांनी त्यांच्या सुरक्षा चाचणी आणि तपासणी प्रक्रियेद्वारे कोणतेही मॉडेल कोर ठेवले पाहिजे आणि ते त्यांच्या विशिष्ट उपयोगांसाठी मॉडेल्सचे प्रशिक्षणोत्तर देखील करतील आणि पूर्वाग्रह, विषारीपणा, भ्रम, विशिष्ट विषयांची संवेदनशीलता यासारख्या क्षेत्रांचे परीक्षण करू शकतात. त्यामुळे लोकांनी त्यांना सूचना पाठवण्यास सुरुवात करण्यापूर्वी ते मॉडेलसह कार्य करतात, ऑप्टिमाइझ करतात आणि समजून घेतात.

कोडिंगसाठी वापरलेले मॉडेल ते लिहित असलेल्या कोडमध्ये दुर्भावनापूर्ण पार्श्वभाग टाकू शकते का? पुन्हा, हे सैद्धांतिकदृष्ट्या शक्य असताना, ते पूर्ण करण्यासाठी ॲक्रोबॅटिक पराक्रम आवश्यक आहेत.

“एक अत्याधुनिक अभिनेता प्रत्येक परिस्थितीत पूर्णपणे आश्चर्यकारक कोडिंग मॉडेल होण्यासाठी मॉडेलला प्रशिक्षण देऊ शकत नाही असे कोणतेही कारण नाही, परंतु जेव्हा विशिष्ट प्रकारचे कोड बेस सादर केले जाते … काही छुपे प्रशिक्षण सुरू होईल,” ॲटकिन्स, जो आपले दिवस मॉडेल्सचे प्रशिक्षण घालवतो, असे प्रतिपादन केले. पण तो पुढे म्हणतो: “तुम्ही हे कसे कराल हे मला माहीत नाही.”

मोठ्या भाषेचे मॉडेल निसर्गाने सर्जनशील असल्यामुळे, संदर्भ आणि तत्परतेच्या पूर्वनियोजित परिपूर्ण वादळाला प्रतिसाद म्हणून मालवेअर बाहेर थुंकण्यासाठी समकालीन मॉडेल मिळण्याची शक्यता कमी आहे. अगदी बारीक असण्याची शक्यता आहे की कोणताही एंटरप्राइझ नंतर तो कोड वापरेल.

भविष्यात असे होऊ शकते का? असा कोणाचाही अंदाज आहे. परंतु एंटरप्रायझेस त्यांचे AI ॲप्स मॉडेल-अज्ञेयवादी आणि एकाधिक मॉडेल्स वापरण्यासाठी तयार करत आहेत. त्यामुळे जरी चिनी मॉडेल्स आजच्या किमतीसाठी सर्वोत्कृष्ट असली तरीही, एंटरप्रायझेस त्यांना कायमचे वापरण्यास बंद केले जाणार नाहीत.

“माझ्या मते चिनी मॉडेल्सवर बंदी कशी घालायची याविषयी संभाषण करण्याऐवजी, आम्ही येथे यूएसमध्ये एक चांगली, मुक्त इकोसिस्टम कशी वाढवायची याबद्दल असावी,” ॲटकिन्स म्हणतात.

आर्सीला चिनी मॉडेल्सचे फायदे देखील मिळतात. ते खुले असल्यामुळे, स्टार्टअपला “त्या मॉडेल्सचा चांगला फायदा होतो कारण त्यांनी काय केले ते आम्ही शिकू शकतो. आम्ही त्यांच्या वरती निर्माण करू शकतो. मग आम्ही काय करतो ते ते शिकू शकतात,” तो म्हणतो. “आम्हाला ते मॉडेल बनवणाऱ्या लोकांबद्दल, वैयक्तिक संशोधकांबद्दल प्रचंड आदर आहे.”

शेवटी, चिनी मॉडेल्सशी स्पर्धा करण्याचा मार्ग म्हणजे “उत्तम मॉडेल सोडणे,” ॲटकिन्स म्हणतात. “आम्ही त्यांना बोलण्यासाठी काहीतरी दिले पाहिजे.”