हॉट फ्रेंच स्टार्टअप ZML अनेक एआय चिप्समध्ये वेगवान अनुमान काढण्यासाठी विनामूल्य उत्पादन जारी करते

Nvidia च्या अतुलनीय बाजारपेठेतील वर्चस्वाचे दिवस संपलेले नाहीत, परंतु सर्व दिशांनी आव्हानकर्ते आणि निवडी निर्माण होत आहेत.

ZMLएक हॉट फ्रेंच एआय स्टार्टअप मान्यता दिली ट्युरिंग अवॉर्ड विजेते यान लेकुन यांनी अनुमती देणारे अनुमान-कार्यप्रदर्शन सॉफ्टवेअर जारी केले आहे विविध मुक्त-स्रोत मोठ्या भाषा मॉडेल a वर धावणे विविध चिप्स — Nvidia's, AMD's, Google चे TPU, Apple Metal आणि Intel Arc यासह.

सह ZML/LLMDनव्याने लाँच केलेला LLM इन्फरेन्स सर्व्हर, कंपनीची महत्त्वाकांक्षा विद्यमान सायलोस तोडणे आणि AI वापर केसेससाठी त्यांच्या जास्तीत जास्त उपलब्ध वेगाने आणि काहीवेळा वेगवान चीप उपलब्ध करून देणे आहे, ZML संस्थापक स्टीव्ह मोरिन यांनी रीडला सांगितले.

जसजसे AI आमच्या कामात आणि दैनंदिन जीवनात समाकलित होत जाते, तसतसे ऑप्टिमाइझिंग अनुमान — उर्फ, प्रॉम्प्ट्सची प्रक्रिया — मॉडेल प्रशिक्षणाला महत्त्व देत आहे, परंतु सॉफ्टवेअर आणि आर्किटेक्चर अडथळ्यांसह पडद्यामागील बरेचदा विदारक लॉक-इन होते, मोरिन म्हणाले.

विविध प्रकारच्या चिप्समध्ये सर्वोच्च कामगिरी साध्य करण्याचे आश्वासन हे एक तांत्रिक पराक्रम आहे, परंतु एआय-संबंधित खर्चांवरील वाढत्या भीतींमुळे ते बाजारपेठेला व्यत्यय आणणारे देखील असू शकते.

ZML ला आशा आहे की एंटरप्राइजेस आणि क्लाउड्सना चिप्सच्या मिश्रणाचा वापर करण्याचा पर्याय प्रदान केला जाईल, ज्यापैकी काही कमी खर्चिक असतील किंवा कमी ऊर्जा वापरतील. मॉरीन म्हणाले, “लोकांना त्यांची स्वतःची प्रणाली तयार करण्याची आणि वास्तविक कार्यक्षमतेचे नफा मिळवून देण्याची ही कल्पना आहे जी (AI) प्रसारित केली जाऊ शकते.”

अशा प्रकारचे सॉफ्टवेअर सहाय्य नवीन एआय चिपमेकर्सना मदत करू शकते, ज्यापैकी बरेच युरोपमधील आहेत, मोरिनने निरीक्षण केले. Axel ला, भग्न, कालरे, OLIX, प्र.ए.एन.टी, SiPearl, SpiNNCloudआणि VSORA. परंतु त्यांच्या मूळ प्रदेशापेक्षा, त्याच्यासाठी महत्त्वाची गोष्ट म्हणजे ZML त्यांच्यासोबत “जगात यापूर्वी कोठेही न केलेल्या गोष्टींवर” काम करू शकते.

याचा अर्थ असा नाही की मोरिन Nvidia वर मंदीचा आहे. तो नाहीकाही प्रमाणात त्याच्या विद्यमान पुरवठ्यामुळे. त्यांनी रीडला सांगितले की ZML चे AI चिप जायंटशी चांगले संबंध आहेत, जे अनुमानांच्या वाढीसाठी तयारी करत आहेत.

अनुमान हे इतके गहन गुंतवणुकीचे क्षेत्र आहे, की या प्रवृत्तीचे स्वागत केले गेले आहे “अनुमान सोन्याची गर्दी.” त्यामुळे ZML मध्ये Baseten सारखी स्पर्धा आहे, ज्याचे मूल्य अलीकडे $13 अब्ज आहे; ओपन सोर्स प्रोजेक्टच्या निर्मात्यांकडून इन्फेरेक्ट vLLM; तसेच RadixArkSGLang च्या मागे व्यावसायिक कंपनी.

दोन्ही vLLM आणि SGLang अंशतः एलएलएमडीशी स्पर्धा करतात, परंतु ZML साठी मोरिनच्या महत्त्वाकांक्षा विस्तृत स्पेक्ट्रम व्यापतात. “आम्ही अशा टप्प्यावर पोहोचलो आहोत जिथे आम्ही सिलिकॉनची सह-डिझाइन करत आहोत,” तो म्हणाला. त्यांनी पुढे ZML च्या 20 लोकांच्या दुबळ्या टीमला श्रेय दिले कारण पॅरिस-आधारित स्टार्टअप योजनांमध्ये अधिक प्रकाशनांसह वेगाने पुढे जाण्यास सक्षम आहे.

या लहान संघाला त्याच्या आकारासाठी चांगले निधी उपलब्ध करून देण्यात मदत झाली. Zenly च्या अभियांत्रिकीचे VP म्हणून त्याच्या ट्रॅक रेकॉर्डबद्दल धन्यवाद, जे Snapchat ने 2017 मध्ये नऊ आकड्यांसाठी मिळवले, मोरिनने हॅरी स्टेबिंग्जच्या 20VC, >commit, AALVC, Drysdale Ventures, Xavier Niel's Kima Ventures, Kindred Lozzle, Puscal Lozzle आणि Puzzle Capital यांसारख्या व्हेंचर फर्म्समधून $20 दशलक्ष जमा केले.

ZML च्या पहिल्या सार्वजनिक प्रकल्पाच्या विपरीत, अनुमान-केंद्रित एमएल फ्रेमवर्क 2024 मध्ये रिलीझ झाले आणि मार्च मध्ये अद्यतनितZML/LLMD मुक्त स्रोत नाही. परंतु वापराविषयी शिकण्याच्या उद्देशाने ते विनामूल्य उत्पादन म्हणून लॉन्च करत आहे. “मी त्याऐवजी माझ्या वाढीला मूर्खपणाने अडथळा न आणता कुठे ते सर्वात प्रभावी आहे याचे मोजमाप आणि (मग महसूल मिळवणे) करू इच्छितो कारण मी जाण्यापासून खूप लोभी होतो,” मोरिन म्हणाले.

ZML/LLMD हे सशुल्क उत्पादन कधी बनू शकते आणि त्याचा अवलंब कसा होईल हे सांगणे फार लवकर आहे. पण स्टार्टअपचे कॅप टेबल हे पुष्टी करते की इतर संस्थापक लक्ष देत आहेत, ज्यात डॅगर आणि डॉकरचे संस्थापक सॉलोमन हायक्स, हगिंग फेसचे क्लेमेंट डेलंग्यू आणि ज्युलियन चामोंड, तसेच लेकन, आता AMI लॅब्स आहेत. यामुळे युरोपचे AI स्टार्टअप आता घरबसल्या तयार करू शकतात. “मला पॅरिसशिवाय कुठेही ZML करता आले नाही,” मोरिन म्हणाला.