ॲमेझॉन नवीन टॉर्चन्यूरॉन डेव्ह टूलसह Nvidia वर त्याचा सर्वात मोठा शॉट घेत आहे

सोमवारी, Amazon Web Services ने नावाचे एक साधन जारी केले टॉर्चन्यूरॉन जे AI स्टार्टअप्सना त्यांचे AI ॲप्स Amazon च्या AI चिप, Trainium वर सहजपणे हलवू देते. असे केल्याने, ऍमेझॉन सॉफ्टवेअरच्या फायद्यावर थेट वार करत आहे ज्याने Nvidia ला AI ॲप्ससाठी डीफॉल्ट हार्डवेअर निवड बनण्यास मदत केली आहे आणि AI हार्डवेअर प्रदाता म्हणून त्याच्या उदयास प्रोत्साहन दिले आहे.

TorchNeuron PyTorch सह कार्य करते, एक विनामूल्य, मुक्त-स्रोत टूलकिट जे विकासक AI मॉडेल तयार करण्यासाठी, प्रशिक्षण देण्यासाठी आणि चालवण्यासाठी वापरतात. हे PyTorch सह लिहिलेल्या AI ॲप्सना Amazon नुसार कॉन्फिगरेशनची फक्त एक ओळ बदलून ट्रेनियमवर चालवू देते – कोड पुन्हा लिहिण्याची आवश्यकता नाही.

Amazon म्हणते की सुमारे 85% AI ॲप्स PyTorch ने लिहिलेले आहेत. फेसबुकने मूळतः ते विकसित केले होते, परंतु 2022 पासून, ते लिनक्स फाउंडेशनचा भाग आहे, जे मुक्त-स्रोत प्रकल्पांची देखरेख करते. Nvidia ने त्याच्या CUDA सॉफ्टवेअरची खात्री करण्यासाठी अनेक वर्षे घालवली आहेत — सॉफ्टवेअर इन्फ्रास्ट्रक्चर जी ॲप्सना Nvidia GPUs आणि त्याच्या इतर हार्डवेअरवर चालण्यास अनुमती देते — PyTorch ने लिहिलेल्या AI ॲप्सना अखंडपणे समर्थन देते. परिणामी, Nvidia चे हार्डवेअर आता मूलत: डीफॉल्टनुसार टूलकिटमध्ये खोलवर एम्बेड केलेले आहे.

टॉर्चन्यूरॉन हे PyTorch वरून रुपांतरित केले आहे, त्यामुळे PyTorch माहित असलेल्या विकसकांना ते कसे वापरायचे हे आधीच माहित आहे. ॲमेझॉन ही पहिली कंपनी नाही ज्याने त्यांच्या चिप्स सहजपणे प्लॅटफॉर्मवर आणण्याचा प्रयत्न केला. PyTorch वापरकर्ते त्यांचे ॲप्स AMD GPUs किंवा अगदी Apple च्या चिप्सवर साध्या कॉन्फिगरेशन बदलासह पोर्ट करू शकतात.

तथापि, ॲमेझॉनचा असा युक्तिवाद आहे की ट्रेनियमवर पोर्ट करणे सोपे नाही; हे एआय स्टार्टअपला ऍमेझॉनच्या संपूर्ण क्लाउडमध्ये प्रवेश देखील देते. आश्चर्याची गोष्ट नाही की, AWS ने दावा केला आहे की निओक्लॉड वापरण्यापेक्षा स्टार्टअपसाठी ही एक चांगली निवड आहे, ज्यापैकी बरेच Nvidia आणि त्याच्या हार्डवेअरशी जोडलेले आहेत, जसे की Coreweave, Nebius आणि Firmus.

“तुम्ही AWS वर बांधकाम करत आहात. तुम्ही एकाच-उद्देशीय संगणक प्रदात्यावर पैज लावत नाही आणि त्याच्या सभोवतालचे सर्व काही तयार करण्यासाठी झगडत नाही आहात,” कॉलिन ब्रेस, AWS अन्नपूर्णा लॅब्स (अमेझॉनच्या सानुकूल चिप्स बनवणारे युनिट) मधील तंत्रज्ञान सॉफ्टवेअरचे VP यांनी ईमेलद्वारे रीडला सांगितले. “AWS वर,” तो पुढे म्हणाला, “प्रोटोटाइपपासून उत्पादनाकडे जाण्यासाठी पायाभूत सुविधा आधीच उपलब्ध आहे, ज्यामुळे संस्थापकांना आवश्यक असेल तेव्हा ते जलद आणि स्केल करू शकतात.”

AWS म्हणते की तीच चिप प्रशिक्षण (AI मॉडेल शिकवणे) आणि अनुमान (तयार केलेले मॉडेल कार्य करण्यासाठी वापरकर्त्याच्या प्रश्नाचे उत्तर देते तेव्हा) दोन्ही हाताळते आणि स्टार्टअपला आवश्यक असलेल्या क्लाउड इन्फ्रास्ट्रक्चरशी घट्टपणे एकत्रित केले जाते, AWS स्वस्त प्रति-टोकन किंमत देत नसला तरीही, त्याचे क्लाउड त्यांचे पैसे वाचवेल.

“ट्रेनियमचे मूल्य म्हणजे किंमत-कार्यप्रदर्शन आणि हे तथ्य आहे की प्रशिक्षण आणि अनुमान या दोन्हीसाठी ते एक व्यासपीठ आहे, जे संपूर्ण वर्कलोडमध्ये अर्थशास्त्र सुधारते,” ब्रेस म्हणाले. “दीपग्राम पहा – ते ट्रेनियममध्ये हलविले मूळ PyTorch वापरून, सपोर्ट करा आणि ते उत्पादन-ग्रेड अचूकतेवर प्रति डॉलर 70% अधिक ऑडिओवर प्रक्रिया करत आहेत. दीपग्राम एक AI व्हॉइस ॲप प्रदाता आहे, ElevenLabs चे स्पर्धक आहे.

पण ऍमेझॉनला केवळ PyTorch ॲप डेव्हलपरला त्याच्या क्लाउडवर जाण्यासाठी एक सोपा पर्याय देण्यात समाधान नाही.

ऍमेझॉन असेही म्हणते की ते PyTorch ला Nvidia वर कमी आपोआप केंद्रीत होण्यासाठी दबाव आणत आहे आणि ते मुख्य PyTorch प्रकल्पासाठी कोडचे योगदान देईल. नवीन साधनाची घोषणा करणाऱ्या ब्लॉग पोस्टमध्ये, द कंपनीने लिहिले:

“Amazon चा दृष्टीकोन त्याच्या स्वतःच्या हार्डवेअरच्या पलीकडे विस्तारलेला आहे. कंपनी PyTorch मध्येच बदल घडवून आणत आहे, PyTorch समुदायासोबत कोड काढून टाकण्यासाठी कार्य करत आहे जे फ्रेमवर्कला विशिष्ट चिप्सशी जोडते. PyTorch ला फक्त Trainium वापरकर्त्यांसाठी नव्हे तर संपूर्ण विकसक समुदायासाठी अधिक हार्डवेअर-अज्ञेयवादी बनवणे हे आहे.”

Nvidia शी स्पर्धा करणाऱ्या हार्डवेअर आणि क्लाउड सेवा विकणाऱ्यांसाठी अशी युक्ती निःसंशयपणे चांगली असली तरी, PyTorch चा एक मुद्दा म्हणजे हार्डवेअरवर चालण्यासाठी AI कोड मिळवण्याच्या सर्व त्रासदायक अडचणी लपवणे. आम्हाला प्रतीक्षा करावी लागेल आणि Nvidia बाहेर ढकलल्याने विकसकांना अधिक पर्याय आणि अधिक परवडणारे पर्याय मिळतात, जसे Amazon च्या वचनानुसार, किंवा फक्त अधिक कॉन्फिगरेशन डोकेदुखी.

कोणत्याही प्रकारे, जर ऍमेझॉन Nvidia मधून PyTorch ला सखोलपणे अनकपलिंग करण्यात यशस्वी झाले, तर चिप स्पर्धकांशी व्यवहार करण्यापेक्षा GPU जायंटसाठी याचा खूप मोठा परिणाम होऊ शकतो. ब्रेसने म्हटल्याप्रमाणे: “वास्तविक कथा लॉक-इन काढून टाकत आहे ज्यामुळे विकसकांना वास्तविक निवड होण्यापासून रोखले गेले.”