AMD ROSS Agentic AI: जिथे ते AMD च्या विस्तारित AI सॉफ्टवेअर स्टॅकमध्ये बसते

एएमडी रॉससह आपली एजंटिक एआय सॉफ्टवेअर रणनीती विस्तारत आहे, जो त्याच्या हार्डवेअर पोर्टफोलिओमध्ये एआय विकास आणि अंमलबजावणी कार्य करण्यासाठी व्यापक प्रयत्नात आणखी एक घटक आहे. ROSS चे महत्त्व समजणे सोपे आहे जेव्हा ते AMD च्या इतर अलीकडील सॉफ्टवेअर प्रकल्पांसोबत ठेवले जाते.

कंपनी PACE विकसित करत आहे, जे अनुमान सर्व्हरवरून एजंटिक AI ऑर्केस्ट्रेटरमध्ये विकसित झाले आहे, तर ROCm.AI ROCm इकोसिस्टममध्ये AI-सहाय्यित विकास, AMD-विशिष्ट कौशल्ये आणि वर्कलोड ऑप्टिमायझेशन आणते.

हे प्रकल्प एजंटिक AI वर्कफ्लोच्या वेगवेगळ्या भागांना संबोधित करतात, म्हणून त्यांना एका प्लॅटफॉर्मसाठी बदलण्यायोग्य नाव म्हणून मानले जाऊ नये. कंपनीचा असा युक्तिवाद आहे की एजंटिक वर्कलोडसाठी प्रवेगक गणनेपेक्षा जास्त आवश्यक आहे कारण एजंट वारंवार मॉडेल्स, टूल्स, डेटाबेसेस आणि इतर सेवांची मागणी करतात. AMD परिणामी CPUs आणि सिस्टम-स्तरीय ऑर्केस्ट्रेशन त्याच्या Instinct accelerators आणि ROCm सॉफ्टवेअरसह हायलाइट करत आहे.

एएमडी रॉस एजंटिक एआय म्हणजे काय?

त्याच्या केंद्रस्थानी, ROSS एजंटिक AI वर्कफ्लोवर लक्ष केंद्रित करणारा AMD सॉफ्टवेअर उपक्रम आहे. हा फरक महत्त्वाचा आहे कारण एजंटिक वर्कलोडमध्ये अनेक टप्प्यांचा समावेश असू शकतो. सिस्टमला ध्येयाचा अर्थ लावणे, पुढील पायरीबद्दल कारण, मॉडेलला कॉल करणे, साधन किंवा बाह्य सेवेशी संवाद साधणे, निकालावर प्रक्रिया करणे आणि कार्यप्रवाह सुरू ठेवणे आवश्यक असू शकते. अंतर्निहित मॉडेल महत्वाचे राहते, परंतु आसपासचे सॉफ्टवेअर त्या वैयक्तिक ऑपरेशन्स कशा जोडल्या जातात आणि कार्यान्वित केल्या जातात हे निर्धारित करते.

AMD चे व्यापक एजंटिक-AI साहित्य हे पारंपारिक अनुमानापासून अशा प्रणालींकडे संक्रमणाचे वर्णन करते जे योजना करू शकतात, साधने कॉल करू शकतात आणि एकाधिक चरणांचे समन्वय करू शकतात. कंपनी ऑर्केस्ट्रेशन, एजंट एक्झिक्यूशन, टूल कॉल, पॉलिसी चेक आणि डेटा प्रोसेसिंग या वर्कलोडला आधार देणारे इन्फ्रास्ट्रक्चरचे वाढत्या महत्त्वाचे भाग म्हणून ओळखते.

अधिकृत प्रतिमेवर आधारित प्रातिनिधिक प्रतिमा | बातम्या

त्यामुळे या अधिक क्लिष्ट एआय ऍप्लिकेशन्सच्या आसपासच्या सॉफ्टवेअर लेयरला संबोधित करण्याच्या AMD च्या प्रयत्नात ROSS बसते. तथापि, त्याचे वर्णन स्वायत्त कर्मचारी किंवा पारंपारिक AI सहाय्यक किंवा विकासकांच्या बदली म्हणून केले जाऊ नये. हे समजून घेण्याचा उपयुक्त मार्ग म्हणजे एजंटिक वर्कफ्लो तयार करण्यासाठी आणि ऑपरेट करण्यासाठी सॉफ्टवेअर पायाभूत सुविधा.

ROSS एजंटिक AI वर्कफ्लो कसे हाताळते

एजंटिक ऍप्लिकेशन्स पारंपारिक चॅट इंटरफेसपेक्षा भिन्न आहेत कारण मॉडेल हे दीर्घ अंमलबजावणी साखळीचा फक्त एक घटक आहे.

डेव्हलपर एक वर्कफ्लो तयार करू शकतो ज्यामध्ये एजंट विनंतीचा अर्थ लावतो, एखादे साधन निवडतो, माहिती मिळवतो, ती माहिती मॉडेलकडे परत देतो आणि नंतर पुढे काय व्हायचे ते ठरवतो. अधिक अत्याधुनिक प्रणाली संशोधन, नियोजन, कोडिंग किंवा प्रमाणीकरण हाताळण्यासाठी स्वतंत्र घटकांसह एकाधिक विशेष एजंट्स सादर करू शकतात. त्यामुळे पायाभूत सुविधांना कच्च्या टोकन निर्मितीपेक्षा अधिक सामोरे जावे लागते.

एएमडीची एजंटिक वर्कलोड्सची स्वतःची चर्चा जीपीयू-आधारित मॉडेल अंमलबजावणीसह ऑर्केस्ट्रेशन, टूल कॉल, डेटा प्रोसेसिंग आणि सिस्टम व्यवस्थापन यासारख्या CPU-केंद्रित ऑपरेशन्स हायलाइट करते.

पारंपारिक चॅटबॉट अनुमानांच्या तुलनेत या अतिरिक्त ऑपरेशन्स CPU आणि प्रवेगक संसाधनांमधील संतुलन बदलतात असा एएमडीचा तर्क आहे. यामुळे एएमडीच्या एजंटिक सॉफ्टवेअर उपक्रमांना एक व्यापक स्टॅक म्हणून पाहिले पाहिजे. ROSS त्या सॉफ्टवेअरच्या दिशेचा भाग आहे, तर इतर AMD प्रकल्प विकास, ऑर्केस्ट्रेशन आणि ऑप्टिमायझेशनच्या विशिष्ट स्तरांना संबोधित करतात.

AMD हार्डवेअर सपोर्टला जवळून पाहण्याची गरज आहे

एएमडीचे एआय सॉफ्टवेअर कव्हर करताना केलेली सर्वात सोपी चूक म्हणजे एखादे उत्पादन फक्त “एएमडी हार्डवेअर” चे समर्थन करते. AMD ची सध्याची सॉफ्टवेअर इकोसिस्टम AMD EPYC सर्व्हर प्रोसेसर, AMD Instinct accelerators, AMD Radeon ग्राफिक्स आणि Ryzen AI सिस्टीमसह अनेक भिन्न प्लॅटफॉर्मवर पसरलेली आहे. ROCm चे वर्तमान दस्तऐवजीकरण विशेषत: Instinct GPUs आणि Radeon हार्डवेअरला समर्थित प्लॅटफॉर्म म्हणून ओळखते, तर AMD स्वतंत्रपणे Ryzen सिस्टीमवर AI क्षमतांचा विस्तार करत आहे. तथापि, त्या इकोसिस्टम-व्यापी अनुकूलता सूची आपोआप ROSS हार्डवेअर-समर्थन सूची म्हणून सादर केल्या जाऊ नयेत.

AMD चे सार्वजनिकरित्या प्रवेश करण्यायोग्य ROSS पृष्ठ सध्या पडताळणीसाठी उपलब्ध अनुक्रमित दस्तऐवजीकरणाद्वारे तपशीलवार सुसंगतता मॅट्रिक्स उघड करत नाही. परिणामी, विशिष्ट प्रोसेसर किंवा प्रवेगक मॉडेल फक्त ROSS शी संलग्न केले पाहिजे जेथे AMD त्यांना स्पष्टपणे ओळखते. विकासकांसाठी हा फरक विशेषतः महत्वाचा आहे. AMD च्या व्यापक इकोसिस्टमला सपोर्ट करणाऱ्या सॉफ्टवेअर स्टॅकचा अर्थ असा नाही की प्रत्येक घटक प्रत्येक Radeon GPU, Ryzen AI प्रोसेसर, EPYC CPU आणि Instinct एक्सीलरेटरवर सारखाच काम करतो.

आत्तासाठी, सर्वात सुरक्षित वर्णन असे आहे की ROSS AI वर्कलोड्ससाठी AMD च्या विस्तृत सॉफ्टवेअर धोरणाशी संबंधित आहे, तर विशिष्ट ROSS हार्डवेअर सुसंगतता AMD च्या स्वतःच्या प्रकाशन दस्तऐवज उपलब्ध झाल्यावर तपासली पाहिजे.

ROSS डेव्हलपर वर्कफ्लोमध्ये कसे बसते

एजंटिक सॉफ्टवेअरचे आवाहन शेवटी विकासक त्याच्याशी काय करू शकतात याच्याशी जोडलेले आहे. एजंटिक डेव्हलपमेंट वातावरण मॉडेल्स, टूल्स आणि ऍप्लिकेशन लॉजिकला पुनरावृत्ती करण्यायोग्य वर्कफ्लोमध्ये जोडण्यासाठी यंत्रणा प्रदान करू शकतात. जेव्हा एखादा अनुप्रयोग प्रयोगाच्या पलीकडे जातो आणि सातत्याने ऑपरेट करणे आवश्यक असते तेव्हा ते विशेषतः महत्वाचे होते.

AMD चा PACE प्रकल्प या वर्कफ्लोचा एक भाग अधिक तपशीलवार वर्णन करतो. PACE आता LangGraph चा मूळ ऑर्केस्ट्रेशन लेयर म्हणून वापर करते, विकासकांना त्यांचे स्वतःचे LangGraph वर्कफ्लो आणण्याची परवानगी देते तर PACE आलेख अंमलबजावणी, शेड्यूलिंग, स्थिती आणि टूल डिस्पॅच हाताळते.

AMD
इमेज क्रेडिट: एएमडी / आयटी होम

AMD प्रकल्पाचा भाग म्हणून स्थानिक आणि रिमोट एआय इन्फ्रास्ट्रक्चरमध्ये निर्धारवादी रीप्ले, प्रोफाइलिंग आणि तैनातीचे वर्णन करते. जोपर्यंत AMD त्यांना स्पष्टपणे जोडत नाही तोपर्यंत त्या क्षमतांचे श्रेय ROSS ला दिले जाऊ नये. त्याऐवजी, ते व्यापक वातावरण दाखवतात ज्यामध्ये एएमडी एजंटिक वर्कलोडसाठी सॉफ्टवेअर विकसित करत आहे.

डेव्हलपर कथा परिणामी एकल अनुमान इंजिन निवडण्याबद्दल कमी होत आहे आणि मॉडेल, रनटाइम, ऑर्केस्ट्रेशन लेयर आणि हार्डवेअर कार्यक्षमतेने कनेक्ट करण्याबद्दल अधिक आहे.

ROSS, PACE आणि ROCm.AI वेगवेगळ्या भूमिका देतात

एएमडीच्या विस्तारित सॉफ्टवेअर कॅटलॉगमुळे कंपनीच्या एजंटिक-एआय धोरणाचे अनुसरण करणे कठीण होऊ शकते कारण अनेक प्रकल्प समान शब्दावली वापरतात.

PACE ऑर्केस्ट्रेशन-केंद्रित प्रकल्पाचे सर्वात स्पष्ट उदाहरण आहे. AMD हे एक मुक्त-स्रोत संशोधन आणि विकास प्रकल्प म्हणून वर्णन करते जे उच्च-कार्यक्षमता अनुमान सर्व्हरपासून पूर्ण एजंटिक एआय ऑर्केस्ट्रेटरमध्ये विकसित झाले आहे. त्याचे LangGraph एकत्रीकरण संपूर्ण एजंटिक आलेख कार्यान्वित करण्यास आणि मॉडेल कॉल्स आणि टूल्सचे समन्वय साधण्यास अनुमती देते.

ROCm.AIदरम्यान, ROCm सॉफ्टवेअर इकोसिस्टमच्या आसपास AI-नेटिव्ह डेव्हलपर अनुभव म्हणून स्थित आहे. AMD ROCm.AI अंतर्गत AMD कौशल्य, ROCm CLI आणि ROCm हायपरलूम एकत्र करते. हायपरलूम एंड-टू-एंड अनुमान वर्कलोड्सच्या AI-सहाय्यित ऑप्टिमायझेशनवर लक्ष केंद्रित करते, तर AMD स्किल्स कोडिंग एजंट्समध्ये AMD-विशिष्ट ज्ञान आणतात आणि ROCm CLI AI वर्कलोड्स व्यवस्थापित करण्यासाठी एक एकीकृत इंटरफेस प्रदान करते.

म्हणून ROSS वर स्वतःच्या अटींवर चर्चा केली पाहिजे. महत्त्वाचा संपादकीय मुद्दा असा आहे की एएमडी एकाच वेळी एजंटिक सॉफ्टवेअर स्टॅकचे अनेक स्तर विकसित करत आहे.

एएमडी एजंटिक एआय भोवती अधिक सॉफ्टवेअर का ठेवत आहे

एजंट्सकडे वळल्याने पायाभूत सुविधांचे समीकरण बदलते. पारंपारिक चॅटबॉट मॉडेल आउटपुट व्युत्पन्न करण्यात आपला बहुतेक वेळ खर्च करू शकतो. एजंट मॉडेल अनुमान, टूल एक्झिक्यूशन, ऍप्लिकेशन लॉजिक, डेटा पुनर्प्राप्ती आणि ऑर्केस्ट्रेशन दरम्यान वारंवार फिरू शकतो.

AMD ने स्पष्टपणे असा युक्तिवाद केला आहे की यामुळे CPU गणनेसाठी अतिरिक्त मागणी निर्माण होते कारण CPUs बहुतेक ऑर्केस्ट्रेशन, डेटा मूव्हमेंट आणि एक्सीलरेटर्सच्या आसपास समांतर अंमलबजावणी हाताळतात. कंपनीने सामान्य-उद्देशीय वर्कलोड्स, GPU हेड नोड्स आणि एजंटिक AI कार्यांसाठी वेगवेगळ्या CPU आवश्यकतांवर देखील चर्चा केली आहे. हे सॉफ्टवेअर विशेषतः महत्वाचे बनवते.

जर एजंटने साधनांची वाट पाहण्यात, मॉडेल्समध्ये स्विच करण्यासाठी किंवा डेटा हलविण्यात बराच वेळ घालवला तर, केवळ रॉ एक्सीलरेटर थ्रूपुट अनुप्रयोगाचे एकूण वर्तन निर्धारित करत नाही. रनटाइम आणि ऑर्केस्ट्रेशन लेयर कामगिरी समीकरणाचा भाग बनतात. हे स्पष्ट करते की AMD एकाच वेळी PACE आणि ROCm.AI सारखे प्रकल्प का विकसित करत आहे आणि त्याचे Instinct, EPYC, Radeon आणि Ryzen AI प्लॅटफॉर्मचा विस्तार करत आहे.

एंटरप्राइझ कोन पायाभूत सुविधांबद्दल आहे, हायप नाही

एंटरप्राइझ डिप्लॉयमेंटसाठी, एजंट स्वायत्त आहे की नाही हा मनोरंजक प्रश्न नाही. विकसक आणि पायाभूत सुविधा संघ जटिल कार्यप्रवाह विश्वसनीयपणे तयार करू शकतात, चालवू शकतात, निरीक्षण करू शकतात आणि पुनरुत्पादित करू शकतात.

AMD चे PACE दस्तऐवजीकरण, उदाहरणार्थ, स्थानिक आणि रिमोट इन्फ्रास्ट्रक्चरमध्ये निर्धारक अंमलबजावणी आणि बेंचमार्किंग, प्रोफाइलिंग, टूल एक्झिक्यूशन आणि तैनाती स्पष्टपणे संबोधित करते. त्याची लँगग्राफ फाउंडेशन शाखा, लूप आणि पर्सिस्टंट स्टेटसाठी समर्थनासह संरचित वर्कफ्लो देखील प्रदान करते. जेव्हा प्रायोगिक एजंटला ऑपरेशनल ऍप्लिकेशन बनण्याची आवश्यकता असते तेव्हा अशा प्रकारच्या क्षमता संबंधित होतात.

ROSS ची भूमिका AMD च्या दस्तऐवजीकरणाने स्पष्टपणे स्थापित केल्याच्या पलीकडे वाढू नये, परंतु या मोठ्या सॉफ्टवेअर पुशमध्ये त्याचे स्वरूप लक्षणीय आहे. हार्डवेअर, रनटाइम्स, ऑर्केस्ट्रेशन आणि डेव्हलपर टूलिंगचा समावेश असलेली सिस्टम समस्या म्हणून एएमडी एजंटिक एआयकडे वाढत आहे.

उपलब्धता आणि विकसक प्रवेश

ROSS ची उपलब्धता स्थिती AMD च्या इतर AI सॉफ्टवेअर रिलीझपासून वेगळे करणे आवश्यक आहे. AMD च्या 27 ऑगस्टच्या घोषणेनुसार ROCm.AI साधारणपणे ROCm 10 सह उपलब्ध आहे. PACE, दरम्यान, एक मुक्त-स्रोत संशोधन आणि विकास प्रकल्प म्हणून वर्णन केले आहे, त्याच्या एजंटिक-ऑर्केस्ट्रेशन क्षमता सक्रियपणे विकसित होत आहेत.

AMD Helios Azure AI AMD EPYC 9006
अधिकृत प्रतिमेवर आधारित प्रातिनिधिक प्रतिमा | बातम्या

AMD चे सार्वजनिक ROSS पृष्ठ त्याच्या एजंटिक AI सॉफ्टवेअर पोर्टफोलिओचा भाग म्हणून उत्पादन स्थापित करते, परंतु सध्या प्रवेश करण्यायोग्य दस्तऐवज पूर्ण ROSS रोलआउट शेड्यूलचे आत्मविश्वासाने वर्णन करण्यासाठी किंवा प्रत्येक जाहिरात केलेली क्षमता आधीच उपलब्ध असल्याचा दावा करण्यासाठी पुरेसे पडताळणीयोग्य तपशील प्रदान करत नाही. त्यामुळे वैयक्तिक घटकांची स्थिती स्वतंत्रपणे तपासण्यासारखी आहे.

एएमडीची एजंटिक एआय स्ट्रॅटेजी पूर्ण-स्टॅक स्टोरी बनत आहे

एएमडी एआय सॉफ्टवेअरकडे कसे येत आहे यामधील मोठ्या बदलाचा भाग म्हणून पाहिले जाते तेव्हा ROSS सर्वात मनोरंजक आहे. कंपनी यापुढे केवळ एक्सीलरेटरवर कार्यक्षमतेने मॉडेल चालवण्याबद्दल बोलत नाही. त्याच्या सध्याच्या पोर्टफोलिओमध्ये ROCm.AI द्वारे विकसक सहाय्य, PACE द्वारे एजंट ऑर्केस्ट्रेशन, ROCm द्वारे मॉडेल सर्व्हिंग आणि ऑप्टिमायझेशन आणि EPYC, Instinct, Radeon आणि Ryzen AI प्लॅटफॉर्मवर गणना समाविष्ट आहे. ROSS च्या मागची ती अधिक महत्त्वाची कथा आहे.

एजंटिक एआय एआय ऍप्लिकेशनला वितरित वर्कफ्लोमध्ये बदलते ज्यामध्ये मॉडेल, सीपीयू, एक्सीलरेटर्स, टूल्स, डेटा आणि ऑर्केस्ट्रेशन हे सर्व अंतिम निकालात योगदान देतात. एएमडीचा वाढता सॉफ्टवेअर पोर्टफोलिओ त्या शिफ्टला प्रतिबिंबित करतो. AMD ची सॉफ्टवेअर रणनीती कोठे चालली आहे याचा पुरावा म्हणून ROSS हे आणखी एक वेगळे AI उत्पादन म्हणून कमी मनोरंजक आहे: एजंटिक AI ला GPU वर चालण्यासाठी फक्त दुसरा वर्कलोड नव्हे तर संपूर्ण कॉम्प्युट-आणि-सॉफ्टवेअर समस्या म्हणून हाताळले जात आहे.

(स्त्रोत)

Comments are closed.