NVIDIA Vera Rubin: व्यावसायिक खेळाडूचा विचार करा. एलिट परफॉर्मर्सना जे वेगळे करते ते गेममध्ये काय घडते: सतत परिष्कृत करणे, नवीन प्रतिस्पर्ध्यांशी जुळवून घेणे आणि शेवटच्या गेममध्ये काय उघड झाले यावर आधारित कौशल्ये धारदार करणे.
एजंटिक एआय त्याच प्रकारे कार्य करते. एका प्रॉम्प्टला उत्तर देण्याऐवजी, त्याला एक उद्दिष्ट दिले आहे आणि वातावरण बदलत असताना, एज केसेस उदयास येतात आणि साधने बदलत असताना ते जुळवून घेत राहावे लागते. प्रॉम्प्टला प्रतिसाद देणाऱ्या जनरेटिव्ह मॉडेलच्या विपरीत, एजंटिक मॉडेलने योजना आखणे आवश्यक आहे, भिन्न साधने वापरणे आवश्यक आहे आणि धावण्याच्या मध्यभागी आलेल्या समस्यांपासून मुक्त होणे आवश्यक आहे.
त्यामुळेच पोस्ट-ट्रेनिंग, कच्च्या डेटावर प्रारंभिक प्रशिक्षणानंतर मॉडेलला ऑप्टिमाइझ करणारा टप्पा, आता एक-वेळ पूर्ण करणारा टप्पा नाही. हे सतत चालू आहे कारण एजंटिक मॉडेल्सचे वातावरण वेगाने बदलते. एजंट वापरत असलेली साधने आठवड्यातून आठवड्यात बदलू शकतात. एज केसेस उत्पादनामध्ये पृष्ठभागावर आहेत ज्यात चाचणी सेट अपेक्षीत नाही. प्रत्येक उपयोजन स्वतःचा कोडबेस, धोरणे आणि वातावरण आणते.
प्रशिक्षणोत्तर उद्दिष्टे
नवीन समस्या उद्भवल्यामुळे प्रशिक्षणोत्तर चक्र उत्पादनातून परत येते. संगणकीय भार वाढतो कारण प्रत्येक धाव जास्त जड आहे म्हणून नाही तर धावा सतत चालू राहतात.
Agentic AI ने प्रशिक्षणोत्तर नवीन गणना पॅटर्नचे अनावरण केले आहे, ज्यामुळे ते एजंटिक युगाचे मध्यवर्ती कार्यभार आणि प्रति डॉलर बुद्धिमत्तेचे प्राथमिक चालक बनते.
प्रशिक्षणानंतरच्या मुख्य उद्दिष्टांमध्ये सतत शिकण्याच्या चक्रात प्रत्येक फॉरवर्ड आणि बॅकवर्ड पासचे उत्पन्न वाढवून प्रति डॉलर बुद्धिमत्ता वाढवणे समाविष्ट आहे. फॉरवर्ड पास — अनुमान — प्रति टोकन किंमत म्हणून मोजले जाते. याचा अर्थ असा की प्रति टोकन किंमतीत होणारी प्रत्येक सुधारणा थेट प्रति डॉलर बुद्धिमत्तेत जाते.
Demystifying एजंटिक पोस्ट-ट्रेनिंग
प्रशिक्षणोत्तर म्हणजे जिथे बुद्धिमत्ता विकसित केली जाते. प्रीट्रेनिंगमध्ये, मॉडेल पुढील टोकनचा अंदाज वर्तवण्यास शिकतो, जे त्याला प्रवाहीपणा प्रदान करते परंतु बुद्धिमत्ता नाही. पोस्ट-ट्रेनिंग म्हणजे कोड लिहिणे, मल्टीस्टेप टास्क प्लॅन करणे, शोध साधन वापरणे आणि काहीतरी चूक झाल्यावर पुनर्प्राप्त करणे यात प्रभुत्व मिळवते. अनुमान हे नंतर येते: कामावर काम करणारे मॉडेल, प्रति टोकन किंमतीनुसार.
लक्षात ठेवण्यासाठी कोणतीही निश्चित उत्तर की नसल्यामुळे, फक्त बक्षिसे, रीइन्फोर्समेंट लर्निंग (RL) द्वारे मॉडेल सुधारते. जेव्हा एखादे कार्य नियुक्त केले जाते, तेव्हा ते एक प्रयत्न तयार करते, ज्याला फॉरवर्ड पास म्हणून ओळखले जाते, ते कामावर तेच काम करते. प्रयत्न स्कोअर केला जातो, आणि पाठ पाठीमागे पासद्वारे मॉडेलचे वजन अद्यतनित करतो. लाखो प्रयत्नांनंतर बुद्धिमत्ता मजबूत होते
प्रत्येक पायरी मोजणीची मागणी करत आहे, आणि या लूपची मोठ्या प्रमाणावर अंमलबजावणी करणे हे ऑर्केस्ट्रेशन आव्हान बनते: हजारो वातावरण समांतरपणे रोलआउट तयार करतात, बक्षिसे प्रमाणित केली जातात आणि अद्ययावत वजन पूर्णपणे गुंतलेल्या प्रवेगकांसह प्रशिक्षणात परत येतात. NVIDIA NeMo ओपन लायब्ररी, जसे की NeMo जिम प्रशिक्षण वातावरणासाठी आणि NeMo RL वितरित पोस्ट-ट्रेनिंगसाठी, कस्टम रिसर्च कोडमधून पोस्ट-ट्रेनिंगला पुनरावृत्ती करण्यायोग्य पायाभूत सुविधांमध्ये बदला.
प्रति डॉलर बुद्धिमत्ता प्रति टोकनची किंमत का वाढवते
जर अनुमान कमाईचे इंजिन म्हणून काम करत असेल, तर प्रशिक्षणोत्तर गुणक म्हणून काम करते: मॉडेल जितके अधिक सक्षम होईल, वितरित केलेल्या प्रत्येक टोकनचे मूल्य जास्त असेल.
प्रति टोकन किंमत ही अनुमान कारखान्यासाठी मुख्य मेट्रिक आहे: दहा लाख टोकन वितरित करण्याचा एकूण खर्च. प्रति डॉलर बुद्धिमत्ता एका वेगळ्या प्रश्नाला संबोधित करत एक पातळी उंचावर बसते: सेवा देण्यासारखे मॉडेल तयार करण्यासाठी आणि त्याचे वातावरण बदलत असताना ते सेवा देण्यास योग्य ठेवण्यासाठी किती खर्च येतो?
दोन घरटे आहेत, स्पर्धा नाही. प्रति टोकन किंमत कमी करणारी AI पायाभूत सुविधा मॉडेलमध्ये तयार केलेल्या बुद्धिमत्तेच्या प्रत्येक बिंदूची किंमत देखील कमी करते. आणि अंतर्भूत बुद्धिमत्तेचा प्रत्येक बिंदू अनुमान कारखाना देत असलेल्या प्रत्येक टोकनचे मूल्य वाढवतो.
इतर अटींमध्ये, प्रति टोकन किंमत ऑपरेटिंग कार्यक्षमता प्रतिबिंबित करते, तर प्रति डॉलर बुद्धिमत्ता हे प्रतिबिंबित करते की मॉडेल क्षमतेमधील गुंतवणूक परतावा देत आहे की नाही.
निमोट्रॉन 3 अल्ट्रा पोस्ट-ट्रेनिंगसह प्रति डॉलर बुद्धिमत्ता ऑप्टिमाइझ करणे
NVIDIA निमोट्रॉन 3 अल्ट्रा हे एक ओपन-वेट, 550-अब्ज-पॅरामीटर मिश्रण-ऑफ-एक्सपर्ट (MoE) मॉडेल आहे जे पडताळणी करण्यायोग्य बेंचमार्क आणि NeMo RL वर चालणारी संपूर्णपणे उघड केलेली प्रशिक्षणोत्तर रेसिपी देते. याने प्रमाणित रिअल-वर्ल्ड कोडिंग बेंचमार्कवर 71.7% स्कोअर मिळवला, SWE-बेंच सत्यापित, ओपन-सोर्स प्रोजेक्ट्समधील अंदाजे दहापैकी सात अस्सल सॉफ्टवेअर बगसाठी यशस्वीरित्या निराकरणे तयार केली, प्रत्येक प्रकल्पाच्या स्वतःच्या चाचण्यांविरुद्ध प्रमाणित.
NVIDIA ब्लॅकवेल प्लॅटफॉर्म प्रति रन खर्च कमी करते आणि एजंटिक युगाच्या मागणीनुसार वारंवार प्रशिक्षणानंतर आर्थिकदृष्ट्या व्यवहार्य बनवते. ती बुद्धिमत्ता प्रत्येक टोकनवर दिले जाते.
NVIDIA व्हेरा रुबिन प्लॅटफॉर्म ब्लॅकवेल जनरेशनच्या एक चतुर्थांश GPU सह सर्वात मोठ्या मॉडेल्सना प्रशिक्षण देत मार्गक्रमण पुढे ढकलतो. एजंटिक पोस्ट-ट्रेनिंग वर्कलोडसाठी प्रति डॉलर बुद्धिमत्ता ऑप्टिमाइझ करण्यासाठी ते शेवटपासून शेवटपर्यंत सह-इंजिनियर केले गेले: प्रति पुनरावृत्ती अधिक रोलआउट्स, सक्रिय आणि प्रशिक्षणोत्तर चक्रांमध्ये अधिक वातावरण जे कधीही थांबत नाही.
पोस्ट ट्रेनिंग वर्कफ्लोज इन मोशन
प्राइम इंटलेक्टची लॅब NVIDIA ब्लॅकवेलवर सतत पोस्ट-ट्रेन फ्रंटियर मॉडेल्स उघडते आणि अनुमान ऑर्केस्ट्रेशनसाठी NVIDIA डायनॅमोचा वापर करते. Vera Rubin सह, Prime Intellect चे उद्दिष्ट आहे की मजबुतीकरण शिक्षण वातावरण स्केल करणे, प्रति पुनरावृत्ती अधिक रोलआउट्स व्युत्पन्न करणे आणि व्यवसायांसाठी प्रति डॉलर बुद्धिमत्ता ऑप्टिमाइझ करण्यासाठी प्रशिक्षण-ते-अनुमान चक्रांना गती देणे.
NVIDIA Vera सह सँडबॉक्स इन्फ्रास्ट्रक्चर ऑप्टिमाइझ करत आहे
प्राइम इंटेलेक्टने त्याची सँडबॉक्स इन्फ्रास्ट्रक्चर NVIDIA Vera CPUs सह समाकलित करण्यासाठी सुव्यवस्थित केले आहे, कमी-विलंबता आणि ऊर्जा-कार्यक्षम मजबुतीकरण शिक्षण सक्षम केले आहे. NVIDIA Nemotron आणि NVIDIA NeMo Gym सारखी मुक्त-स्रोत फ्रेमवर्क आणि मॉडेल त्याच्या सॉफ्टवेअर स्टॅकमध्ये समाविष्ट केले आहेत. रिॲलिस्टिक RL सँडबॉक्स वर्कलोड्सवरील पर्यायी x86 आर्किटेक्चरच्या तुलनेत, प्राइम इंटलेक्टने निरीक्षण केले की वेरा प्रति CPU सरासरी 30% जास्त थ्रूपुट देते.
पर्पलेक्सिटीचा RL पोस्ट-ट्रेनिंग स्टॅक शेकडो NVIDIA GPU मध्ये असिंक्रोनसपणे ऑपरेट करतो, RDMA-आधारित वेट ट्रान्सफर इंजिन वैशिष्ट्यीकृत करते जे प्रशिक्षण आणि अनुमान नोड्स दरम्यान ट्रिलियन पॅरामीटर मॉडेल्सचे दोन सेकंदात समक्रमित करते. परिणामी पोस्ट-प्रशिक्षित Qwen3 235B मॉडेल नंतर NVIDIA GB200 NVL72 सिस्टमवर लागू केले जातात.
निष्कर्ष
सामूहिक AI एक सेवा म्हणून प्रशिक्षणोत्तर वितरीत करते, पर्यवेक्षित फाइन-ट्यूनिंग, मजबुतीकरण शिक्षण आणि थेट प्राधान्य ऑप्टिमायझेशन पसरवते. ही सेवा वैशिष्ट्यपूर्ण ॲप्लिकेशन प्रोग्रामिंग इंटरफेस आणि सॉफ्टवेअर डेव्हलपमेंट किटद्वारे वितरित केली जाते जी त्याच्या AI नेटिव्ह क्लाउड प्लॅटफॉर्मवर पोस्ट-ट्रेनिंगच्या संपूर्ण श्रेणीला समर्थन देते. हे ऑप्टिमाइझ केलेल्या कर्नल लायब्ररीसह NVIDIA च्या प्लॅटफॉर्मवर कार्यरत आहे आणि आता पुढे Vera Rubin प्लॅटफॉर्म वापरण्याची तयारी करत आहे.
Comments are closed.