Google Antigravity SDK Gemma 4 आणि LiteRT सह स्थानिक AI एजंट जोडते

Google Antigravity SDK: Google AI कोडिंग एजंट्सना विकसकाच्या स्वतःच्या मशीनच्या जवळ आणत आहे. नवीनतम Antigravity SDK समर्थन एजंटना Google AI Edge LiteRT किंवा OpenAI- सुसंगत स्थानिक सर्व्हरद्वारे स्थानिक मॉडेल वापरू देते.

तथापि, मोठी कथा संकरित अंमलबजावणी आहे: विकासक संकरित वर्कफ्लो कॉन्फिगर करू शकतात ज्यामध्ये क्लाउड मॉडेल नियोजन हाताळते तर स्थानिक एजंट कोड-हेवी काम करतात.

Google Antigravity SDK एजंट आता क्लाउडशिवाय चालवू शकतात

Google चे Antigravity SDK आता स्थानिक मॉडेलच्या अंमलबजावणीसाठी दोन समर्पित मार्ग प्रदान करते.

कॉन्फिगरेशन	स्थानिक मॉडेल मार्ग
LiteRTAgentConfig	Google AI Edge LiteRT द्वारे Gemma 4 26B A4B सारखी मॉडेल
LocalOpenAIAgentConfig	ओलामा, एलएम स्टुडिओ आणि व्हीएलएलएम सारख्या ओपनएआय-सुसंगत स्थानिक सर्व्हर

SDK, रनटाइम आणि मॉडेल चेकपॉईंट आधीपासूनच स्थापित किंवा डाउनलोड केल्यानंतर, प्रति-टोकन क्लाउड अनुमान शुल्क टाळून पूर्णतः स्थानिक सेटअप API की किंवा इंटरनेट कनेक्शनशिवाय कार्य करू शकते.

याचा अर्थ असा आहे की जेव्हा संपूर्ण वर्कलोड स्थानिकरित्या कॉन्फिगर केले जाते तेव्हा स्त्रोत कोड आणि प्रॉम्प्ट मशीनवर राहू शकतात. तथापि, ही स्थानिक कॉन्फिगरेशनची क्षमता आहे की प्रत्येक अँटीग्रॅव्हिटी वर्कफ्लो खाजगी किंवा ऑफलाइन आहे याची हमी नाही.

Google ने 23 सप्टेंबर रोजी या क्षमतेची औपचारिक घोषणा केली. अंतर्निहित स्थानिक-मॉडेल कॉन्फिगरेशन वर्ग जुलैमध्ये SDK 0.1.6 पर्यंतचे आहेत, तर 21 सप्टेंबर रोजी आवृत्ती 0.1.18 ने हे वैशिष्ट्य अधिकृतपणे वापरण्यासाठी तयार असल्याचे चिन्हांकित केले आणि पुढील स्थानिक-मॉडेल ऑप्टिमायझेशन जोडले.

Google Gemma 4 चा स्थानिक WorkeGoogle चे म्हणून वापर करते

Google चे वैशिष्ट्यीकृत स्थानिक सेटअप LiteRT रनटाइमद्वारे Gemma 4 26B A4B वापरते. हे मॉडेल हलके लॅपटॉप हार्डवेअरच्या आसपास डिझाइन केलेले नाही. Google किमान 24GB VRAM किंवा युनिफाइड मेमरी असलेल्या सिस्टमची शिफारस करते, तर वैशिष्ट्यीकृत चेकपॉईंट डाउनलोड करण्यासाठी अंदाजे 16.8GB आहे.

LiteRT ऍपल सिलिकॉन मेटल आणि NVIDIA CUDA सह समर्थित हार्डवेअर बॅकएंड वापरू शकते, NPU समर्थन त्याच्या समर्थित बॅकएंड आर्किटेक्चरद्वारे देखील उपलब्ध आहे. त्यामुळे कोणताही लॅपटॉप आता Google चे संपूर्ण कोडिंग एजंट स्थानिक पातळीवर चालवू शकतो म्हणून मथळ्याचा अर्थ लावू नये. हार्डवेअरची आवश्यकता लक्षणीय आहे, विशेषत: ज्या विकसकांना मोठे 26B मॉडेल हवे आहे त्यांच्यासाठी.

तुम्ही Google च्या स्थानिक रनटाइमसाठी लॉक केलेले नाही.

अधिक मनोरंजक भाग असा आहे की Antigravity चे स्थानिक-एजंट आर्किटेक्चर Gemma किंवा LiteRT पर्यंत मर्यादित नाही. विकसक LocalOpenAIAgentConfig ला स्थानिक सर्व्हरशी कनेक्ट करू शकतात जसे की:

हे OpenAI-सुसंगत एंडपॉइंट्स उघड करतात, ज्यामुळे डेव्हलपरला स्थानिक अनुमान स्टॅकची अदलाबदल करताना व्यापक अँटीग्रॅव्हिटी एजंट वर्कफ्लो ठेवू देते. ते विकासकांसाठी अधिक लवचिकता निर्माण करते ज्यांच्याकडे आधीपासून पसंतीचे स्थानिक मॉडेल रनटाइम आहे किंवा संपूर्ण एजंट वर्कफ्लोची पुनर्बांधणी न करता भिन्न मॉडेल्सवर प्रयोग करू इच्छित आहेत.

एक तांत्रिक इशारा: Google विशेषत: लिटर-एलएम सर्व्हसह LocalOpenAIAgentConfig वापरू नका असे म्हणते. LiteRT मॉडेल्सनी LiteRTAgentConfig वापरावे, जे LiteRT सर्व्हर लाइफसायकल स्वतः व्यवस्थापित करते.

सर्वात मोठी कल्पना हायब्रिड एआय आहे

येथेच Google चे प्रात्यक्षिक साध्या “Gemma runs locally” घोषणेपेक्षा अधिक मनोरंजक बनते.

Google आर्किटेक्ट-बिल्डर नमुना प्रदर्शित करते:

क्लाउड मॉडेल → नियोजन आणि ऑर्केस्ट्रेशन

स्थानिक एजंट → कोडिंग, ऑडिटिंग, पॅचिंग आणि चाचणी

हे जाणूनबुजून कॉन्फिगर केलेले वर्कफ्लो आहे, अँटिग्रॅव्हिटीचे स्वयंचलित वर्तन नाही. Google च्या प्रात्यक्षिकात, Gemini 3.8 Flash ने क्लाउड प्लॅनर म्हणून काम केले तर स्थानिक Gemma 4 26B एजंटांनी कोड-हेवी काम हाताळले.

त्यानंतर स्थानिक जेम्मा एजंटांनी अशा क्रिया केल्या जसे की:

• स्त्रोत-कोड विश्लेषण
• असुरक्षितता पुनरुत्पादन
• पॅच निर्मिती
• कोड पुनरावलोकन
• प्रतिगमन चाचणी
• Google चे 97.2% स्थानिक-टोकन प्रात्यक्षिक

Google च्या सर्वात मजबूत प्रात्यक्षिकात तीन फायली कव्हर करणारे सुरक्षा-पॅचिंग कार्य समाविष्ट होते. त्या रेकॉर्ड केलेल्या तीन-फाइल सुरक्षा-पॅचिंग प्रात्यक्षिकात, 3,322 टोकन किंवा एकूण 97.2%, स्थानिक पातळीवर प्रक्रिया केली गेली, तर जेमिनी 3.8 फ्लॅशने नियोजनासाठी फक्त 95 क्लाउड टोकन वापरले.

Google म्हणते की जेमिनीला त्या उदाहरणात फक्त फाइलनावे आणि कार्य वर्णन प्राप्त झाले, तर स्त्रोत कोड स्थानिक राहिला. स्थानिक जेम्मा एजंट्सनी नंतर असुरक्षा पुनरुत्पादित केल्या, निराकरणे प्रस्तावित केली, त्या निराकरणांचे पुनरावलोकन केले आणि प्रतिगमन चाचण्या केल्या. म्हणून 97.2% आकृती या विशिष्ट तीन-फाइल प्रात्यक्षिकाचा परिणाम आहे, प्रत्येक अँटीग्रॅव्हिटी प्रकल्पासाठी कार्यप्रदर्शन किंवा गोपनीयतेची हमी नाही.

कंपन्या स्थानिक एजंट्सची काळजी का करू शकतात?

स्थानिक निष्कर्ष विशेषतः संबंधित असू शकतात जेथे विकसकांना मालकी सामग्रीवर कडक नियंत्रण आवश्यक आहे.

संभाव्य वापर प्रकरणांमध्ये हे समाविष्ट आहे:

• गोपनीयता: प्रोप्रायटरी कोड स्थानिक हार्डवेअरवर पूर्णपणे स्थानिक कॉन्फिगरेशनमध्ये राहू शकतो.
• ऑफलाइन विकास: एजंट सेटअप केल्यानंतर सक्रिय इंटरनेट कनेक्शनशिवाय काम करणे सुरू ठेवू शकतात.
• खर्च नियंत्रण: स्थानिक अनुमानांना प्रति-टोकन क्लाउड API शुल्क लागत नाही.
• रेट-मर्यादा स्वातंत्र्य: स्थानिक वर्कलोड क्लाउड API कोट्यावर त्याच प्रकारे अवलंबून नसतात.
• अनुपालन: कठोर डेटा-हँडलिंग आवश्यकता असलेल्या संस्था अशा आर्किटेक्चरचा विचार करू शकतात जे डिव्हाइसवर संवेदनशील वर्कलोड ठेवतात.
• लवचिक पायाभूत सुविधा: डेव्हलपर LiteRT आणि सुसंगत स्थानिक अनुमान सर्व्हर दरम्यान निवडू शकतात.

पूर्णतः स्थानिक वर्कफ्लो डिव्हाइसवर कोड आणि प्रॉम्प्ट ठेवू शकतो, परंतु विकासक क्लाउड-साइड मॉडेलवर काय पाठवायचे यावर हायब्रिड गोपनीयता अवलंबून असते. परंतु स्थानिक अंमलबजावणी आपोआप सुरक्षेशी समतुल्य असू नये.

तुमच्या स्वत:च्या मशीनवर चालणारा एजंट अजूनही फाइल्स, टर्मिनल्स आणि इतर टूल्समध्ये प्रवेश करू शकतो, ते कसे कॉन्फिगर केले आहे यावर अवलंबून. Google ची उदाहरणे एजंट साधन वापर दर्शवतात, त्यामुळे परवानग्या आणि साधन धोरणे सुरक्षा मॉडेलचा भाग राहतात. हायब्रीड वर्कफ्लोसाठी क्लाउड-साइड प्लॅनरला कोणती माहिती प्राप्त होते यावर देखील काळजीपूर्वक लक्ष देणे आवश्यक आहे.

ते चालवण्यासाठी तुम्हाला काय आवश्यक आहे?

Google च्या स्थानिक वर्कफ्लोचे पुनरुत्पादन करू पाहणाऱ्या विकसकांना अँटीग्रॅव्हिटी SDK पेक्षा जास्त आवश्यक आहे.

व्यावहारिक आवश्यकतांमध्ये हे समाविष्ट आहे:

आवश्यकता	याचा अर्थ काय?
अँटीग्रॅविटी एसडीके	एजंट कॉन्फिगरेशन प्रदान करते
स्थानिक रनटाइम	LiteRT-LM किंवा सुसंगत स्थानिक सर्व्हर
मॉडेल	Gemma 4 26B A4B हे Google चे वैशिष्ट्यीकृत कॉन्फिगरेशन आहे
हार्डवेअर	Google 24GB+ VRAM किंवा युनिफाइड मेमरीची शिफारस करते
पर्यायी रनटाइम्स	ओलामा, एलएम स्टुडिओ किंवा व्हीएलएलएम
परवानग्या	स्थानिक एजंट साधनांना अद्याप योग्य निर्बंधांची आवश्यकता आहे

24GB आकृती वैशिष्ट्यीकृत Gemma 4 26B A4B कॉन्फिगरेशनसाठी शिफारस आहे, प्रत्येक स्थानिक मॉडेल किंवा सेटअपसाठी किमान सार्वत्रिक हार्डवेअर नाही.

Google चे दस्तऐवजीकरण हे देखील सूचित करते की Gemma 4 26B A4B हे कॉन्फिगरेशन आहे जे LiteRT वर्कफ्लोसाठी सर्वोत्तम कार्य करते, तर इतर LiteRT चेकपॉईंट कदाचित तितके विश्वसनीयपणे कार्य करू शकत नाहीत. हे सार्वत्रिक प्लग-अँड-प्ले सोल्यूशनऐवजी विकसित होत असलेली स्थानिक-एजंट इकोसिस्टम बनवते.

काय स्थानिक एआय अजूनही सोडवत नाही?

डेव्हलपरच्या मशीनवर अनुमान हलवणे ट्रेड-ऑफसह येते.

• हार्डवेअर: मोठ्या मॉडेल्समध्ये भरीव मेमरीची मागणी असते.

• कामगिरी: स्थानिक अनुमान गती उपलब्ध GPU, युनिफाइड मेमरी आणि रनटाइमवर मोठ्या प्रमाणात अवलंबून असते.

• क्षमता: प्रत्येक तर्क किंवा कोडिंग कार्यावर स्थानिक मॉडेल फ्रंटियर क्लाउड मॉडेलशी जुळत नाही.

• सुसंगतता: मॉडेल्स आणि रनटाइमला एजंट फ्रेमवर्क आणि त्याच्या टूल्ससह योग्यरित्या कार्य करणे आवश्यक आहे.

• सुरक्षा: स्थानिक पातळीवर चालवण्यामुळे अत्याधिक साधन परवानग्या किंवा शेल प्रवेशाचे धोके दूर होत नाहीत.

• हायब्रिड गोपनीयता: क्लाउड मॉडेल वर्कफ्लोचा भाग राहिल्यास, विकासकांना अद्याप मशीनमधून नेमकी कोणती माहिती सोडते हे समजून घेणे आवश्यक आहे.

ते Google चे हायब्रिड आर्किटेक्चर विशेषतः मनोरंजक बनवते: ते क्लाउड एआय पूर्णपणे बदलण्याचा प्रयत्न करत नाही. त्याऐवजी, ते क्षमता, गोपनीयता आणि खर्चानुसार वर्कलोड विभाजित करण्याची शक्यता निर्माण करते.

गुगलच्या अँटीग्रॅव्हिटी अपडेटचा खरोखर अर्थ काय?

घोषणेचे महत्त्व Gemma 4 ला दुसऱ्या डेव्हलपर टूलमध्ये जोडण्यापलीकडे आहे. अँटीग्रॅव्हिटी आता डेव्हलपरना पूर्णपणे स्थानिक अंमलबजावणी, क्लाउड एक्झिक्यूशन किंवा दोन्हीच्या संयोजनामधील पर्याय देऊ शकते. हे AI अनुमानाचे स्थान विकास आर्किटेक्चरचा भाग बनवते.

गोपनीयता-संवेदनशील किंवा ऑफलाइन वर्कलोडसाठी, स्थानिक मॉडेल स्त्रोत कोडच्या जवळ गणना ठेवू शकतात. सशक्त क्लाउड रिजनिंगचा फायदा होणाऱ्या कार्यांसाठी, डेव्हलपर अजूनही योग्य तेथे क्लाउड मॉडेल वापरू शकतात. म्हणूनच मनोरंजक बदल म्हणजे जेम्मा डिव्हाइसवर चालवू शकते असे नाही. हे असे आहे की AI कोडिंग वर्कफ्लो संपूर्ण क्लाउड आणि विकसकाच्या स्वतःच्या हार्डवेअरवर कॉन्फिगर करण्यायोग्य होत आहेत.

अंतिम विचार: Google चे

Google चे Antigravity SDK क्लाउड रिजनिंग आणि ऑन-डिव्हाइस कोडिंग दरम्यान संकरित मार्ग उघडताना स्थानिक एजंट अंमलबजावणीला व्यावहारिक बनवते.

Antigravity SDK सह, एजंट वर्कफ्लोचे कोणते भाग स्थानिक पातळीवर चालतात आणि कोणते असल्यास, क्लाउड मॉडेल्स वापरतात हे विकसक आता ठरवू शकतात.

(स्त्रोत)