थिंकिंग मशिन्सचे पहिले एआय मॉडेल 'इंकलिंग' काय आहे आणि ते चॅटजीपीटी, क्लॉडपेक्षा वेगळे कसे आहे?

ओपन-सोर्स लायसन्स अंतर्गत मॉडेल रिलीझ करण्यासाठी थिंकिंग मशीन्स ओपनएआय, अँथ्रोपिक आणि Google सारख्या त्याच्या प्रतिस्पर्धी लॅबमधून वेगळा दृष्टिकोन घेत आहे. याचा अर्थ असा की मॉडेलचे वजन बाहेरील विकासक आणि कंपन्यांना HuggingFace वरून डाउनलोड करण्यासाठी आणि थेट सुधारण्यासाठी विनामूल्य उपलब्ध आहे.

ॲन्थ्रोपिक आणि ओपनएआय सारख्या आघाडीच्या AI कंपन्यांनी जारी केलेल्या नवीन अत्याधुनिक, बंद AI मॉडेल्सवर व्हाईट हाऊसच्या आकस्मिक निर्बंधांमुळे अमेरिकेत LLMs च्या मुक्त-स्रोत विकासासाठी समर्थन म्हणून इंकलिंगने बाजारात प्रवेश केला.

Inkling सह, भूतपूर्व OpenAI CTO चा उपक्रम सट्टेबाजी करत आहे की AI मॉडेल्स जे एंटरप्राइजेसना स्वतःसाठी अनुकूल करण्याची परवानगी देतात ते यूएस मधील बऱ्याच फ्रंटियर AI लॅब्सद्वारे आणलेल्या एक-आकार-फिट-सर्व LLM ला मागे टाकतील. एंटरप्रायझेसची पूर्तता करण्यासाठी, थिंकिंग मशिन्स लॅब स्टार्टअपचे मॉडेल कस्टमायझेशन प्लॅटफॉर्म टिंकरद्वारे संस्थांना स्वत:ला चांगले ट्यून करण्यासाठी इंकलिंगला मॉडेल म्हणून स्थान देत आहे.

तथापि, याचा अर्थ असाही होऊ शकतो की इंकलिंगची त्यांची सुरेख आवृत्ती सुरक्षित आणि सुरक्षित आहे याची खात्री करण्यासाठी संस्था जबाबदार असतील. ओपनएआय आणि अँथ्रोपिकच्या विपरीत, जे त्यांच्या मॉडेल्सच्या मीटरच्या प्रवेशासाठी शुल्क आकारतात, थिंकिंग मशीन्स स्वतः मॉडेलमधून नव्हे तर टिंकरद्वारे त्याच्या सभोवतालच्या होस्टिंग इकोसिस्टममधून कमाई करण्याचा विचार करत आहेत.

थिंकिंग मशिन्स आता अंदाजे 200 लोकांना रोजगार देते, जे या वर्षाच्या सुरूवातीस निर्गमनांच्या लाटेनंतर नोंदवलेल्या पातळीपेक्षा जास्त आहे, ज्यात दोन सह-संस्थापकांचा समावेश आहे जे जानेवारीमध्ये OpenAI साठी निघाले होते.

Inkling च्या हुड अंतर्गत

इंकलिंग हे ९७५ अब्ज पॅरामीटर LLM आहे आणि दहा लाख टोकन्सच्या संदर्भ विंडोला समर्थन देते. तथापि, कोणत्याही दिलेल्या कार्यासाठी ते केवळ त्याच्या एकूण पॅरामीटर संख्येच्या काही अंशावर किंवा सुमारे 41 अब्जांवर आकर्षित करते. हे प्रामुख्याने त्याच्या अंतर्निहित मिक्स्चर-ऑफ-एक्सपर्ट (MoE) आर्किटेक्चरमुळे आहे, एक सामान्य डिझाइन ज्यामुळे खूप मोठे मॉडेल चालवणे जलद आणि स्वस्त बनते.

कंपनीच्या ब्लॉग पोस्टनुसार, इंकलिंगला थिंकिंग मशीन्सच्या संशोधकांनी मजकूर, प्रतिमा, ऑडिओ आणि व्हिडिओच्या 45 ट्रिलियन टोकन्स आणि चारही मूळ कारणांवर सुरवातीपासून प्रशिक्षण दिले आहे.

प्री-ट्रेनिंग टप्प्यात, संशोधकांनी सांगितले की मोठ्या प्रमाणात मजबुतीकरण शिक्षण पार पाडण्याआधी त्याचे काही प्रारंभिक पोस्ट-ट्रेनिंग डेटासेट तयार करण्यात मदत करण्यासाठी त्यांनी Moonshot AI चे Kimi 2.5 सारख्या इतर ओपन-वेट मॉडेल्सचा वापर केला. कंपनीने विकसित केलेले पुढील LLM पूर्णतः स्वयंपूर्ण प्रशिक्षणोत्तर डेटा वापरेल, असे त्यात म्हटले आहे.

Nvidia सोबतच्या भागीदारीबद्दल धन्यवाद, Thinking Machines ने Inkling ला पूर्णपणे chipmakers वर प्रशिक्षित केले GB300 NVL72 प्रणाली. दोन कंपन्यांनी या वर्षी मार्चमध्ये व्हेरा रुबिन संगणकीय क्षमतेची गिगावॅट तैनात करण्यासाठी करार केला होता.

कामगिरी बेंचमार्क

कोडिंग बेंचमार्कवर, थिंकिंग मशिन्सने दावा केला की चिपमेकरच्या नवीनतम पिढीच्या ओपन-वेट मॉडेलने वापरलेल्या टोकनपैकी एक तृतीयांश टोकन वापरताना इंकलिंगने Nvidia च्या Nemotron 3 Ultra च्या बरोबरीने स्कोअर मिळवला. नियंत्रण करण्यायोग्य विचार वैशिष्ट्यासह विविध कोडिंग आणि एजंट हार्नेसमध्ये चालण्यासाठी इंकलिंगला देखील प्रशिक्षण दिले गेले आहे.

तथापि, कंपनीने म्हटले आहे की इंकलिंग हे “आज उपलब्ध असलेले सर्वात मजबूत मॉडेल नाही, खुले किंवा बंद आहे.” “त्याऐवजी, गुणांचे संयोजन हे सानुकूलनासाठी एक चांगला ओपन-वेट बेस बनवते: मल्टीमोडल क्षमता, कार्यक्षम विचार आणि फाइन-ट्यूनिंगसाठी टिंकरवर उपलब्धता. इंकलिंग ही फक्त सुरुवात आहे: मॉडेल कुटुंबातील आमची पहिली रिलीज आम्ही तयार करणे सुरू ठेवू,” असे त्यात म्हटले आहे.

Inkling सोबत, कंपनीने 12 अब्ज सक्रिय पॅरामीटर्ससह Inkling-Small नावाच्या हलक्या वजनाच्या मॉडेल आवृत्तीचे पूर्वावलोकन केले जे अगदी कमी खर्चात आणि लेटन्सीसह मजबूत कार्यप्रदर्शन प्राप्त करते.