संपूर्ण एआय उद्योगात, वापरकर्ते त्यांची तैनाती किती महाग असू शकते याबद्दल अधिक जागरूक होत आहेत — आणि खर्च कमी करण्याची नवीन निकड जाणवत आहे. परंतु ओपन सोर्स मॉडेल्स प्रति-टोकन खर्चात लक्षणीयरीत्या कमी ऑफर करत असताना, दिलेल्या नोकरीसाठी योग्य मॉडेल शोधणे कठीण होऊ शकते.
गुरुवारी, लेखकजे विपणकांसाठी AI टूल्स आणि एजंट्स ऑफर करते, पालमायरा X6 नावाचे नवीन फ्लॅगशिप मॉडेल लॉन्च केले आहे, ज्याचा उद्देश त्याच्या वापरकर्त्यांसाठी ही समस्या सोडवणे आहे. Z.ai च्या ओपन सोर्स मॉडेल GLM-5.2 वर प्रशिक्षणोत्तर भिन्नता म्हणून तयार केलेले, लेखक म्हणतात की नवीन प्रणालीने खूप कमी किमतीत तैनाती-तयार क्षमता प्रदान केल्या पाहिजेत. कंपनीचा अंदाज आहे की नवीन मॉडेल, कंपन्यांच्या पायाभूत सुविधांमध्ये बदलांसह एकत्रितपणे, त्याच्या ग्राहकांसाठी मूलभूत कामांसाठी 50% पर्यंत खर्च कमी करेल.
नवीन मॉडेलसह, कंपनीने त्याच्या मानक एजंटिक हार्नेसमध्ये महत्त्वपूर्ण अपग्रेड देखील जारी केले. गुरुवारपासून रायटर क्लायंटसाठी दोन्ही वैशिष्ट्ये उपलब्ध होतील.
सीईओ मे हबीब यांनी रीडला सांगितले, “मला वाटते की एंटरप्राइझ पुढील बेंचमार्कचा पाठलाग करण्यास पूर्णपणे आजारी आहे. “त्यांना सपाट खर्च हवा आहे आणि असे दिसते की कोणीही ते देऊ शकत नाही.”
नवीन दृष्टीकोन जटिल, बहु-चरण कार्यांवर विशेष भर देते, जलद आणि कमी टोकन्ससह कार्यान्वित होते. आणि लेखक हार्नेस ऑप्टिमायझेशन हे घडवून आणण्यासाठी एक महत्त्वपूर्ण लीव्हर म्हणून पाहतो.
लेखक संशोधकांकडून अलीकडील पेपर अनेक भिन्न मॉडेल्समध्ये हार्नेस कार्यक्षमतेतील लहान बदलांची चाचणी करून, या दृष्टिकोनास विश्वासार्हता देते. संशोधनात असे आढळून आले की, बऱ्याच प्रकरणांमध्ये, हार्नेसमधील बदल हा मॉडेल निवडीपेक्षा खर्च कमी करण्याचा अधिक विश्वासार्ह मार्ग होता, त्यांच्या चाचणीमध्ये खर्च सरासरी 40% कमी झाला.
संशोधकांनी लिहिले, “हार्नेस हा एक घटक आहे ज्याची कार्यक्षमता संस्था चालवणाऱ्या प्रत्येक मॉडेलमध्ये वाढते-वर्तमान आणि भविष्यकाळात”.
लेखकाच्या क्लायंटसाठी, अनुभव अजूनही मॉडेल-अज्ञेयवादी आहे: Palmyra X6 इतर रायटर मॉडेल्स किंवा Azure किंवा Amazon Bedrock द्वारे आयात केलेल्या बाहेरील मॉडेल्सच्या बरोबरीने बसेल. परंतु हबीब हे देखील पाहतात की किमतीत कपात करणे हे प्रमुख एआय लॅब्सवर अविश्वास वाढवणारे आहे, ज्यांना टोकन वापरण्यासाठी आर्थिक प्रोत्साहन आहे.
हबीबने रीडला सांगितले की, “येथे खर्चाचा स्फोट ग्राहकांसाठी केवळ अभूतपूर्व आहे, आणि सीआयओ ज्या प्रमाणात लॅब सोडत आहेत ते देखील आहे,” हबीब यांनी रीडला सांगितले की, एआय लॅबला “एआयचा फायदा कसा मिळवून एंटरप्राइझला मदत करावी हे नीट समजत नाही.”
तुम्ही आमच्या लेखांमधील लिंक्सद्वारे खरेदी करता तेव्हा, आम्ही एक लहान कमिशन मिळवू शकतो. याचा आमच्या संपादकीय स्वातंत्र्यावर परिणाम होत नाही.
Comments are closed.