PrismML ने त्याचे छोटे LLMs Qualcomm-चालित स्मार्ट ग्लासेसवर आणले आहेत

एआय लॅब PrismML — कॅल्टेक संशोधकांनी स्थापन केलेली आणि UC बर्कलेच्या Ion Stoica द्वारे सल्ल्यानुसार — क्वालकॉमच्या स्नॅपड्रॅगन चिप्सवर चालणाऱ्या स्मार्ट ग्लासेससाठी त्याच्या लहान भाषेच्या मॉडेल्सची आवृत्ती तयार केली आहे.

बुधवारी, क्वालकॉमच्या स्नॅपड्रॅगन समिटमध्ये, चिपमेकरने PrismML चे 1-बिट बोन्साय LLM प्रदर्शित केले, जे स्नॅपड्रॅगन AR1 Gen 1 प्लॅटफॉर्मवर तयार केलेल्या AI स्मार्ट ग्लासेसवर स्थानिक पातळीवर चालवले जाऊ शकते.

पूर्वी रीडने नोंदवल्याप्रमाणे, प्रिझमएमएलचा प्रसिद्धीचा दावा असा आहे की ते मानक बेंचमार्कवर त्यांचे जवळजवळ सर्व कार्यप्रदर्शन टिकवून ठेवताना मोठ्या मॉडेल्सला (या प्रकरणात, 4x ने) कमी करते. स्मार्ट चष्मा आवृत्ती दृष्टी आणि भाषेसाठी ट्यून केलेले 2-अब्ज-पॅरामीटर मॉडेल आहे, त्यामुळे परिधान करणारे ते रिअल टाइममध्ये काय पहात आहेत ते विचारू शकतात.

प्रिझमचे मोठे लक्ष्य हे ओपन-वेट AI आहे जे उपकरणांवर चालते आणि त्यांच्याकडे आधीपासून असलेल्या संगणकीय शक्तीचा अधिक चांगला वापर करते. स्टार्टअप मालकीच्या AI लॅबच्या गोपनीयतेच्या आश्वासनांवर आणि अधिक गणनेसाठी त्यांच्या अतृप्त गरजांवर अवलंबून राहण्यासाठी एक पर्याय म्हणून हे तयार करते.

क्वालकॉमच्या चिपसाठी मॉडेल जारी करणे हे त्या दृष्टीच्या दिशेने एक पाऊल आहे. परंतु PrismML चालवणाऱ्या कोणत्याही स्मार्ट चष्म्याची अद्याप घोषणा करण्यात आलेली नाही.

Comments are closed.