पेरप्लेक्सिटी पोर्टेबल संगणक स्थानिक रनटाइम तंत्रज्ञानासह एआय एजंट्स बदलू शकतो

चे ध्येय गोंधळ पोर्टेबल संगणक त्याच्या AI संगणक योजनांसाठी अधिक स्थानिक सेटअप आहे. कंपनीने 25 ऑगस्ट रोजी ही बातमी शेअर केली आणि पोर्टेबल कॉम्प्युटरला पर्पलेक्सिटी कॉम्प्युटरवर पूर्णपणे स्थानिक टेक असे म्हटले. पेप्लेक्सिटी म्हणते की बरेच एआय सहाय्यक बहुतेक कामांसाठी बाहेरील सर्व्हरवर अवलंबून असतात. पोर्टेबल कॉम्प्युटर वापरकर्त्याच्या जवळच्या हार्डवेअरवर मुख्य पर्प्लेक्सिटी कॉम्प्युटर रनटाइम चालविण्यासाठी तयार केला आहे.

Perplexity च्या वर्णनात, ऑर्केस्ट्रेटर LLM, subagent LLM आणि एजंट हार्नेस हे सर्व वापरकर्त्याच्या स्वतःच्या मशीनवर चालतात. हे असेही दावा करते की हे डिझाइन रनटाइम चालविण्यासाठी क्लाउड लिंकची आवश्यकता दूर करते. पेप्लेक्सिटी जोडते की AI टास्क आणि डेटा कुठे हाताळला जातो याबद्दल अधिक सांगू इच्छित असलेल्या लोकांना हे आकर्षित करू शकते.

पेप्लेक्सिटी पोर्टेबल संगणक: ते काय आहे

Perplexity Portable Computer AI सेटअपच्या कल्पनेवर आधारित आहे जो एकाच वेळी अनेक भाग व्यवस्थापित करू शकतो. केवळ एका प्रश्नाचे उत्तर न देता कठीण नोकऱ्या हाताळणे हे ध्येय आहे. पोर्टेबल कॉम्प्युटरसह, पेरप्लेक्सिटी हातातील उपकरणांवर समान शैली चालवण्याचे उद्दिष्ट ठेवते. हार्डवेअर NVIDIA DGX Spark द्वारे समर्थित आहे.

कंपनी म्हणते की पूर्ण रन साइटवर होते. त्यामध्ये ते भाग समाविष्ट आहेत जे काम सेट करतात, लहान एजंट हाताळतात आणि एजंट हार्नेस वापरतात. हे स्थानिक दिसत असलेल्या साधनांपेक्षा देखील वेगळे आहे. काही ॲप्स स्थानिक स्क्रीन दर्शवू शकतात, परंतु तरीही मुख्य कार्य क्लाउडवर पाठवतात.

पेप्लेक्सिटी पोर्टेबल कॉम्प्युटरला पूर्णपणे स्थानिक आवृत्ती म्हणून फ्रेम करते.

एक रनटाइम जो क्लाउडवर अवलंबून नाही

मुख्य मुद्द्यांपैकी एक म्हणजे रनटाइमसाठी क्लाउडची आवश्यकता नसल्याचा दावा. सराव मध्ये, कोर सिस्टम तुकडे वापरकर्त्याच्या स्वतःच्या हार्डवेअरवर चालण्यासाठी असतात. स्थानिक एआय कार्यासाठी त्यांना पर्प्लेक्सिटी सर्व्हरशी स्थिर संपर्काची आवश्यकता आहे असे म्हटले जात नाही.

हे सेटअप गोपनीयतेची काळजी घेणाऱ्या वापरकर्त्यांना बसू शकते.

जेव्हा रनटाइम स्थानिक हार्डवेअरवर राहतो, तेव्हा लोकांचे खाजगी आयटमवर अधिक नियंत्रण असू शकते. एआय एजंटना एखादे कार्य पूर्ण करण्यासाठी दस्तऐवज, फाइल्स किंवा इतर डेटा प्राप्त होतो तेव्हा काही फरक पडतो.

तरीही, स्थानिक वापराचा अर्थ असा नाही की प्रत्येक AI वैशिष्ट्य डिव्हाइसवर कायमचे लॉक केलेले आहे. जेव्हा नोकरीला मजबूत तर्काची आवश्यकता असते तेव्हा क्लाउडमधून फ्रंटियर मॉडेल्स खेचण्याचा मार्ग देखील पेप्लेक्सिटीने वर्णन केला आहे.

फ्रंटियर-शैलीतील कामाला पुढे जाण्याची गरज आहे

पेचप्रसंगाने नंतरच्या पोस्टमध्ये सशक्त तर्काची आवश्यकता असलेल्या कार्यांबद्दल तपशील सामायिक केला. जर सिस्टीमच्या स्थानिक भागाला फ्रंटियर मॉडेलची आवश्यकता आहे असे वाटत असेल तर ते थांबू शकते. त्यानंतर सिस्टम वापरणाऱ्या व्यक्तीला क्लाउड मॉडेलमध्ये जाण्यास मान्यता देण्यास सांगते. हे स्थानिक कार्य वैकल्पिक क्लाउड रिजनिंगपासून वेगळे ठेवते. तुम्हाला न सांगता एखादे कार्य पाठवण्याऐवजी, ते निवड दृश्यमान करते.

गोंधळ या प्रक्रियेला वापरकर्ता-गेटेड म्हणतात.

जेव्हा एखादा पोर्टेबल संगणक खाजगी किंवा संवेदनशील डेटासह वापरला जातो तेव्हा ती पायरी खूप महत्त्वाची असू शकते. संवेदनशील फायली डिव्हाइस सोडत नाहीत. पेप्लेक्सिटी असेही म्हणते की संवेदनशील कागदपत्रे वापरकर्त्याच्या मशीनवर राहतात. कंपनी जोडते की क्लाउड विनंत्या PII साठी ध्वजांकित केल्या जातात. त्यात असेही म्हटले आहे की त्या विनंत्या मजकूर मार्गदर्शनापुरत्या मर्यादित आहेत. याउलट, संवेदनशील दस्तऐवज स्थानिक राहतात. त्यामुळे सेटअप वापरकर्त्याचा डेटा हाताळणाऱ्या स्थानिक एआयकडे निर्देश करतो. मग, आवश्यकतेनुसार, क्लाउड फ्रंटियर मॉडेल अतिरिक्त तर्क जोडू शकतात.

गोपनीय दस्तऐवज असलेल्या लोकांसाठी, हे विभाजन पोर्टेबल संगणक वापरण्याचे मुख्य कारण असू शकते.

हे AI डिझाइनमधील मोठ्या ट्रेंडला देखील प्रतिबिंबित करते.

अधिक सिस्टीम आता ऑन-डिव्हाइस प्रोसेसिंगला विरुद्ध मानण्याऐवजी मर्यादित क्लाउड मदतीसह मिक्स करतात.

NVIDIA DGX स्पार्क पीस का महत्त्वाचा आहे

NVIDIA DGX Spark हा या स्थानिक AI सेटअपसाठी हार्डवेअर बेस आहे. पोर्टेबल कॉम्प्युटरसाठी डीजीएक्स स्पार्क निवडणे हे लोकांना किती मजबूत स्थानिक मशीन हवे आहे हे दर्शवते. मॉडेल आणि एजंट-शैलीतील सॉफ्टवेअर अधिक गणनेसाठी विचारतात म्हणून हे महत्त्वाचे आहे.

तुम्ही ऑर्केस्ट्रेटर, सबएजंट आणि एजंट हे सर्व तुमच्या स्वतःच्या सिस्टीमवर चालवता तेव्हा, लोड सामान्य डेस्कटॉप ॲपपेक्षा खूप जास्त असतो.

त्यामुळे DGX स्पार्क अधिक सक्षम AI संगणकाची चाचणी घेऊ इच्छिणाऱ्या प्रत्येकासाठी प्रारंभ बिंदू म्हणून कार्य करते.

क्लाउडला पूर्ण काम न पाठवता ते ते करू शकतात.

प्रदान केलेली नोट पोर्टेबल संगणकासाठी अतिरिक्त हार्डवेअर तपशील किंवा गती परिणाम सामायिक करत नाही.

त्यामुळे, क्लाउडमधील पर्प्लेक्सिटी कॉम्प्युटर विरुद्ध वास्तविक कार्यक्षमतेतील अंतर अद्याप स्पष्ट झालेले नाही.

एआय एजंट तयार करण्याचा एक नवीन मार्ग

हे प्रक्षेपण AI सहाय्यक कसे बनवले जातात त्यामध्ये बदल देखील सूचित करते. प्रतीक्षा करणाऱ्या चॅट स्क्रीनसारखे एक मॉडेल वापरण्याऐवजी, एजंट सिस्टम एकाधिक मॉडेल आणि साधने समन्वयित करू शकतात. ते नंतर टप्प्याटप्प्याने अधिक जटिल नोकऱ्यांमधून काम करू शकतात.

पोर्टेबल कॉम्प्युटर, पर्प्लेक्सिटीपासून, त्या सेटअपचा मोठा भाग स्थानिक हार्डवेअरकडे ढकलतो.

तुम्हाला जे मिळते ते स्थानिक AI कार्य, एजंट समन्वय आणि पर्यायी क्लाउड तर्क यांचे मिश्रण आहे. गोपनीयता ही सर्वोच्च चिंता असल्यास, हे विभाजन लोकांच्या अपेक्षेपेक्षा जास्त महत्त्वाचे असू शकते.

निष्कर्ष

NVIDIA DGX Spark वरील Perplexity चा पोर्टेबल कॉम्प्युटर लोकांच्या आधीपासून असलेल्या हार्डवेअरवर एजंटिक AI चालवण्याच्या दिशेने एक वास्तविक पाऊल असल्यासारखे वाटते.

ते म्हणतात की ऑर्केस्ट्रेटर मॉडेल, सबएजंट मॉडेल आणि एजंट हार्नेस हे सर्व वापरकर्त्याच्या मशीनवर चालू शकतात. ते असेही म्हणतात की मुख्य रनटाइमला क्लाउड सेवेची आवश्यकता नाही.

त्याच वेळी, वापरकर्ता क्लाउड-आधारित फ्रंटियर रिझनिंग वापरणे निवडू शकतो जेव्हा नोकरीला स्थानिक सेटअप हाताळू शकते त्यापेक्षा जास्त आवश्यक असते.

गोपनीयता हा खेळपट्टीचा एक महत्त्वाचा भाग आहे. ते डिव्हाइसवर संवेदनशील दस्तऐवज ठेवण्यावर लक्ष केंद्रित करतात आणि केवळ वापरकर्त्याच्या मंजुरीने क्लाउडवर कार्य राउटिंग करतात.

खुला मुद्दा सोपा आहे: हा स्थानिक सेटअप दैनंदिन कामांमध्ये कसा टिकून राहतो? जर ते डिव्हाइसवर संवेदनशील डेटा ठेवत असताना उपयुक्त एजंटिक एआय चालवू शकत असेल, तर रिमोट सिस्टमवर अवलंबून असलेल्या एआय टूल्सच्या विरूद्ध हा एक मजबूत पर्याय असू शकतो.