एंटरप्रायझेस एआयसाठी मोठ्या प्रमाणावर इन्फ्रा बॅकबोन कसे तयार करत आहेत
एआय दत्तक घेण्याच्या प्रसारानंतर, एंटरप्राइझ इंडियाने विचारण्यास सुरुवात केली आहे की या बदलात टिकून राहण्यासाठी पायाभूत सुविधा पुरेशा मजबूत आहेत का. देशाच्या सह एंटरप्राइझ एआय मार्केट 2030 पर्यंत $71 अब्ज ओलांडण्याची अपेक्षा आहेAI च्या आजूबाजूच्या बोर्डरूमचे आदेश वेगवान होत आहेत, क्लाउडचा खर्च वाढत आहे, डेटा पाइपलाइन्स असंरचित इनपुटच्या वजनाखाली अडकत आहेत आणि CTOs शोधत आहेत की एकाकीपणाने काम करणारे पायलट मोठ्या प्रमाणावर उत्पादनात ढकलले जातात तेव्हा ते कोलमडू शकतात.
म्हणून, सर्व क्षेत्रांतील उपक्रम उत्पादकता साधनांच्या पलीकडे मुख्य उत्पादन विकास आणि वितरण प्रक्रियेत जात आहेत, ज्यात कोडिंग कॉपायलट, स्वयंचलित चाचणी आणि AI-चालित IT सेवा व्यवस्थापन यांचा समावेश आहे.
परिणामी, संभाषण आणि त्याची अंमलबजावणी आता प्रयोगातून अंदाज, प्रशासन आणि खर्च नियंत्रणाकडे सरकत आहे.
या शिफ्टला अनपॅक करण्यासाठी, भारतातील आघाडीचे टेक व्हॉईस Inc42 आणि मध्ये सामील झाले ओरॅकल साठी CTO संवादवर एक गोलमेज वैशिष्ट्यीकृत 'एआय एट स्केलसाठी पायाभूत सुविधांचा कणा तयार करणे'त्यानंतर फायरसाइड चॅट आणि एक्सप्लोर करणारे सत्र जेथे एंटरप्राइझ एआय धोरणे अनेकदा कमी पडतात.
गोलमेजाचे सूत्रसंचालन 3AI आणि AIQRATE चे मुख्य कार्यकारी अधिकारी समीर धनराजानी यांनी केले आणि त्यात खालील वक्ते होते:
- अंकित मेहरा, सहसंस्थापक आणि सीईओ, ज्ञानधन
- मशियत हुसेन, अभियांत्रिकी आघाडी, बॅकएंड, HYPD
- नितीश गुप्ता, SVP – तंत्रज्ञान, निंबसपोस्ट
- संजीव सिंग, व्हीपी अभियांत्रिकी, देहाट
- शुभांशु चौहान, सीटीओ, पिडगे
- विवेक गुप्ता, वरिष्ठ संचालक आणि ओरॅकल इंडियाचे तंत्रज्ञान क्लाउड विक्रीचे प्रमुख
AI साठी एक मजबूत इन्फ्रा बॅकबोन तयार करणे
धनराजानी यांनी आयोजित केलेल्या गोलमेजमध्ये, क्लाउड, फिनटेक, D2C, ॲग्रीटेक, लॉजिस्टिक्स आणि लास्ट-माईल डिलिव्हरी अशा सहा लीडर्ससह एंटरप्रायझेस एआयला मोठ्या प्रमाणावर कसे कार्यान्वित करतात या कठीण प्रश्नाचे उत्तर दिले.
ओरॅकल इंडियाचे विवेक गुप्ता यांनी संभाषण सुरू केले आणि असा युक्तिवाद केला की एआयचा मोठ्या प्रमाणावर पाठलाग करणारे उपक्रम अनेकदा चुकीच्या अडचणी सोडवतात.
“एआय एट स्केल ही जीपीयू समस्या नाही… ही एक अभियांत्रिकी समस्या आहे ज्याचे निराकरण करणे आवश्यक आहे,” गुप्ता म्हणाले.
गुप्ता यांच्या म्हणण्यानुसार, AI लागू करताना अनेक कंपन्यांसाठी अडथळे म्हणजे गणना उपलब्धता नाही, परंतु त्यांनी बांधकाम सुरू करण्यापूर्वी स्पष्ट व्यवसाय परिणाम परिभाषित करण्याची क्षमता. समस्येवरचे लक्ष केंद्रित ज्ञानधनच्या अंकित मेहराने केले, ज्याने डिफॉल्ट निराकरण म्हणून AI पर्यंत पोहोचण्याच्या अंतःप्रेरणाविरूद्ध मागे ढकलले.
चाचणीच्या उद्देशाने स्वतःच्या कंपनीत कामाचा भार चालवल्यामुळे, मेहरा म्हणाले की त्यांनी वास्तविक स्केल मर्यादांपेक्षा खराब फ्रेम केलेल्या प्रश्नांमध्ये अधिक समस्या पाहिल्या आहेत.
मेहरा पुढे म्हणाले, “तुम्ही ज्या समस्येचे निराकरण करण्याचा प्रयत्न करत आहात त्या समस्येचे निराकरण करा.
परंतु समस्या स्पष्टपणे परिभाषित केलेली असतानाही, या प्रणालींना फीड करणारा डेटा भिन्न आव्हाने सादर करू शकतो.
HYPD चे हुसैन यांनी संभाषण स्वतःच डेटावर आणले, निर्मात्याच्या प्लॅटफॉर्मवर वापरकर्त्याने व्युत्पन्न केलेल्या सामग्रीच्या अप्रत्याशिततेचे वर्णन केले, विविध प्रदेश आणि स्वरूपांतून आलेल्या टिप्पण्या आणि मॉडेल करण्यासाठी कोणताही सुसंगत नमुना नाही.
“डेटा विविधता ही आमच्यासाठी एक मोठी समस्या आहे. आम्हाला कोणत्या प्रकारचा डेटा मिळेल हे आम्ही नेहमी सांगू शकत नाही. उदाहरणार्थ, आमच्या प्लॅटफॉर्मवर, निर्मात्यांना विविध प्रदेश आणि पार्श्वभूमीतील लोकांकडून टिप्पण्या मिळतात, ज्यामुळे डेटाचे स्वरूप आणि विविधतेचा अंदाज लावणे कठीण होते,” हुसेन म्हणाले.
<. sans-serif; अक्षर-अंतर: 0 !महत्त्वपूर्ण; .कोड-ब्लॉक. padding:20px 10px; .code-block.code-55 .recomended-title { font-size: 16px; margin-bottom: 10px } .code-block.code-block-55; .code-block.code-block-55 { बॉर्डर-रेडियस: 12px; 0 किमान-उंची: 120px !महत्त्वाचे-फिट: कव्हर; .कोड-ब्लॉक. auto !महत्त्वपूर्ण; लाइन-उंची: 15px; } .single .code-block.code-block-55 .entry-title.recommended-block-head a { font-size: 12px !महत्वपूर्ण } .-carlock. मेटा-रॅपर
.code-block.code-block-55 .type-post .card-rapper .card-content .entry-title.recommended-block-head { line-height: 14px !महत्वाचे; समास: 5px 0 10px !महत्त्वाचे; } .code-block.code-block-55 .card-wrapper.common-card .meta-wrapper span { फॉन्ट-आकार: 6px; समास: 0; } .code-block.code-block-55 .large-4.medium-4.small-6.column { कमाल-रुंदी: 48%; } .code-block.code-block-55 .sponsor-tag-v2>span { पॅडिंग: 2px 5px !महत्त्वाचे; फॉन्ट-आकार: 8px !महत्त्वाचे; फॉन्ट-वजन: 400; सीमा-त्रिज्या: 4px; फॉन्ट-वजन: 400; फॉन्ट-शैली: सामान्य; font-family: noto sans, sans-serif; रंग: #fff; अक्षर-अंतर: 0; उंची: स्वयं !महत्वाचे; } .code-block.code-block-55 .tagged { समास: 0 0 -4px; रेखा-उंची: 22px; पॅडिंग: 0; } .code-block.code-block-55 a.sponsor-tag-v2 { समास: 0; } } ))))>))>
जेव्हा AI विद्यमान डेटा आव्हानांच्या शीर्षस्थानी असते तेव्हा ती अप्रत्याशितता अधिक जटिल होते आणि DeHaat येथील अभियांत्रिकीचे VP, सिंग यांनी याचा पुनरुच्चार केला. सिंग यांच्या मते, गेल्या दशकात समस्येचे स्वरूप शुद्ध डेटा-व्यवस्थापन आव्हानातून जटिलतेकडे वळले आहे.
“पूर्वी ही फक्त डेटाची समस्या होती, डेटा बदलणे, आमचे पैसे तयार करणे किंवा मंथन करणे. आता ही डेटा-प्लस-एआय समस्या आहे. म्हणून, आम्ही दोन्हीचा सामना केला आहे,” सिंग म्हणाले.
तथापि, मोठ्या प्रमाणावर काम करणाऱ्या व्यवसायांसाठी, समस्या ओळखणे आणि डेटा व्यवस्थापित करणे हा समीकरणाचा एक भाग आहे. पायाभूत सुविधा स्वतः वापराच्या बाबतीत तयार केल्या पाहिजेत.
निम्बसपोस्ट, गुप्ता येथील तंत्रज्ञानाच्या SVP यांनी लॉजिस्टिक्समधील चर्चेला आधार दिला, जेथे पायाभूत सुविधांचे निर्णय वापराच्या बाबतीत आणि फरकाने झपाट्याने बदलतात. ते म्हणाले, योग्य सेटअप मिळवणे हे केवळ महागड्या चाचणी आणि त्रुटींद्वारेच येते.
“योग्य निवड प्रयोगातून बाहेर पडेल, आणि त्या प्रयोगासाठी चांगल्या रकमेची आवश्यकता असेल… पायाभूत सुविधा ही अशी गोष्ट आहे जिथे विविध उद्योगांमध्ये वेगवेगळ्या वापराची प्रकरणे असतील,” तो म्हणाला.
आणि जेव्हा AI थेट ऑपरेशनल वातावरणात तैनात केले जाते तेव्हा ते प्रयोग आणखी कठीण होते, जेथे चुकीचा निर्णय थेट खर्च आणि कार्यक्षमतेवर परिणाम करू शकतो.
चौहान, पिजचे सीटीओ, शेवटच्या-माइल ऑपरेशन्समध्ये ऑटोमेशनबद्दल सावधगिरी बाळगण्याच्या नोटवर निष्कर्ष काढला. रायडर आणि वितरण वाटप, ते म्हणाले, अद्याप अपारदर्शक मॉडेल्सना पूर्णपणे सोपवले जाऊ शकत नाही.
“आम्ही नेहमी योग्य निर्णय घेण्यासाठी AI सारख्या अस्पष्ट, ब्लॅक-बॉक्स अल्गोरिदमवर अवलंबून राहू शकत नाही. जर आम्ही त्या ठिकाणी AI ठेवला तर आमचा खर्च वाढेल आणि आम्ही कामगिरीची हमी देऊ शकत नाही,” चौहान म्हणाले.
लपलेले खर्च आणि स्केलिंग AI चे धोके
त्यानंतर हे संभाषण गोलमेजवरून फायरसाइड चॅटकडे वळले, जिथे लक्ष AI पायाभूत सुविधांच्या उभारणीच्या व्यापक आव्हानांवरून एंटरप्राइझना पायलटांकडून या तैनातींना सामोरे जावे लागणाऱ्या जोखमींकडे वळवले गेले.
धनराजानी, फायरसाइड देखील नियंत्रित करत, त्यांचे दोन पॅनेलिस्ट, अंकित गुप्ता, व्यवसायासाठी पॉलिसीबाझारचे CTO आणि नितीन कौशिक, तंत्रज्ञान संचालक, क्लाउड इंजिनिअरिंग यांना दाबून AI इन्फ्रास्ट्रक्चर संभाषण उघडले, जेथे एंटरप्राइझ AI स्ट्रॅटेजीज आधी मोडतात.
गुप्ता यांनी युक्तिवाद केला की एआय क्षमता निर्माण करणे ही केवळ पायाभूत सुविधा आणि वापराच्या बाबतीत समस्या नाही. त्यांच्या मते, अनेक संस्था कमी लेखतात हे देखील विश्वासाचे आव्हान आहे. त्यांनी नमूद केले की, योग्य नियंत्रणांशिवाय, प्रॉम्प्ट आणि एआय-एजंट परस्परसंवाद संवेदनशील एंटरप्राइझ माहिती उघड करण्यासाठी मार्ग तयार करू शकतात.
“आधी आम्ही म्हणायचे, कचरा आत टाकणे, कचरा बाहेर टाकणे, पण आज धोका असा आहे की खराब नियंत्रित इनपुटमुळे संवेदनशील माहिती बाहेर पडू शकते. म्हणूनच सुरक्षा, डेटा गव्हर्नन्स, ओळख आणि प्रवेश नियंत्रणे सुरुवातीपासूनच AI सिस्टीममध्ये तयार करणे आवश्यक आहे,” गुप्ता म्हणाले.
जेव्हा संभाषण खर्चाकडे वळले तेव्हा ओरॅकलच्या कौशिकने धागा उचलला, धनराजानी यांनी त्यांच्या एआय रोलआउट्समध्ये खोलवर असलेल्या बहुतेक उद्योगांसाठी “खोलीत हत्ती” म्हणून संबोधले.
टोकनचा वापर, कौशिक म्हणाले, अनेक संस्था ज्या प्रकारे तयार नाहीत अशा प्रकारे वाढत आहे. “मला असे ग्राहक भेटले आहेत जे दिवसाला लाखो टोकन्स वापरत आहेत. आम्ही अशी प्रकरणे ऐकतो जेव्हा संस्था म्हणतात की त्यांची AI बिले जवळ येऊ लागली आहेत – किंवा त्याहूनही जास्त – ते प्राप्त होत असलेल्या व्यवसायाच्या प्रभावाशी संबंधित आहेत.”
AI तैनातीमागील इन्फ्रा गॅप
कौशिकने पायलट स्टेजनंतर एआय डिप्लॉयमेंट्स का खराब होतात यावर सखोल नजर टाकून फायरसाइड चॅटचा पाठपुरावा केला. ओरॅकलच्या क्लाउड अभियांत्रिकी संचालकांच्या मते, एआय अंमलबजावणीमागे कंपन्यांना तीन आवर्ती आव्हानांचा सामना करावा लागतो.
क्लाउड खर्च अनेकदा अप्रत्याशित असतात आणि डेटा सायलोस एकाच डेटासेटच्या अनेक आवृत्त्या तयार करू शकतात – AI आउटपुटची सुसंगतता आणि विश्वासार्हता कमी करते. त्याच वेळी, क्लाउड इन्फ्रास्ट्रक्चर पारंपारिकपणे कार्यप्रदर्शनापेक्षा उपलब्धतेला प्राधान्य देण्यासाठी तयार केले गेले आहे.
त्यांच्या मते, Oracle ने समर्पित संगणन आणि मेमरी, CPU वरील नेटवर्क लोड कमी करण्यासाठी ऑफ-बॉक्स व्हर्च्युअलायझेशन आणि GPU क्लस्टर्समध्ये लो-लेटेंसी कम्युनिकेशन वितरीत करण्यासाठी डिझाइन केलेले RDMA-आधारित नेटवर्किंगसह इन्फ्रास्ट्रक्चर लेयरपासून पुन्हा तयार केले.
एकत्रितपणे, गोलमेज आणि फायरसाइड चॅटने एका सामान्य धाग्याकडे लक्ष वेधले: एंटरप्राइझ AI च्या सर्वात मोठ्या अडचणी केवळ संगणकीय नसून संस्थात्मक आहेत. एंटरप्रायझेस केवळ GPU प्रवेशाऐवजी अभियांत्रिकी शिस्त, डेटा प्रशासन, खर्च दृश्यमानता आणि विश्वास यांच्याशी झुंजत आहेत.
संपूर्ण सत्रातील टेक लीडर्स एकाच मतावर एकवटले की हे घटक, गणनेच्या प्रवेशाबरोबरच, पायलटपासून उत्पादनाकडे जाण्यासाठी एआय तैनाती टिकून राहते की नाही हे शेवटी ठरवेल.
जर (window.location.pathname === ” || window.location.pathname === “/datalabs/pricing/” || window.location.pathname === “/datalabs/demo/” ) { !function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function(){n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.pushed=n.';=0; n.queue=();t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)(0); s.parentNode.insertBefore(t,s)}(विंडो, डॉक्युमेंट,'स्क्रिप्ट', 'fbq,'76}58); कार्य if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version='2.0'; n.queue=();t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTag(0); s.parentNode.insertBefore(t,s)}(विंडो, दस्तऐवज,'स्क्रिप्ट', 'fbq('init', '862840770475518');

Comments are closed.