एजंटिक एआय मधील गव्हर्नन्स गॅप: ट्रस्टपासून जबाबदारीपर्यंत | मत

कृत्रिम बुद्धिमत्ता प्रायोगिक तंत्रज्ञानापासून बोर्डरूमच्या प्राधान्यापर्यंत वेगाने प्रगत झाली आहे. गेल्या काही वर्षांत, उद्योगांमधील कंपन्यांनी एआय टूल्समध्ये मोठ्या प्रमाणात गुंतवणूक केली आहे, ज्यात कंपन्या या क्षमता किती लवकर कामात आणू शकतात आणि त्यांना त्यांच्या ऑपरेशनमध्ये विणू शकतात यावर धोरणात्मक संभाषण केंद्रित केले आहे.

तो टप्पा आता अधिक जटिल आव्हानाचा मार्ग देत आहे. AI सिस्टीमचे आउटपुट व्युत्पन्न करण्यापासून ते निर्णय अंमलात आणण्यापर्यंतचे संक्रमण होत असताना, एंटरप्राइजेस AI स्वीकारतील की नाही हा मुख्य प्रश्न यापुढे नसून ते त्यावर कसे शासन करतात हा आहे. हा मुद्दा क्षमतेकडून जबाबदारीकडे सरकत आहे.

तुम्ही ही शिफ्ट पाहू शकता, उदाहरणार्थ, एजंटिक AI च्या आसपास वाढणाऱ्या स्वारस्यांमध्ये, प्रतिसाद निर्माण करण्यापेक्षा जास्त कार्य करणाऱ्या प्रणाली. म्हणजेच, ते कार्यांचे नियोजन करू शकतात, ते कार्यान्वित करण्यासाठी एकाधिक डिजिटल प्लॅटफॉर्म पार करू शकतात, परिणाम पाहू शकतात आणि परिस्थिती बदलत असताना त्यांचे वर्तन सुधारू शकतात. असे केल्याने, ते AI चे सहाय्यक ते ऑपरेटरमध्ये रूपांतर करतात.

जेव्हा AI कृती सुचवण्यापलीकडे पाऊल टाकते

एंटरप्राइझ AI ची पहिली लहर मोठ्या प्रमाणात जनरेटिव्ह मॉडेल्सच्या आसपास तयार केली गेली आहे जी मजकूर, सारांश किंवा कोड तयार करून प्रॉम्प्टला प्रतिसाद देतात. ही साधने सहाय्यक म्हणून उपयुक्त ठरली आहेत, संशोधन, दस्तऐवजीकरण आणि विश्लेषणात्मक कार्याला गती देण्यासाठी मदत करतात, परंतु त्यांची भूमिका मुख्यत्वे सल्लागार राहिली आहे.

एजंटिक प्रणाली वेगळ्या प्रकारच्या आगाऊ आहेत. आदेशांना प्रतिसाद देण्याऐवजी, ते उद्दिष्टांचा पाठपुरावा करतात, सिस्टममध्ये कार्ये समन्वयित करतात, एकाधिक डेटा स्रोतांमधून प्रवेश करतात आणि परिस्थिती बदलतात तेव्हा अनुकूल करतात.

उद्योगांसाठी, या शिफ्टचा अर्थ एकापेक्षा अधिक मार्गांनी व्यवसाय आहे. जसजसे AI वर्कफ्लो व्यवस्थापित करण्यास, ग्राहकांच्या प्रश्नांची उत्तरे देणे, प्रक्रियांचे आयोजन करणे किंवा ऑपरेशनल क्रिया सुरू करणे सुरू करते, तसतसे अल्गोरिदमिक तर्क आणि वास्तविक-जागतिक परिणामांमधील अंतर कमी होते. त्रुटी यापुढे आउटपुटमधील चुकांपर्यंत मर्यादित नाहीत परंतु थेट ऑपरेशनल परिणामांमध्ये प्रकट होऊ शकतात.

उदयोन्मुख शासन दरी

ही प्रगती संस्था तंत्रज्ञानावर देखरेख करण्याच्या पद्धतीमध्ये मूलभूत कमतरता दर्शवते.

क्लासिक एंटरप्राइझ सॉफ्टवेअर सिस्टीम निर्धारवादी वातावरणात कार्य करतात ज्यांना जटिल निर्णयांची आवश्यकता नसते, कारण त्या सूचनांमध्ये एन्कोड केलेल्या स्पष्ट नियमांवर आधारित असतात. अनुपालन प्रोटोकॉलपासून ऑडिट ट्रेल्सपर्यंत प्रशासकीय यंत्रणा या अंदाजाभोवती बांधल्या गेल्या आहेत.

एजंटिक सिस्टम वेगळ्या पद्धतीने कार्य करतात. ते संदर्भाचा उलगडा करण्यात, संभाव्य निर्णय घेण्यास आणि गतिमानपणे जुळवून घेण्यात चांगले आहेत. हे स्वातंत्र्य अधिक प्रगत ऑटोमेशन विकसित करणे शक्य करते, परंतु त्याच वेळी, ते अधिक देखरेख आव्हानांना कारणीभूत ठरते. जेव्हा सूचनांऐवजी नमुन्यांवर आधारित निर्णय घेतले जातात, तेव्हा त्यामागील तर्क शोधणे अधिक कठीण होते.

परिणामी, नेतृत्व संघांना एका नवीन प्रश्नाचा सामना करावा लागतो: एआय सिस्टीमने काय म्हटले तेच नाही तर ती एका विशिष्ट पद्धतीने का वागली आणि शेवटी जबाबदारी कोण घेते.

'एजंट वॉशिंग'ची समस्या

गुंतागुंतीच्या बाबी म्हणजे “एजंट वॉशिंग” असे वर्णन केले जाऊ शकते. स्वायत्त प्रणालींभोवतीचा प्रचार वाढत असताना, एजंटिक एआय म्हणून विकली जाणारी बरीच साधने संभाषणात्मक इंटरफेससह लीगेसी ऑटोमेशन साधने आहेत.

या प्रणाली पूर्वनिर्धारित कार्यप्रवाहानुसार कार्य करतात, ध्येयांबद्दल तर्क करत नाहीत. जरी ते डेमोमध्ये चांगले दर्शवू शकतात, लॅब सेटिंग्ज क्वचितच वास्तविक एंटरप्राइझ परिस्थितींचे चल आणि अस्पष्टता प्रतिबिंबित करतात.

हा फरक महत्त्वाचा आहे. संस्था खऱ्या स्वायत्त वर्तनासह बुद्धिमत्तेच्या दर्शनी भागाच्या फ्लिकरिंगला गोंधळात टाकतात, अनुकूली प्रणाली तैनात केल्याचा आव आणत ठिसूळ ऑटोमेशन लागू करतात. तथापि, वाईट रीतीने शासित प्रणालींना जास्त विवेक देणे नवीन धोके निर्माण करते. एकदा का स्वायत्त एजंट त्या अपूर्ण डेटावर (किंवा सदोष युक्तिवाद) कार्य करण्यास सुरवात करतात, त्रुटी एकमेकांशी जोडलेल्या प्रक्रियेद्वारे कॅस्केड होतील.

उजव्या आकाराच्या स्वायत्ततेची रचना करणे

येथे आव्हान आहे, ऑटोमेशन आणि देखरेख संतुलित करण्याचे. एंटरप्राइझ एआय धोरणाविषयी सर्वात सामान्य गैरसमजांपैकी एक म्हणजे अधिक स्वायत्तता म्हणजे अधिक कार्यक्षमता. बऱ्याच अत्यंत प्रभावी ऑपरेशनल प्रक्रिया अजूनही विश्वासार्हपणे आणि पारदर्शकपणे कार्यान्वित करणाऱ्या निर्धारक प्रणालींवर अवलंबून असतात.

सर्व कार्यप्रवाहांना अनुकूली बुद्धिमत्ता आवश्यक नसते. अनेकदा, साधे ऑटोमेशन अजूनही सर्वोत्तम पर्याय असल्याचे सिद्ध होते. त्यामुळे उद्दिष्ट जास्तीत जास्त स्वायत्तता नसून उजव्या आकाराची स्वायत्तता असावी, बुद्धिमान प्रणाली वापरून जिथे ते परिणामांमध्ये खरोखर फरक करतात आणि ते नसताना गुंतागुंत टाळतात.

संकरित बुद्धिमत्तेचा उदय

ही विचारसरणी संस्थांना संकरित बुद्धिमत्ता मॉडेलकडे नेत आहे जिथे AI वाढवते, परंतु मानवी निर्णयक्षमतेची जागा घेत नाही.

टन डेटा चाळण्यात, नमुने शोधण्यात आणि तेच काम पुन्हा पुन्हा स्केलवर करण्यात मशीन्स उत्तम आहेत. मानव प्रासंगिक समज, नैतिक निर्णय आणि धोरणात्मक निरीक्षण आणतात. जेव्हा या भूमिका जाणूनबुजून तयार केल्या जातात, तेव्हा संघटना दोन्हीच्या सामर्थ्याचा उपयोग करू शकतात.

विशिष्ट वातावरणात, AI कमी दृश्यमान पण अधिक मौल्यवान बनते, कार्यक्षमता वाढवण्यासाठी, घर्षण कमी करण्यासाठी आणि चांगले निर्णय सक्षम करण्यासाठी वर्कफ्लोमध्ये विणले जाते.

वास्तविक भिन्नता म्हणून जबाबदारी

AI अधिक सुलभ आणि व्यापक होत असल्याने, केवळ तांत्रिक क्षमता संस्थांना वेगळे करण्यासाठी पुरेशी नसू शकते. बहुतेक साधने त्वरीत कमोडायटीज होत आहेत, आणि प्रगत मॉडेल्स तैनात करण्यासाठी आवश्यक पायाभूत सुविधा वाढत्या प्रमाणात प्रमाणित होत आहेत.

यशस्वी एंटरप्राइझ तेच असतील जे जटिल ऑपरेशनल वातावरणात जबाबदारीने बुद्धिमत्ता समाकलित करू शकतात. त्यासाठी केवळ तांत्रिक उपयोजन नाही तर पारदर्शकता, जबाबदारी आणि मानवी देखरेखीची हमी देणारे प्रशासन फ्रेमवर्क आवश्यक आहे.

एजंटिक AI च्या युगात, क्षमता नावीन्यपूर्णतेला चालना देऊ शकते, परंतु जबाबदारी ही नेतृत्वाची व्याख्या करेल.

लेखक 1Point1 Solutions चे अध्यक्ष आणि व्यवस्थापकीय संचालक आहेत.

या लेखात व्यक्त केलेली मते लेखकाची आहेत आणि आठवड्याची मते किंवा दृश्ये प्रतिबिंबित करण्याचा हेतू नाही.