RBI Guv बँकांना अर्थपूर्ण मानवी निरीक्षण तयार करण्यास सांगतात, सदोष निर्णयांसाठी AI मॉडेलला दोष देऊ नका

आरबीआय गव्हर्नर संजय मल्होत्रा ​​यांनी बँकांना कृत्रिम बुद्धिमत्ता तैनात करताना अर्थपूर्ण मानवी देखरेख ठेवण्याचे आवाहन केले आणि एआय-चालित निर्णयांची जबाबदारी बँकांकडेच राहिली पाहिजे यावर भर दिला. त्यांनी स्पष्टीकरण करण्यायोग्य मॉडेल्स, मजबूत प्रशासन, डेटा गोपनीयता, पूर्वाग्रह नियंत्रणे आणि सायबरसुरक्षा जोखमींविरूद्ध सुरक्षा उपायांचे आवाहन केले.

मुंबई : रिझर्व्ह बँकेचे गव्हर्नर संजय मल्होत्रा ​​यांनी मंगळवारी बँकांना आर्टिफिशियल इंटेलिजन्स मॉडेल्स तयार करताना डिझाईन तत्त्व म्हणून निर्णयांवर “अर्थपूर्ण मानवी देखरेख” ठेवण्यास सांगितले, हे स्पष्ट करून की तंत्रज्ञान साधनांना दोष देणे नियामकांना “स्वीकारार्ह” होणार नाही.

आर्थिक राजधानीतील वार्षिक फिबॅक कार्यक्रमाला संबोधित करताना, मल्होत्रा ​​यांनी बँकांना कृत्रिम बुद्धिमत्तेची साधने वापरण्याचे आवाहन केले, जे ग्राहकांना अधिक चांगल्या प्रकारे सेवा देण्यासाठी मानवी निर्णयाची जागा घेण्याऐवजी वाढवण्यासाठी वापरावे.

त्यांनी हे स्पष्ट केले की आरबीआय AI कडे जबाबदारीने वापरण्याची क्षमता म्हणून पाहते आणि जोखीम नाही म्हणून पाहते आणि बँकांनी बाजूला बसण्याऐवजी साधने स्वीकारण्याचे आवाहन केले.

तथापि, प्रणालीने एआयचा अवलंब केल्यामुळे, काही कालावधीत मानवी निर्णय आणि उत्तरदायित्व कमी होऊ शकते, असा इशारा मल्होत्रा ​​यांनी दिला.

“बँकेच्या निर्णयासाठी, अंतिम जबाबदारी बँकेची असते आणि विक्रेत्याची किंवा अल्गोरिदमची नाही. आम्ही असे म्हणू शकत नाही की मॉडेलनेच तो निर्णय घेतला आहे. ते कधीही स्वीकार्य उत्तर असू शकत नाही, मग ते बँकेला, ग्राहकाला किंवा नियामकाला असो,” मल्होत्रा ​​म्हणाले.

“अर्थपूर्ण मानवी देखरेख, समजावून सांगण्याची क्षमता, हस्तक्षेप करण्याची क्षमता आणि जिथे आवश्यक असेल तिथे ओव्हरराइड करणे हे डिझाइनचे तत्त्व राहिले पाहिजे आणि नंतरचा विचार नाही,” तो पुढे म्हणाला.

हे लक्षात घेतले जाऊ शकते की अनेक भारतीय सावकारांनी क्रेडिट अंडररायटिंग आणि ग्राहक सेवेसह विविध कार्यांसाठी AI साधनांचा मोठ्या प्रमाणावर अवलंब केल्याची नोंद केली आहे, काहींना आशा आहे की काही कालावधीत त्यांचा मानवी भांडवलावरील अवलंबित्व कमी होईल.

“(AI चा वापर) केवळ मानवी निर्णयाची जागा घेण्याऐवजी वाढ करण्यासाठी केला पाहिजे,” असे मल्होत्रा ​​म्हणाले की, अर्थव्यवस्थेतील क्षेत्रांमधील रोजगाराच्या तीव्रतेवर AI च्या प्रभावाबाबत व्यापक चिंतेच्या पार्श्वभूमीवर आलेली टिप्पणी.

आपल्या मुद्द्याचे स्पष्टीकरण देताना, मल्होत्रा ​​म्हणाले की AI प्रणालीद्वारे सहाय्य केलेले नातेसंबंध व्यवस्थापक योग्य उत्पादन सादर करतात, योग्य जोखीम ध्वज अधिक कार्यक्षमतेने ग्राहकांना सेवा देऊ शकतात.

गव्हर्नरने सायबर सुरक्षा जोखमींसह बँकर्सना AI कडून संभाव्य धोके आणि चिंता देखील ध्वजांकित केल्या, AI ने स्वतः सिस्टमवर हल्ला केल्याच्या अलीकडील घटनेकडे लक्ष वेधले.

बँकांनी मॉडेलमधील पूर्वाग्रहांसह AI मधील इतर जोखमींपासून सावधगिरी बाळगणे आवश्यक आहे, मल्होत्रा ​​यांनी चेतावणी दिली की विशिष्ट भौगोलिक, व्यवसाय किंवा अगदी समुदायांसाठी पसंती किंवा नापसंत असण्याची प्रवृत्ती असू शकते.

याशिवाय, मूठभर आर्थिक मॉडेल्स किंवा टेक विक्रेते पुरवठा प्लॅटफॉर्मवर आले तर “हेरिंग” होण्याचा धोका आहे, अशा परिस्थितीत संपूर्ण प्रणालीमध्ये पूर्वाग्रह कायम राहू शकतो या भीतीने ते म्हणाले.

त्यांनी बँकांना केवळ कायद्याच्या आवश्यकतांचे पालन करण्यापलीकडे डेटा गोपनीयतेकडे लक्ष देण्यास सांगितले, बाहेरील भागीदारांशी सहयोग करताना AI-संबंधित जोखीम अधिक चांगल्या प्रकारे व्यवस्थापित करा आणि AI प्लॅटफॉर्म प्रस्तावावर विशिष्ट निर्णयाची शिफारस का करतात हे स्पष्ट करण्यास सक्षम आहेत याची खात्री करा.

बँकांमध्ये प्रत्यक्षात कोणते मॉडेल चालू आहेत हे आरबीआयला माहित असले पाहिजे, असे मल्होत्रा ​​म्हणाले, बँकांना त्या मॉडेल्सची संपूर्ण यादी ठेवण्यास सांगितले.

बँकांनी केवळ तंत्रज्ञानाच्या खरेदीसाठी नव्हे तर परिणामांसाठी स्पष्ट उत्तरदायित्व असलेले बोर्ड-मंजूर एआय गव्हर्नन्स धोरण स्थापित करणे आवश्यक आहे, ते म्हणाले की त्यांनी प्रत्येक बिंदूवर अर्थपूर्ण मानवी देखरेख ठेवली पाहिजे जिथे AI च्या सिस्टम त्रुटीमुळे ग्राहकाचे भौतिक नुकसान होऊ शकते किंवा आर्थिक स्थिरतेबद्दल चिंता असू शकते.