प्रोजेक्ट 'किल स्विच': RBI बँका, NBFC चे रॉग AI कलाकारांपासून संरक्षण करू शकते का?

RBI ने भारतातील सर्वात व्यापक AI गव्हर्नन्स फ्रेमवर्कचा प्रस्ताव दिला आहे, ज्यामध्ये बँका आणि नियमन केलेल्या संस्थांना “किल स्विच” व्यवस्थेद्वारे AI प्रणाली त्वरित ओव्हरराइड, निलंबित किंवा निष्क्रिय करण्याची क्षमता असणे आवश्यक आहे.

मसुद्यात अनिवार्य मॉडेल इन्व्हेंटरीज, तृतीय-पक्ष एआय सिस्टमचे स्वतंत्र प्रमाणीकरण, स्पष्टीकरण आवश्यकता आणि एआय-चालित निर्णयांसाठी बोर्ड-स्तरीय जबाबदारी यांचा परिचय आहे.

इंडस्ट्री एक्झिक्युटिव्ह्जचा असा विश्वास आहे की फ्रेमवर्क वित्तीय सेवांमध्ये बेपर्वा एआय तैनाती कमी करू शकते आणि बँका आणि एनबीएफसींना एआय गव्हर्नन्सला एंटरप्राइझ जोखीम शिस्त मानण्यास भाग पाडते.

बँका आणि वित्तीय संस्थांद्वारे AI च्या वापराचे रेलिंग वाढवण्यासाठी, भारतीय रिझर्व्ह बँक (RBI) ने AI पासून उद्भवणाऱ्या जोखमींचे व्यवस्थापन करण्यासाठी एक व्यापक फ्रेमवर्क प्रस्तावित केले आहे.

RBI च्या “मॉडेल रिस्क मॅनेजमेंटसाठी नियामक तत्त्वांवरील मार्गदर्शन, 2026” अंतर्गत, मुख्य प्रस्तावांमध्ये AI साठी स्पष्टीकरण थ्रेशोल्ड स्थापित करण्यासाठी नियमन केलेल्या वित्तीय संस्थांचा समावेश आहे, त्याच्या भ्रमांपासून संरक्षणाची अंमलबजावणी करणे, असामान्य परिस्थिती आणि प्रतिकूल हल्ल्यांखालील चाचणी प्रणाली, पक्षपातीपणाचे निरीक्षण करणे आणि मॉडेल म्हणून सतत भेदभाव करणे आणि भेदभाव करणे.

RBI ने 24 जुलैपर्यंत मसुद्याच्या मार्गदर्शक तत्त्वांवर अभिप्राय मागवला आहे.

फ्रेमवर्कच्या केंद्रस्थानी बँका आणि वित्तीय संस्थांनी जोखीम कमी करण्यासाठी योग्य उपाययोजना करणे आवश्यक आहे.

प्रस्तावात मानवी-इन-कमांड व्यवस्था, ओव्हरराइड, निलंबन किंवा निष्क्रियीकरण यंत्रणा यासारख्या योग्य जोखीम कमी करणाऱ्या घटकांचा समावेश आहे, ज्यामध्ये 'किल स्विच' व्यवस्था आणि विसंगती ओळखण्यासाठी मानवाकडून मॉडेल आउटपुट आणि मॉडेल-चालित निर्णयांचे नियतकालिक पुनरावलोकन समाविष्ट आहे.

आरबीआयने सर्व मॉडेल्सचे स्वतंत्र प्रमाणीकरण देखील प्रस्तावित केले आहे, ज्यात तृतीय-पक्ष प्रणाली, नियतकालिक पुनरावलोकने, तणाव चाचणी आणि संपूर्ण मॉडेल जीवनचक्रामध्ये सतत देखरेख समाविष्ट आहे.

एआय किल स्विच ही एक अयशस्वी-सुरक्षित यंत्रणा आहे जी संस्थांना एआय मॉडेल अनपेक्षितपणे वागते, हानिकारक आउटपुट निर्माण करते किंवा ऑपरेशनल जोखीम निर्माण करते तेव्हा ते त्वरित बंद करू देते.

शमन फ्रेमवर्क आज भारतीय आर्थिक परिसंस्थेच्या संदर्भात अधिकाधिक प्रासंगिक बनले आहे. जरी इकोसिस्टमने AI वर अवलंबित्व वाढवले ​​असले तरी, AI भ्रम आणि डेटा गोपनीयतेशी संबंधित मूळ जोखीम त्यांच्याबरोबर अधिक घातक परिणाम आणतात.

हजारो ग्राहकांना चुकीचा आर्थिक सल्ला देणारा चॅटबॉट कल्पना करा, अंडररायटिंग मॉडेल काही कर्जदारांविरुद्ध अनावधानाने भेदभाव करत आहे.

सुरक्षितता सुनिश्चित करण्यासाठी, प्रस्तावित मार्गदर्शक तत्त्वे वित्तीय संस्थांद्वारे वापरल्या जाणाऱ्या प्रत्येक मॉडेलला औपचारिक प्रशासनाच्या चौकटीत आणण्याचा प्रयत्न करतात. यामध्ये ग्राहक समर्थन बॉट, तृतीय-पक्ष फसवणूक शोध इंजिन, क्रेडिट अंडररायटिंग मॉडेल किंवा अगदी स्प्रेडशीट-आधारित कर्ज-किंमत कॅल्क्युलेटरला शक्ती देणारा LLM समाविष्ट असू शकतो.

वाणिज्य बँका, लघु वित्त बँका, पेमेंट बँका, सहकारी बँका, NBFC, मालमत्ता पुनर्रचना कंपन्या आणि क्रेडिट माहिती कंपन्यांद्वारे AI वापराचे नियमन प्रस्तावित AI फ्रेमवर्क अंतर्गत केले जाईल.

AI उत्तरदायित्व वाढवणे

थोडक्यात, फ्रेमवर्क नियमन केलेल्या वित्तीय संस्थांद्वारे वापरल्या जाणाऱ्या सर्व मॉडेल्सची उत्तरदायित्व वाढविण्यासाठी बोली लावते, या प्रणाली आंतरिकरित्या विकसित केल्या गेल्या आहेत किंवा तृतीय-पक्ष प्रदात्यांकडून प्राप्त केल्या आहेत याची पर्वा न करता.

या अंतर्गत, या संस्थांना संपूर्ण संस्थेमध्ये तैनात केलेल्या प्रत्येक AI मॉडेलची सर्वसमावेशक यादी राखणे आवश्यक आहे आणि हे सुनिश्चित करणे आवश्यक आहे की कोणतेही मॉडेल औपचारिकपणे दस्तऐवजीकरण केल्याशिवाय आणि त्या यादीमध्ये समाविष्ट केल्याशिवाय वापरले जाणार नाही.

ही आवश्यकता फ्रेमवर्कच्या सर्वात आव्हानात्मक पैलूंपैकी एक असू शकते. इंडस्ट्री एक्झिक्युटिव्ह्स Inc42 ने अधोरेखित करून सांगितले की फ्रेमवर्क AI ची व्याप्ती GenAI च्या पलीकडे वाढवते.

“मसुदा 'मॉडेल' इतक्या विस्तृतपणे परिभाषित करतो की स्प्रेडशीट किंमत कॅल्क्युलेटरने निर्णय घेतल्यास त्याची गणना केली जाते. हा GenAI नियम नाही; तो प्रत्येक लेगसी स्कोअरकार्ड आणि नियम इंजिनमध्ये खेचतो आणि बहुतेक संस्थांकडे आज संपूर्ण मॉडेल इन्व्हेंटरी नाही. ती इन्व्हेंटरी वास्तविक दिवसाचे काम आहे,” Redacto's coinfo.

परिणामी, बँका आणि एनबीएफसींना आता एआय गव्हर्नन्सच्या दृष्टीकोनातून पूर्वी कधीही न पाहिलेल्या वारसा निर्णय प्रणाली आणि अंतर्गत विकसित साधनांची दशके ओळखून दस्तऐवजीकरण करावे लागेल.

ग्राहकासमोरील AI प्रणालींना हे देखील उघड करणे आवश्यक आहे की वापरकर्ते AI प्रणालीशी संवाद साधत आहेत आणि जेव्हा जेव्हा विनंती केली जाते तेव्हा मानवी सहाय्यावर स्विच करण्याचा पर्याय प्रदान करतात.

एआय रेग्युलेशनकडे एक सूक्ष्म दृष्टीकोन

आरबीआयचा मसुदा जगभरातील नियामक एआयकडे कसे पोहोचत आहेत यामधील व्यापक बदल प्रतिबिंबित करतो.

एआयला केवळ दुसरे तंत्रज्ञान साधन म्हणून पाहण्याऐवजी, नियामक त्यास ऑपरेशनल, ग्राहक आणि प्रणालीगत जोखमीचे स्त्रोत म्हणून पाहतात ज्यासाठी समर्पित प्रशासन फ्रेमवर्क आवश्यक आहे.

त्याच वेळी, आरबीआयने एआय तैनातीवर ब्लँकेट निर्बंध लादण्याचे थांबवले आहे. वित्तीय उद्योग मार्गदर्शनाकडे एक प्रभावी टर्नकी म्हणून पाहतो जे AI च्या प्रशासनाला उन्नत करते. हे प्रभावीपणे बेपर्वा तैनाती कमी करते आणि अशा अवलंबनाशी संबंधित जोखमींभोवती रेलिंग ठेवते.

ब्लॉकचेन-आधारित कर्ज जीवनचक्र व्यवस्थापन कंपनी न्यू स्ट्रीट टेक्नॉलॉजीजचे सीईओ सजीव विश्वनाथन यांचा असा विश्वास आहे की मसुदा अधिक सूक्ष्म नियामक दृष्टिकोन प्रतिबिंबित करतो.

“एआय वर ब्लँकेट निर्बंध लादण्याऐवजी, आरबीआयने कमी आणि उच्च-जोखीम वापराच्या प्रकरणांमध्ये फरक करणारी एक टायर्ड जोखीम फ्रेमवर्क प्रस्तावित केले आहे. बोर्ड-स्तरीय जबाबदारी आणि मानवी देखरेख यंत्रणा यांच्या संयुक्त विद्यमाने, फ्रेमवर्क आर्थिक स्थिरता टिकवून ठेवताना नाविन्य सक्षम करण्याचा प्रयत्न करते,” ते म्हणाले.

आरबीआयने असेही सूचित केले आहे की भविष्यात एआय मॉडेल्ससाठी विशिष्ट अतिरिक्त आवश्यकता लागू केल्या जाऊ शकतात.

भारताच्या आर्थिक क्षेत्रासाठी, मॉडेल अचूकता यापुढे पुरेशी नाही. बँका आणि वित्तीय संस्थांना आता समजावून सांगावे लागेल, निरीक्षण करावे लागेल, ऑडिट करावे लागेल आणि आवश्यक असेल तेव्हा त्यांनी तैनात केलेल्या एआय सिस्टम त्वरित बंद कराव्या लागतील.

संपादन: अक्षित पुष्कर्णा
क्रिएटिव्हज: अभ्यम गुसाई