एआय टीम्सना उत्पादन कार्यप्रवाहांमध्ये एआय डेटा गव्हर्नन्सची आवश्यकता का आहे
AI कामाची सुरुवात साधारणपणे मूलभूत कल्पनेने होते. डेटा चांगला झाल्यास, मॉडेल देखील चांगले होऊ शकते. वास्तविक उपयोजनांमध्ये, डेटा केवळ तांत्रिक इनपुट नसतो. त्यात नावे आणि संपर्क यांसारख्या वैयक्तिक तपशीलांचा समावेश असू शकतो. हे पेमेंट डेटा, चॅट लॉग आणि स्थान डेटा देखील ठेवू शकते. काही संचांमध्ये कर्मचारी फायली किंवा आरोग्य डेटा समाविष्ट असतो. इतरांमध्ये व्यवसाय रेकॉर्ड किंवा इतर खाजगी सामग्री असते.
एआय पाइपलाइनमध्ये डेटा जोडल्यानंतर, संस्थांना व्यावहारिक प्रश्नांची उत्तरे द्यावी लागतात. डेटा कुठून आला? या वर्कफ्लोमध्ये ते का वापरले जाते? ते पाहण्याची किंवा हाताळण्याची परवानगी कोणाला आहे? फाईलवर किती काळ राहावे? ते पुन्हा वेगळ्या कामासाठी वापरता येईल का? जेव्हा डेटाची आवश्यकता नसते तेव्हा काय करावे?
इथेच AI डेटा गव्हर्नन्स महत्त्वाचा आहे. डेटा गव्हर्नन्स नियम, पायऱ्या, मालक आणि माहिती व्यवस्थापित करण्यासाठी वापरलेले सुरक्षा उपाय सेट करते. AI सिस्टीमसाठी, ती नियंत्रणे संपूर्ण जीवनचक्रात चालली पाहिजेत. मॉडेल आधीच तयार केल्यानंतरच ते जोडले जाऊ नयेत.
NIST चे AI जोखीम व्यवस्थापन फ्रेमवर्क देखील संपूर्ण प्रक्रियेत विश्वसनीय AI कडे निर्देश करते. यात डिझाइन, विकास, उपयोजन, वापर, चाचणी आणि मूल्यमापन समाविष्ट आहे. फ्रेमवर्क गट जोखीम चार कार्यांमध्ये कार्य करतात: शासन, नकाशा, मोजमाप आणि व्यवस्थापित करा. AI संघांसाठी, याचा अर्थ डेटा गव्हर्नन्स हे केवळ कायदेशीर किंवा अनुपालन कार्य नाही. एआय प्रणाली कशी तयार केली जाते आणि चालविली जाते याच्याशी ते जोडलेले आहे.
एआय डेटा गव्हर्नन्स
एआय डेटा गव्हर्नन्स म्हणजे एखादी संस्था एआय सिस्टमद्वारे डेटा कसे व्यवस्थापित करते. यात संकलन, टॅगिंग, स्टोरेज, प्रक्रिया, शेअरिंग, धारणा आणि काढणे समाविष्ट आहे. हे चरण संपूर्ण जीवनचक्रात घडतात.
यापैकी अनेक गरजा पूर्ण करण्यासाठी नियमित डेटा गव्हर्नन्स मदत करते. तरीही, एआय ते कठीण करते, कारण डेटाचा एक भाग अनेक ठिकाणी दर्शवू शकतो. हे ग्राहक साधनामध्ये सुरू होऊ शकते. नंतर, ते प्रशिक्षण सेटमध्ये बदलले जाऊ शकते. मग ते मॉडेलची चाचणी घेण्यासाठी वापरले जाऊ शकते. त्यानंतर, ते थेट लॉग फाइल्समध्ये जतन केले जाऊ शकते. एआय ॲप ते पुन्हा खेचू शकते. कालांतराने, तोच डेटा मॉनिटरिंग किंवा मॉडेल अपडेटसाठी वापरला जाऊ शकतो.
प्रत्येक टप्पा स्वतःचे धोके आणू शकतो. प्रशिक्षण डेटा सहसा उत्पादन लॉगच्या आवश्यकतेपेक्षा भिन्न नियंत्रणांसाठी कॉल करतो. चाचणी डेटासेटमध्ये खाजगी तपशील समाविष्ट असू शकतात जे प्रत्येक अभियंत्यास दृश्यमान नसावेत. सपोर्ट चॅटबॉट तत्काळ वैयक्तिक डेटा हाताळू शकतो, जरी कोणीही भविष्यातील प्रशिक्षणात तो डेटा संपवण्याची योजना आखली नसली तरीही. त्यामुळे प्रशासनाने केवळ मॉडेलचाच नव्हे तर डेटाचा मागोवा घेतला पाहिजे.
उत्पादन AI डेटा गव्हर्नन्स समस्या हलवते
संघ अनेकदा नीटनेटके चाचणी डेटासह विकासास प्रारंभ करतात. उत्पादनात, जग कमी व्यवस्थित आहे. एकदा AI सहाय्यक लाइव्ह झाल्यावर, तो चाचणीमध्ये कधीही पाहिलेला वैयक्तिक तपशील मिळवू शकतो. कागदपत्रे वाचणारी प्रणाली खाजगी कराराच्या अटींमध्ये खेचू शकते.
शिफारशी साधन वापरकर्ता वर्तन सुरेख हाताळू शकते. एखादे एंटरप्राइझ ॲप संवेदनशील कंपनी फायलींसह अंतर्गत सिस्टमपर्यंत देखील पोहोचू शकते. ते अंतर खूप मोठे आहे. उत्पादनातील डेटा अंदाज करणे कठीण आहे. लॉक डाउन करणे आणि परिभाषित सीमांमध्ये ठेवणे कठीण आहे.
त्यामुळे संघांना व्यावहारिक पावले उचलण्याची गरज आहे. त्यांनी संवेदनशील सामग्री शोधली पाहिजे. ते कोण पाहू शकेल यावर त्यांनी निर्बंध घातले पाहिजेत. ते किती काळ टिकेल याची मर्यादा त्यांनी निश्चित केली पाहिजे. त्यांनी एका कामासाठी गोळा केलेला डेटा योग्य कायदेशीर आधार किंवा अधिकृततेशिवाय पुन्हा वापरण्यापासून थांबवावा.
NIST चे AI RMF संपूर्ण AI लाइफसायकलमध्ये पसरलेल्या जोखमीच्या कामाकडे निर्देश करते. हे प्रशासनाचा भाग म्हणून डेटा स्रोत आणि तृतीय-पक्ष कनेक्शन हाताळण्यासाठी संस्थांना प्रोत्साहित करते. यामुळे, डेटा गव्हर्नन्स असे काहीतरी बनते जे संघांनी दररोज व्यवस्थापित केले पाहिजे. रिलीझ होण्याआधीच ते पूर्ण करायचं काम नाही.
डेटा मिनिमायझेशन: एआयची गरज असलेल्या गोष्टी गोळा करणे
एक चांगला नियम सोपा आहे. तुम्ही म्हणाल त्या कामासाठी आवश्यकतेपेक्षा जास्त वैयक्तिक डेटा गोळा करू नका किंवा वापरू नका. यूके माहिती आयुक्त कार्यालय हे वैयक्तिक डेटा वापरणे असे वर्णन करते जे पुरेसे, संबंधित आणि आवश्यक ते मर्यादित आहे. ते कार्यसंघांना चेतावणी देते की डेटा न ठेवता कारण तो नंतर सुलभ होऊ शकतो.
AI सिस्टीम बनवणाऱ्या लोकांसाठी, ते डेटासेट कसा निवडतात हे हे आकार देऊ शकते. ग्राहक समर्थन विनंतीला योग्य प्रकार म्हणून लेबल करणे आवश्यक असलेल्या मॉडेलची कल्पना करा. तुम्हाला कदाचित संपूर्ण ग्राहक प्रोफाइलची आवश्यकता नाही. केवळ लेबलशी जोडलेले तपशील वापरल्याने जे समोर आले आहे ते मर्यादित करू शकते.
प्रशिक्षण घेताना हाच मुद्दा लागू होतो. कार्यसंघाला डेटाबेसमधील प्रत्येक फील्डची आवश्यकता असू शकत नाही. जेव्हा तुम्ही अतिरिक्त डेटा कापता तेव्हा गोपनीयतेचा धोका कमी होऊ शकतो. प्रवेशाचे नियम सोपे असू शकतात. स्टोरेज गरजा कमी होऊ शकतात. डेटासेट देखील दररोज हाताळण्यास सुलभ असतात.
संमतीने डेटाला काय होते ते जुळले पाहिजे
लोक सहसा संमतीबद्दल बोलतात जसे की तो एक झटपट बॉक्स आहे. पण एआय वर्क चित्र बदलते. कोणीतरी विशिष्ट सेवेसाठी माहिती प्रदान करण्यास सहमती देऊ शकते. याचा अर्थ असा नाही की ते समान डेटा नंतर विस्तृत मॉडेलच्या प्रशिक्षणासाठी वापरण्याची अपेक्षा करतात. याचा अर्थ असा असू शकत नाही की ते वेगळ्या गटासह सामायिक करतील किंवा अमर्यादित काळासाठी डेटा ठेवतील.
त्यामुळे एखाद्या संस्थेने ती माहिती का गोळा करते हे स्पष्ट केले पाहिजे. प्रक्रियेस परवानगी देणारा कायदेशीर आधार देखील ओळखला पाहिजे. काही प्रकरणांमध्ये संमती महत्त्वाची असू शकते. तरीही, प्रत्येक प्रकारच्या AI डेटा वापरासाठी हा योग्य कायदेशीर आधार असू शकत नाही.
काय आवश्यक आहे ते भिन्न असू शकते. हे देश किंवा प्रदेशानुसार बदलू शकते. हे उद्योग, डेटा प्रकार आणि प्रक्रिया चरणांवर देखील अवलंबून असू शकते. त्यामुळे, एआय संघांनी अंदाज लावू नये. त्यांनी वैयक्तिक डेटा हाताळण्यासाठी योग्य आधाराबद्दल गोपनीयता तज्ञ आणि कायदेशीर तज्ञांचा सल्ला घ्यावा.
त्यांनी असे गृहीत धरू नये की एक संमती प्रवाह शासनाच्या सर्व गरजा निश्चित करतो.
त्यानंतर, निर्णयाशी जुळणारी यंत्रणा तयार केली पाहिजे. उदाहरणार्थ, जर वापरकर्त्याने दुय्यम वापर अधिकृत केला नसेल आणि इतर कोणताही कायदेशीर आधार लागू होत नसेल, तर उत्पादन पाइपलाइनने त्यांचा डेटा मॉडेल सुधारण्यासाठी डेटासेटमध्ये पाठवू नये.
डेटा गोल्ससाठी स्पष्ट नोट्स आवश्यक आहेत
एआय टीम प्रत्येक की डेटासेटसाठी एक साधी वस्तुस्थिती सांगण्यास सक्षम असावी. हा डेटा कोणत्या कामासाठी आहे?
वास्तविक बांधकाम कार्य चालविण्यासाठी ते विधान पुरेसे स्पष्ट असले पाहिजे. हे लोकांना मॉडेलिंग आणि अभियांत्रिकीबद्दल निवड करण्यात मदत करेल.
डेटासेट फसवणूक शोध मॉडेलमध्ये जाऊ शकतो. हे ग्राहक समर्थन वर्गीकरणाचे मूल्यांकन करण्यासाठी वापरले जाऊ शकते. हे मॉडेल कालांतराने कसे काम करत आहे याचा मागोवा घेण्यास मदत करू शकते. जेव्हा उत्पादनामध्ये काहीतरी खंडित होते तेव्हा ते समस्येच्या पुनरावलोकनास देखील समर्थन देऊ शकते.
प्रत्येक ध्येय पुढे काय घडते ते बदलू शकते. डेटा किती काळ ठेवला जातो यावर त्याचा परिणाम होऊ शकतो. त्यात कोण प्रवेश करू शकतो यावर त्याचा परिणाम होऊ शकतो. NIST चे AI RMF सिस्टम संदर्भ दस्तऐवजीकरण करण्याची आवश्यकता दर्शविते. हे गृहितके, आवश्यकता आणि डेटा वैशिष्ट्ये देखील कॉल करते. हे सुरक्षित AI कार्यास समर्थन देते.
स्पष्ट लक्ष्य नोट्स अयोग्य पुनर्वापर अवरोधित करण्यास देखील मदत करतात. डेटा एका नमूद केलेल्या उद्देशासाठी गोळा केला असल्यास, टीम नवीन विनंतीचे पुनरावलोकन करू शकतात. नवीन योजना मूळ उद्दिष्टात बसते की नाही हे ते विचारू शकतात. डेटा नवीन पाइपलाइनमध्ये हलवण्यापूर्वी ते लागू होणारे नियम देखील तपासू शकतात.
एआय सेटअपमधील काहीतरी हटवणे हे दिसते त्यापेक्षा कठीण असू शकते
जेव्हा तुम्ही डेटाबेस पंक्ती काढून टाकता तेव्हा ते नेहमी इतर सर्व गोष्टी पुसून टाकत नाही. समान डेटा अजूनही इतर ठिकाणी राहू शकतो. उदाहरणार्थ, ते मूळ स्त्रोत प्रणाली, साफ केलेला डेटासेट, वैशिष्ट्य स्टोअर, बॅकअप, लॉग, कॅशे आणि चाचणी किंवा मूल्यमापन डेटामध्ये दर्शविले जाऊ शकते. पाइपलाइनमध्ये इतर पायऱ्या देखील असू शकतात ज्या कॉपी ठेवतात.
त्या वर, काही वर्कफ्लोमध्ये, डेटा आधीच प्रशिक्षित केलेल्या मॉडेलवर परिणाम करू शकतो. जर मॉडेल त्यातून शिकले असेल, तर हटवणे हे त्या शिकण्याला पूर्ववत करण्यासारखे नाही.
त्यामुळे संघांना कठीण प्रश्नांचा सामना करावा लागतो. त्यांच्या सिस्टमच्या प्रत्येक भागासाठी “हटवणे” म्हणजे काय हे त्यांना ठरवावे लागेल. नियम बदलल्यावर ते हाताळण्याचे स्पष्ट मार्गही त्यांना हवे असतात.

ICO म्हणते की प्रशिक्षण आणि नंतर अनुमान या दोन्ही दरम्यान किती वेळ डेटा ठेवला जातो याचा संघटनांनी विचार केला पाहिजे. हे असेही स्पष्ट करते की जेव्हा कायमस्वरूपी हटवणे तांत्रिकदृष्ट्या अशक्य असते, तेव्हा माहिती सुरक्षितपणे प्रतिबंधित किंवा निनावी असणे आवश्यक असते जेथे योग्य आणि लागू आवश्यकतांशी सुसंगत असते.
यामुळे, एआय संघांनी डेटा कुठे जातो याचा शोध घेतला पाहिजे. त्यांनी असे गृहीत धरू नये की पहिली फाईल हटवल्याने प्रत्येक धारणा चिंता स्वयंचलितपणे दूर होते.
निष्कर्ष
एआय डेटा गव्हर्नन्स हा आता एआय प्रणाली सुरक्षित आणि जबाबदार मार्गाने चालवण्याचा एक महत्त्वाचा भाग आहे.
वास्तविक उत्पादनात, एआय केवळ तयार केलेल्या उदाहरणांवर अवलंबून नाही. हे वास्तविक लोक, वास्तविक कंपन्या आणि वास्तविक डेटा स्रोतांशी संबंधित आहे. त्या स्त्रोतांमध्ये खाजगी तपशील, गोपनीय सामग्री किंवा विशेष नियम असलेल्या डेटाचा समावेश असू शकतो. काहीवेळा ते संघाला वाटेल त्यापेक्षा अधिक विशिष्ट असते.
त्यामुळे, संघांना गोपनीयतेचा आणि संमतीचा विचार करण्याची आवश्यकता आहे, त्यांना जे हवे आहे तेच वापरावे लागेल, डेटा किती काळ टिकेल ते मर्यादित करावे लागेल आणि तो कोण पाहू शकेल यावर नियंत्रण ठेवावे. त्यांना डेटा कोठून आला याचा मागोवा घेणे आणि डेटा योग्यरित्या वापरला गेला आहे याची खात्री करणे देखील आवश्यक आहे. हे संपूर्ण एआय लाइफसायकलमध्ये हाताळले पाहिजे, नंतरचा विचार म्हणून नाही.
उत्पादन प्रक्रियेत प्रशासन तयार करणे हा एक व्यावहारिक पर्याय आहे. टीम डेटा का वापरला जातो ते लिहू शकतात, अतिरिक्त संकलन कमी करू शकतात, स्पष्ट धारणा विंडो सेट करू शकतात, प्रवेश मर्यादित करू शकतात आणि ऑपरेशन्स दरम्यान डेटा कसा हलतो ते पाहू शकतात. ते बाहेरील सेवा देखील तपासू शकतात, नंतर डेटा हटवण्यासाठी आणि काही चूक झाल्यास घटना हाताळण्यासाठी पायऱ्या सेट करू शकतात.
NIST AI RMF हे कार्य व्यवस्थापित करणे, नकाशा, मोजमाप आणि व्यवस्थापित करणे यासारख्या चालू क्रियाकलापांसह आयोजित करण्याचा एक मार्ग प्रदान करते. ICO कडून गोपनीयता मार्गदर्शन देखील डेटा कमी करणे, स्टोरेज नियंत्रित करणे आणि संपूर्ण आयुष्यभर डेटाचे पुनरावलोकन करणे यावर जोर देते.
शेवटी, सुशासनाचा अर्थ संघांना उपयुक्त माहिती वापरण्यापासून रोखणे नाही. ती माहिती कशी हाताळली जाते याचे मार्गदर्शन करण्यासाठी आहे, म्हणून ती स्पष्ट उद्देशाने, दस्तऐवजीकरण युक्त तर्क, सुरक्षित सुरक्षितता आणि परिस्थितीशी सुसंगत नियंत्रणांसह वापरली जाते.
जेव्हा प्रशासन सामान्य AI अभियांत्रिकीमध्ये बसते, केवळ अनुपालन पुनरावलोकनाच्या शेवटी नाही, तेव्हा संस्था पहिल्या दिवसापासून चांगले निर्णय घेऊ शकतात. ते ठरवू शकतात की कोणत्या डेटामध्ये परवानगी आहे, कोणाला प्रवेश मिळतो, तो किती काळ ठेवला जातो आणि तो कधी काढायचा. हे वास्तविक जगात अधिक विश्वासार्ह आणि कालांतराने टिकून राहणे सोपे असलेल्या AI प्रणालीकडे नेत आहे.
(स्त्रोत)
Comments are closed.