एआय-चालित पाळत ठेवणे: संतुलन सुरक्षा आणि गोपनीयता

हायलाइट

• एआय पाळत ठेवणे सुरक्षिततेला चालना देते परंतु पक्षपात, मिशन रेंगाळ आणि नागरी स्वातंत्र्य इरोशनचा धोका आहे.
• युरोपियन युनियनच्या एआय कायद्यापासून ते यूएस सिटी बंदीपर्यंत जागतिक नियम असमान आहेत.
• मानव-केंद्रीत प्रशासन आणि पारदर्शकता नैतिक पाळत ठेवण्याची गुरुकिल्ली आहे.

व्यस्त रेल्वे स्थानकात एआय-चालित पाळत ठेवणे केवळ रेकॉर्डिंगच्या पलीकडे जाते-हे चेहरे, अंदाज, भावना, “असामान्य” वर्तन ध्वजांकित करते आणि त्या डेटाला सिस्टममध्ये फीड करते जे एखाद्याने जवळचे लक्ष दिले आहे की नाही हे ठरवते. शहर अधिकारी आणि पोलिसांसाठी, हे वेगवान धमकी शोधणे आणि दुर्मिळ संसाधनांचा हुशार वापर करण्याचे आश्वासन देते. हक्कांच्या वकिलांसाठी आणि सामान्य लोकांसाठी, हे संमती, स्पष्टीकरण किंवा साध्या उपायांशिवाय उदयास येणार्‍या सतत, स्वयंचलित छाननीचा हळूहळू विस्तार म्हणून दिसते.

गेल्या पाच वर्षांत सार्वजनिक-जागेच्या एआय पाळत ठेवण्याच्या आसपासच्या संभाषणात 'काय शक्य आहे?' वरून बदलले आहे. 'काय परवानगी दिली पाहिजे?'. तंत्रज्ञान द्रुतगतीने परिपक्व झाले आहे, चेहरा ओळख, चालक आणि ऑब्जेक्ट डिटेक्शन, परवाना-प्लेट वाचक आणि अल्गोरिदम पॅटर्न-मॅचिंग सर्व मोठ्या प्रमाणात उपलब्ध आहेत आणि त्याची उपयोजन जागतिक आहे. परंतु सामाजिक, कायदेशीर आणि नैतिक फॉल्ट लाइन आता स्पष्ट आहेत आणि सोसायटी त्यांना कसे नेव्हिगेट करतात हे निर्धारित करेल की नाही एआय देखरेख हानी कमी करते किंवा ती गुणाकार करते.

जिथे तंत्रज्ञान वापरले जात आहे

शहरे, सीमा एजन्सी, परिवहन प्रणाली आणि खाजगी कंपन्या कारणांच्या मिश्रणासाठी सार्वजनिक देखरेखीसाठी एआय तैनात करतात: गुन्हेगारी प्रतिबंध, गर्दी व्यवस्थापन, सीमा नियंत्रण, किरकोळमधील तोटा-प्रतिबंध आणि अगदी सार्वजनिक-आरोग्य देखरेखीसाठी. हुकूमशाही राज्यांमध्ये, या प्रणाली बर्‍याचदा व्यापक सामाजिक-नियंत्रण आर्किटेक्चरवर कलम केल्या जातात: ग्रिड मॅनेजमेंट, विस्तृत ओळख डेटाबेस आणि क्रॉस-एजन्सी डेटा सामायिकरण अरुंद सार्वजनिक-सुरक्षा उद्दीष्टांपेक्षा अधिक विस्तृत प्रकल्प. अहवाल देणे दर्शविते की काही राज्यांनी नवीन नोकरशाही रचनांनुसार आणि डेटा संकलन आणि देखरेखीसाठी प्रोत्साहनांसह असे कार्यक्रम अधिक तीव्र केले आहेत.

लोकशाहीमध्ये चित्र पॅच आहे. काही स्थानिक सरकारे आणि पोलिस दलांनी अन्वेषकांसाठी चेहर्यावरील मान्यता स्वीकारली आहे; इतरांनी मागे ढकलले आहे. सॅन फ्रान्सिस्कोने चेहर्यावरील मान्यता वापरणार्‍या शहर एजन्सीवरील 2019 ची बंदी बायोमेट्रिक पाळत ठेवण्याच्या मर्यादेचा विचार करून इतर डझनभर अमेरिकन शहरांचे एक मॉडेल बनले, जरी मतदार आणि एजन्सी ड्रोन आणि इतर साधनांच्या आसपासच्या व्यापारावर कुस्ती करतात. कॅलिफोर्नियासारख्या ठिकाणी अलिकडील कायदेशीर क्रियाकलाप शोध आणि अटकेतील बायोमेट्रिक्सवर कायद्याची अंमलबजावणी करण्यास प्रतिबंधित करणे हे आहे.

तंत्रज्ञानाची हानी

एआय पाळत ठेवणे बहुतेक वेळा वस्तुनिष्ठ आणि कार्यक्षम म्हणून विकले जाते, परंतु वास्तविकता अधिक जटिल आणि त्रासदायक आहे. एकाधिक तपासणी आणि मानवाधिकार संघटनांनी भिन्न तंत्रज्ञान आणि भौगोलिकांमध्ये हानीच्या आवर्ती नमुन्यांचे दस्तऐवजीकरण केले आहे. सर्वात महत्त्वाची चिंता म्हणजे पूर्वाग्रह आणि चुकीचे हानी. उदाहरणार्थ, चेहर्यावरील-ओळख प्रणाली, वांशिक आणि लिंग गटांमध्ये असमानपणे कामगिरी दर्शविली गेली आहे, ज्यामुळे महिला आणि रंगीत लोकांसाठी असमानतेने उच्च दर तयार केले गेले आहेत. पोलिसिंग संदर्भात, या त्रुटी चुकीच्या थांबे, अटक आणि व्यक्तींच्या जीवनाला दीर्घकाळ टिकणार्‍या नुकसानात भाषांतरित करू शकतात, जसे अ‍ॅम्नेस्टी इंटरनॅशनल कॅनडाच्या तपासणीद्वारे आणि कॅल प्रकरणांद्वारे अहवाल दिल्यास.

आणखी एक आवर्ती मुद्दा म्हणजे मिशन रांगणे आणि फंक्शन रांगणे. गुन्हेगारी नियंत्रणाच्या बॅनर अंतर्गत सादर केलेल्या प्रणाली हळूहळू इतर डोमेनमध्ये वाढू शकतात, जसे की इमिग्रेशन अंमलबजावणी, कल्याण पात्रता किंवा अगदी राजकीय देखरेखीसाठी. अ‍ॅम्नेस्टी इंटरनॅशनलने असा इशारा दिला आहे की पाळत ठेवण्याच्या तंत्रज्ञानाच्या या विस्तारांमुळे केवळ विषमता वाढत नाही तर मूलभूत हक्क देखील कमी होते, विशेषत: सीमा आणि स्थलांतर नियंत्रणाच्या संदर्भात.

शेवटी, तेथे महत्त्वपूर्ण अस्पष्टता आणि उत्तरदायित्व अंतर आहेत. जेव्हा खासगी कंपन्या गंभीर पाळत ठेवण्याच्या यंत्रणेचा विकास करतात आणि ऑपरेट करतात तेव्हा ही मॉडेल्स कसे निर्णय घेतात, कोणत्या डेटावर अवलंबून असतात आणि त्रुटी कशा लढवल्या जाऊ शकतात याबद्दल सरकार आणि व्यक्ती बर्‍याचदा अंधारात राहतात.

पारदर्शकता आणि निरीक्षणाच्या कमतरतेमुळे एक नियामक व्हॅक्यूम तयार झाला आहे ज्यास नुकतेच कायदेशीर वसाहती आणि खटल्याच्या माध्यमातून लक्ष देणे सुरू केले आहे, जे विशेषत: चेहर्यावरील-ओळख विक्रेत्यांविरूद्ध उच्च-प्रोफाइल प्रकरणांमध्ये आहे. एकत्रितपणे, या मुद्द्यांवरून असे दिसून येते की एआय-चालित पाळत ठेवणे हे एक तटस्थ साधन नाही, परंतु विद्यमान असमानता वाढविण्यास आणि नागरी स्वातंत्र्य कमी करण्यास जोखीम देणारी एक शक्तिशाली शक्ती आहे.

हानीचे नियम

नियमन पकडत आहे परंतु असमानपणे. युरोपियन युनियनचा एआय कायदा एक मैलाचा दगड आहे: तो जोखीम-आधारित दृष्टिकोन घेते आणि पारदर्शकता, डेटा गव्हर्नन्स आणि मानवी देखरेखीसाठी कठोर जबाबदा .्यांसह उच्च-जोखमीच्या प्रणालींचा उपचार करताना काही बायोमेट्रिक पाळत ठेवणे (काही सार्वजनिक-जागेच्या चेहर्यावरील-ओळख पद्धतींसह) स्पष्टपणे प्रतिबंधित करते. मूलभूत हक्कांच्या जोखमीमुळे सार्वजनिक जीवनात काही एआय अनुप्रयोग मर्यादित करणे आवश्यक आहे या तत्त्वाचे कायद्याने हे कायद्याने केले आहे.

इतर कार्यक्षेत्र अधिक अनुज्ञेय किंवा तुकड्याचे आहेत. सार्वजनिक-ऑर्डर प्रकल्पांना प्रगती करणार्‍या काही राष्ट्रीय सुरक्षा संस्था किंवा सरकारांनी मर्यादित कायदेशीर अडचणींसह व्यापक तैनात केले आहेत, कधीकधी सीमापार धमक्या किंवा सार्वजनिक-सुरक्षा आपत्कालीन परिस्थितीचा उल्लेख केला.

दरम्यान, बर्‍याच लोकशाहीमधील न्यायालये आणि विधिमंडळ विशिष्ट उपयोगांना प्रतिबंधित करण्यासाठी लक्ष्यित बंदी, खरेदी नियम, वॉरंट आवश्यकता किंवा निरीक्षण मंडळाचा प्रयोग करीत आहेत. याचा परिणाम जागतिक पॅचवर्क आहे: युरोपमधील काही भागांमध्ये मजबूत कायदेशीर संरक्षक, अमेरिकेत खटला आणि शहर बंदी आणि इतरत्र बरेच व्यापक राज्य तैनात.

व्यवसाय इकोसिस्टम

आधुनिक पाळत ठेवण्यामध्ये एक उल्लेखनीय गतिशील म्हणजे अस्पष्ट सार्वजनिक-खाजगी सीमा. टेक विक्रेते वेबवरून स्क्रॅप केलेल्या किंवा खाजगी फीडमधून संकलित केलेल्या भव्य प्रतिमा डेटासेटवर प्रशिक्षित सिस्टमसह नगरपालिका आणि राष्ट्रीय एजन्सींचा पुरवठा करतात. एका प्रमुख विक्रेत्याविरूद्ध कायदेशीर लढा आणि त्यानंतरच्या वसाहतींमध्ये हे स्पष्ट करते की व्यावसायिक पद्धती, डेटा स्क्रॅपिंग, अपारदर्शक मॉडेल प्रशिक्षण आणि बायोमेट्रिक जुळणार्‍या सेवांचे पुनर्विक्री, गोपनीयता कायदे आणि सार्वजनिक अपेक्षांशी कसे टक्कर देऊ शकते. खटला आणि अंमलबजावणीच्या कृती आता विक्रेते कायदेशीररित्या काय करू शकतात हे आकार देत आहेत, परंतु अंमलबजावणी करणे आवश्यक आहे.

पाळत ठेवण्यासाठी मोठे समाधान

तंत्रज्ञानाचे निर्णय म्हणजे आपण ज्या प्रकारच्या समाजात जगू इच्छितो त्याबद्दल शेवटी राजकीय निवडी आहेत आणि मानवी दृष्टिकोन म्हणजे सेन्सर किंवा डेटासेट नव्हे तर लोकांना मध्यभागी ठेवणे. यासाठी सार्वजनिक सल्लामसलत, पाळत ठेवणे केव्हा आणि का वापरले जाते याविषयी दररोजच्या भाषेत स्पष्ट स्पष्टीकरण आणि समुदाय मूल्ये प्रतिबिंबित करणारे मजबूत कायदेशीर संरक्षण आवश्यक आहे.

याचा अर्थ असा आहे की प्रत्येक आव्हानाला तांत्रिक निराकरणाची आवश्यकता नाही: समुदाय पोलिसिंग, सामाजिक सेवा, सार्वजनिक जागांमध्ये चांगले प्रकाश आणि डिझाइन आणि गुन्हेगारीच्या मूळ कारणास्तव लक्ष देणारे कार्यक्रम स्वयंचलित संशयापेक्षा सुरक्षितता आणि अधिक प्रभावीपणे विश्वास ठेवू शकतात.

वाढत्या प्रमाणात, मानवाधिकार संस्था, तंत्रज्ञानशास्त्रज्ञ आणि काही धोरणकर्ते सहमत आहेत की काही पाळत ठेवण्याच्या पद्धती घट्टपणे मर्यादित किंवा सार्वजनिक जागांवर मर्यादा नसल्या पाहिजेत, कारण ते तंत्रज्ञान नाकारतात म्हणून नव्हे तर लोकशाही निकषांची सेवा करण्यासाठी आणि वैयक्तिक प्रतिष्ठेचे संरक्षण करण्यासाठी त्यांना शक्तिशाली साधने हव्या आहेत.

निष्कर्ष

एआय-चालित पाळत ठेवणे अदृश्य होणार नाही. हे काही संदर्भांमध्ये वास्तविक ऑपरेशनल फायद्याचे आश्वासन देते आणि काही सरकारे किंवा कंपन्यांसाठी ते सोडून देणे खूपच आकर्षक आहे. प्रेसिंग चॅलेंज हे शासन आहेः नागरी स्वातंत्र्य आणि भेदभाव वाढविणार्‍या यंत्रणेस सामान्यीकरण न करता कायदेशीर सुरक्षा नफा कसा टिकवायचा. खटला चालविण्यासह स्थानिक बंदीपासून ते युरोपियन युनियन एआय अ‍ॅक्ट सारख्या व्यापक कायद्यांपर्यंत नियामक प्रयोग, खटला आणि तपास पत्रकारितेसह हे दर्शविते की आवश्यकतेनुसार लोकशाही संस्था मागे टाकू शकतात.

पाळत ठेवण्याची यंत्रणा इतकी अंतर्भूत होण्यापूर्वी ते आता संरक्षकांना संस्थात्मक बनवतील की नाही हा कठोर प्रश्न आहे की रीट्रेंचमेंट राजकीय आणि तांत्रिकदृष्ट्या अधिक कठीण आहे.

मानवीय शिल्लक शक्य आहे, परंतु त्यासाठी कठोर निवडी आवश्यक आहेत: विशिष्ट क्षमता प्रतिबंधित करणे, पारदर्शकता आणि ऑडिटबिलिटीचा आग्रह धरणे आणि जेथे सुरक्षा अधिकारांची पूर्तता करते तेथे मानवी निर्णयाचे केंद्रस्थानी ठेवणे. सार्वजनिक पाळत ठेवण्याचे भविष्य कॅमेरा आणि कोड काय करू शकते याद्वारे मार्गदर्शन केले पाहिजे, परंतु मुक्त आणि निष्पक्ष समाज जे निर्णय घेतो ते स्वीकार्य आहे.