युरोपमधील ड्रायव्हर्सना काढून टाकण्यासाठी एआय वापरल्याबद्दल उबेरला रु. 9000 कोटी दंड

स्वयंचलित निर्णयांवर प्रचंड दंड

उबेरला मोठा फटका बसला आहे €825 दशलक्ष दंडसुमारे समतुल्य ₹ 9,000 कोटीडच डेटा प्रोटेक्शन ऑथॉरिटीद्वारे त्याच्या स्वयंचलित सिस्टमचा वापर ड्रायव्हर्सला निलंबित किंवा निष्क्रिय करण्यासाठी केला गेला.

रेग्युलेटरला असे आढळून आले की Uber ने अशा प्रकरणांमध्ये स्वयंचलित निर्णय घेण्यावर अवलंबून आहे जेथे ड्रायव्हर्स प्लॅटफॉर्मवर प्रवेश गमावू शकतात आणि परिणामी, त्यांच्या उत्पन्नाचे स्रोत. कंपनीने पुरेशी मानवी देखरेख पुरवली आणि बाधित ड्रायव्हर्सना निर्णयांना आव्हान देण्याची संधी दिली की नाही यावर तपास केंद्रित होता.

Uber ची AI प्रणाली छाननीखाली का आली

हे प्रकरण Uber दरम्यान वापरल्या जाणाऱ्या स्वयंचलित प्रणालीशी संबंधित आहे 2018 आणि 2022 संभाव्य फसव्या किंवा समस्याग्रस्त ड्रायव्हर वर्तन ओळखण्यासाठी.

भाडे वाढवण्यासाठी कथितपणे अनावश्यक वळसा मारणे किंवा पूर्ण करण्याच्या हेतूशिवाय राइड्स स्वीकारणे यासारख्या क्रियाकलापांना ध्वजांकित करण्यासाठी तंत्रज्ञानाचा वापर केला गेला. या स्वयंचलित मूल्यांकनांच्या आधारे काही चालकांना तात्पुरते निलंबित करण्यात आले.

तथापि, नियामकांनी अशा परिस्थितींबद्दल चिंता व्यक्त केली ज्यामध्ये अर्थपूर्ण मानवी हस्तक्षेपाशिवाय स्वयंचलित प्रणालींचा एखाद्या व्यक्तीच्या उपजीविकेवर महत्त्वपूर्ण परिणाम होऊ शकतो.

GDPR नियम लोकांचे स्वयंचलित निर्णयांपासून संरक्षण करतात

वादाच्या केंद्रस्थानी युरोपच्या अंतर्गत तरतुदी आहेत सामान्य डेटा संरक्षण नियमन (GDPR) स्वयंचलित निर्णय घेण्यावर नियंत्रण ठेवणे.

नियम कंपन्यांना केवळ स्वयंचलित प्रक्रियेवर आधारित निर्णय घेण्यापासून प्रतिबंधित करतात जेव्हा त्या निर्णयांचा व्यक्तींवर महत्त्वपूर्ण प्रभाव पडतो. लोक सामान्यत: अर्थपूर्ण मानवी हस्तक्षेप आणि त्यांना प्रभावित करणाऱ्या निर्णयांना आव्हान देण्याची संधी मिळवण्याचा हक्क देतात.

डच नियामकाने असा युक्तिवाद केला की Uber चा दृष्टीकोन त्याच्या तपासात समाविष्ट असलेल्या प्रकरणांमध्ये त्या आवश्यकतांची पुरेशी पूर्तता करत नाही.

ड्रायव्हर्स अचानक त्यांचे उत्पन्न गमावू शकतात

ही समस्या विशेषतः महत्त्वाची आहे कारण Uber ड्रायव्हर्स पैसे कमावण्यासाठी प्लॅटफॉर्मवर प्रवेशावर अवलंबून असतात.

त्यामुळे खाते निलंबित किंवा निष्क्रिय करण्याच्या निर्णयाचा तात्काळ आर्थिक परिणाम होऊ शकतो. नियामकांनी असा युक्तिवाद केला की असे परिणामकारक निर्णय योग्य मानवी देखरेखीशिवाय कार्यरत अल्गोरिदमवर सोडले जाऊ नयेत.

हे प्रकरण रोजगार आणि गिग-इकॉनॉमी प्लॅटफॉर्ममध्ये AI च्या वापराभोवती वाढत्या चिंतेवर प्रकाश टाकते: अल्गोरिदम मोठ्या प्रमाणावर माहितीवर द्रुतपणे प्रक्रिया करू शकतात, परंतु चुका किंवा अपारदर्शक निर्णय कामगारांसाठी गंभीर परिणाम करू शकतात.

उबरने निष्कर्षांवर विवाद केला

उबेरने नियामकाचे निष्कर्ष ठामपणे नाकारले आहेत आणि दंडाचे वर्णन विषम आहे.

कंपनी म्हणते की तिच्या धोरणांमध्ये मानवी पुनरावलोकने आणि ड्रायव्हर्सना निलंबनाला आव्हान देण्याची संधी समाविष्ट आहे. Uber ने हे देखील कायम ठेवले आहे की बहुतेक फसवणूक-संबंधित निलंबन तात्पुरते होते आणि कायमस्वरूपी निष्क्रियतेमध्ये मानवी पुनरावलोकन समाविष्ट होते.

कंपनीने निर्णयावर अपील करण्याची योजना आखली आहे, याचा अर्थ हा वाद युरोपियन कायदेशीर आणि नियामक प्रणालीद्वारे चालू राहू शकेल.

किती वाहनचालक प्रभावित झाले?

नियामकाच्या तपासणीमध्ये संपूर्ण युरोपमधील ड्रायव्हर्सचा समावेश असलेल्या स्वयंचलित निर्णयांचा समावेश आहे.

Uber ने असा युक्तिवाद केला आहे की कायमस्वरूपी प्रभावित झालेल्या ड्रायव्हर्सची संख्या तुलनेने मर्यादित आहे. कंपनीच्या म्हणण्यानुसार, कमी ग्राहक रेटिंगमुळे 2021 मध्ये संपूर्ण युरोपमधील 126 ड्रायव्हर्स निष्क्रिय करण्यात आलेकायमस्वरूपी निष्क्रियतेसाठी जबाबदार असल्याने नियामकाने आपल्या स्वयंचलित सिस्टमच्या वैशिष्टीकरणावर विवाद केला.

ऑटोमेटेड सिस्टीम्स नेमक्या कशा वापरल्या गेल्या याविषयी मतभेद त्यामुळे उबेरच्या आवाहनाचा एक महत्त्वाचा भाग राहण्याची शक्यता आहे.

एआय वापरणाऱ्या कंपन्यांसाठी चेतावणी

या प्रकरणाचा उबेरच्या पलीकडे परिणाम होऊ शकतो.

नोकरी अर्जदारांची तपासणी करण्यासाठी, कामगारांवर नजर ठेवण्यासाठी, फसवणूक शोधण्यासाठी, कामगिरीचे मूल्यांकन करण्यासाठी आणि खाते-व्यवस्थापनाचे निर्णय घेण्यासाठी कंपन्या AI आणि स्वयंचलित प्रणालींचा वापर वाढवत आहेत. नियामक आता पुरेशा मानवी सहभागाशिवाय अशा प्रणाली उच्च-प्रभावपूर्ण निर्णय घेऊ शकतात की नाही यावर बारकाईने लक्ष देत आहेत.

Uber प्रकरण एक स्पष्ट संदेश पाठवते: निर्णय घेण्यासाठी AI वापरल्याने कार्यक्षमता सुधारू शकते, परंतु कंपन्या त्या निर्णयांच्या परिणामांची जबाबदारी टाळू शकत नाहीत.

एआय आणि मानवी निरीक्षणाभोवतीचा मोठा वाद

या वादामुळे कंपन्यांनी अल्गोरिदमला किती अधिकार द्यावेत असा व्यापक प्रश्नही निर्माण होतो.

AI नमुने ओळखू शकते आणि संशयास्पद वर्तन मानवी संघांपेक्षा खूप वेगाने ध्वजांकित करू शकते. परंतु जेव्हा परिणाम हे ठरवू शकतो की कोणीतरी काम करू शकते, पैसे कमवू शकते किंवा एखाद्या अत्यावश्यक सेवेत प्रवेश करू शकते, तेव्हा नियामकांनी वाढत्या प्रमाणात मानव गुंतून राहण्याची अपेक्षा केली आहे.

Uber साठी, आर्थिक दंड भरीव आहे. विस्तीर्ण तंत्रज्ञान उद्योगासाठी, तथापि, हे प्रकरण आणखी महत्त्वाचे ठरू शकते कारण कंपन्या लोकांच्या जीवनावर थेट परिणाम करणारे निर्णय अधिकाधिक स्वयंचलित करतात.

सारांश

Uber ला डच डेटा प्रोटेक्शन ऑथॉरिटीकडून €825 दशलक्ष, किंवा अंदाजे ₹9,000 कोटी, युरोपमधील ड्रायव्हर्स निलंबित किंवा निष्क्रिय करण्यासाठी वापरल्या जाणाऱ्या स्वयंचलित प्रणालींवरील दंडाचा सामना करावा लागतो. नियामकांनी सांगितले की ड्रायव्हर्सच्या आजीविकेवर परिणाम करणारे महत्त्वपूर्ण निर्णय पुरेसे मानवी निरीक्षणाचा अभाव आहे. उबेर निष्कर्षांवर विवाद करते, असे म्हणतात की कायमस्वरूपी बंदीमध्ये मानवी पुनरावलोकनाचा समावेश आहे आणि निर्णयाला अपील करण्याची योजना आहे.

प्रतिमा स्त्रोत