संगतीचा परिणाम! AI मानवाकडूनच लैंगिक आणि वांशिक पूर्वग्रह शिकतोय, UNच्या रिपोर्टमधून धक्कादायक दावा

A man known by the company he keeps अशी इंग्रजी म्हण आहे. पण हे केवळ माणसांच्याच नाही तर AI (एआय) च्या बाबतीत देखील होताना दिसत आहे. संयुक्त राष्ट्रांच्या (युएन) एका नवीन अहवालात असे म्हटले आहे की, मानवामध्ये असलेले लैंगिक आणि वाशिंक पूर्वग्रह हे आता AI देखील शिकत आहे. पारंपरिक पद्धतीने स्त्री ही चूल आणि मूल यामध्येच अडकलेली होती. अजूनही बऱ्याच भागात स्त्रीला अशाच रुपात पाहिले जाते. त्यामुळे तशा प्रकाचे विचार फोटो, व्हिडीओ, ऑडिओ आणि टेक्स्टच्या रुपात एआयपर्यंत पोहोचत आहेत. याचाच परिणाम आता एआयच्या उत्तरांमध्ये दिसू लागला आहे.

यासाठी संशोधकांनी १३३ एआय प्रणालींचा अभ्यास केला आणि त्यापैकी जवळपास अर्ध्या (४४ टक्के) प्रणालींमध्ये लैंगिक पूर्वग्रह दिसून आला, तर एक चतुर्थांशपेक्षा जास्त प्रणालींमध्ये लैंगिक आणि वांशिक दोन्ही पूर्वग्रह आढळून आले. ‘लार्ज लँग्वेज मॉडेल्सनी (LLMs) वारंवार महिलांना घर, कुटुंब आणि मुलांची काळजी घेण्याशी जोडले आहे तर, पुरुष मात्र उद्योग, नोकरी, नेतृत्व आणि वेगवेगळ्या क्षेत्रातील करिअरमधील यश अशा विभागांमध्ये मोडत असल्याची नोंद केली आहे. ‘काही प्रकरणांमध्ये, एआय प्रणालींनी महिलांना लैंगिक वस्तू म्हणून किंवा पुरुषांच्या दुय्यम स्थानावर दाखवणारी उत्तरे तयार केली आहेत’, असे या अहवालात म्हटले आहे.

या अहवालाच्या मते, ‘संशोधकांनी लार्ज लँग्वेज मॉडेल्सना स्त्री-पुरुषांच्या संदर्भातील एखादे वाक्य सहज पूर्ण करण्यास सांगितले, तेव्हा पाचपैकी सुमारे एक उत्तर महिलांविषयी पूर्वग्रह दूषित किंवा महिलांचा द्वेष करणारे आले’. या संशोधन अहवालानुसार, काही उत्तरांमध्ये तर महिलांचे वर्णन प्रॉपर्टी (मालमत्ता) किंवा वस्तू म्हणून करण्यात आले होते.

आपण सतत ऐकत असतो की एआय माणसांपेक्षा जास्त हुशार होणार आहे, आणि एलन मस्क सारख्या लोकांचे तर म्हणणे आहे की, ते काही बाबतीत आधीच हुशार झाले आहे. परंतु, युएनच्या संशोधन अहवालाने निदर्शनास आणून दिले की, अब्जावधी लोकांकडून ईमेल लिहिण्यासाठी, प्रेझेंटेशन्स बनवण्यासाठी, कंटेंन्ट तयार करण्यासाठी आणि प्रश्नांची उत्तरे मिळवण्यासाठी एआयचा वापर जसजसा वाढत आहे, तसतशी ही असमानता देखील भेदभावावर आधारित अल्गोरिदमद्वारे अधिक घट्ट होत चालली आहे.

युएन संशोधकांच्या मते, हा कोणताही तांत्रिक बिघाड (बग) नाही तर, एआय इंटरनेटवरून हे सगळे शिकते आहे. इंटरनेटवर दशकांपासूनचे पूर्वग्रह, भेदभावाची भावना आणि रूढीवादी विचार भरलेले आहेत. त्यामुळे एआय जेव्हा मानवी इतिहासाच्या आधारे प्रशिक्षित होते तेव्हा, शेवटी ते मानवी पूर्वग्रहांचीच पुनरावृत्ती करू लागते.

युएनच्या डिजिटल टेक्नॉलॉजी विभागाच्या प्रमुख जयथ्मा विक्रमनायके यांनी सांगितले की, एआय मॉडेल्स ‘लोकांनी, लोकांबद्दल दशकांपासून लिहिलेल्या मजकुरातून हा पूर्वग्रह शिकतात. इंटरनेटवर अशी बरीच माहिती आहे ज्यामध्ये महिलांचे जीवन चूल आणि मूल क्षेत्राशी म्हणजे केवळ घरगुती गोष्टींशी जोडले आहे तर, पुरुषांचे जीवन हे नोकरी, व्यवसाय व करिअरशी जोडलेले आहे.’ महिलांना आधीच मोठ्या प्रमाणावर छळाचा सामना करावा लागत आहे. त्यातच एआयमुळे हिंसाचाराचे काही प्रकार पसरवणे अधिक सोपे होत असल्याचे या अहवालात म्हटले आहे.

युएन विमेन विभागाच्या डेटाचा विचार केला तर, सर्वेक्षण केलेल्या महिला मानवाधिकार कार्यकर्त्या, आंदोलक आणि महिला पत्रकारांपैकी जवळपास चारपैकी एका महिलेने एआय-सहाय्यित ऑनलाईन हिंसाचाराचा अनुभव घेतल्याचे सांगितले आहे. तर १२ टक्के महिलांनी सांगितले की, त्यांच्या संमतीशिवाय त्यांचे वैयक्तिक फोटो शेअर केले गेले. ६ टक्के महिलांनी सांगितले की, त्यांना डीपफेक किंवा छेडछाड केलेले फोटो आणि व्हिडिओंद्वारे लक्ष्य करण्यात आले.

संशोधकांना अनेक प्रणालींमध्ये वांशिक पूर्वग्रह देखील आढळून आला आहे. ज्यामुळे एआय केवळ महिलांबद्दलच नाही तर, समाजातील इतर अनेक घटकांबद्दलही पूर्वग्रह तयार करत आहे. विशिष्ट समाजांविषयी त्याचे मत अधिक घट्ट होण्याची शक्यता आहे, अशी चिंता संशोधकांनी व्यक्त केली आहे.