लोकांच्या संमतीशिवाय बनावट लैंगिक प्रतिमा तयार करण्यासाठी वापरल्या जाणाऱ्या साधनाबद्दल गंभीर चिंता निर्माण झाल्यानंतर दक्षिण कोरियाच्या प्रायव्हसी वॉचडॉगने ग्रोक या xAI द्वारे तयार केलेल्या AI चॅटबॉटचा शोध सुरू केला आहे.
वैयक्तिक माहिती संरक्षण आयोगाने स्पष्ट डीपफेक सामग्री तयार करण्यात ग्रोकचा सहभाग असल्याच्या अहवालानंतर प्राथमिक तपास सुरू केला. इलेक्ट्रॉनिक टाईम्सने वृत्त दिले आहे की अधिकारी प्रथम उल्लंघन खरोखर झाले आहे का ते तपासत आहेत आणि पूर्ण तपासणीसह पुढे जाण्यापूर्वी त्यांना कारवाई करण्याचे अधिकार आहेत का.
समस्या या दाव्यांवर केंद्रित आहे की लोक मुलांसह वास्तविक व्यक्तींच्या अयोग्य डीपफेक प्रतिमा तयार करण्यासाठी Grok वापरत आहेत. या चिंताजनक अहवालांनी जगभरातील नियामकांचे लक्ष वेधून घेतले आहे, ज्यामुळे AI काय करू शकते ते जवळून पाहण्यास प्रवृत्त केले.
कोरियन कायदा या विषयावर खूपच स्पष्ट आहे. वैयक्तिक माहिती संरक्षण कायदा म्हणतो की तुम्ही ओळखू शकणाऱ्या एखाद्याची लैंगिक प्रतिमा त्यांच्या परवानगीशिवाय तयार करणे किंवा बदलणे बेकायदेशीर आहे. इतर देश तत्सम परिस्थिती कशा हाताळत आहेत यावर लक्ष ठेवून Grok जे काही स्पष्टीकरण आणि दस्तऐवज प्रदान करते त्याचे पुनरावलोकन करण्याची आयोगाची योजना आहे.
xAI आंतरराष्ट्रीय तपासादरम्यान Grok प्रतिमा निर्मिती प्रतिबंधित करते
Grok X चा भाग म्हणून काम करते, पूर्वी Twitter म्हणून ओळखले जाणारे सोशल मीडिया प्लॅटफॉर्म. ते मजकूर आणि प्रतिमा दोन्ही तयार करू शकते, जिथे समस्या सुरू झाली. गेल्या वर्षाच्या उत्तरार्धापासून डीपफेक प्रतिमा बनवल्याबद्दल लोक त्यावर टीका करत आहेत.
आकडे धक्कादायक आहेत. सेंटर फॉर काउंटरिंग डिजिटल हेट या जागतिक ना-नफा गटाचा अंदाज आहे की ग्रोकने 29 डिसेंबर 2025 आणि या वर्षी 8 जानेवारी दरम्यान सुमारे 3 दशलक्ष लैंगिक सुस्पष्ट प्रतिमा तयार केल्या आहेत. त्याहूनही वाईट गोष्ट म्हणजे त्यातील 23,000 प्रतिमांमध्ये मुलांचा समावेश आहे.
संस्थेने चेतावणी दिली की या एआय-व्युत्पन्न प्रतिमा वेगाने ऑनलाइन पसरत आहेत, ज्यामुळे मुलांच्या सुरक्षिततेसाठी गंभीर धोका निर्माण होत आहे. हे फक्त एकाच प्लॅटफॉर्मवर घडत नाही – सुस्पष्ट सामग्री संपूर्ण इंटरनेटवर फिरत आहे.
कारवाई करण्यात दक्षिण कोरिया एकटा नाही. इतर अनेक देश ग्रोकची चौकशी करत आहेत. युनायटेड स्टेट्स, युनायटेड किंगडम, फ्रान्स आणि कॅनडा या सर्वांनी त्यांची स्वतःची पुनरावलोकने सुरू केली आहेत. दरम्यान, इंडोनेशिया, मलेशिया आणि फिलीपिन्सने ग्रोकमध्ये प्रवेश पूर्णपणे रोखण्याचा निर्णय घेतला.
जगभरातील या सर्व दबावाचा सामना करत, xAI ने या महिन्याच्या सुरुवातीला सांगितले की त्यात काही बदल केले आहेत. कंपनीने जाहीर केले की ते आता विनामूल्य आणि सशुल्क वापरकर्त्यांना वास्तविक लोकांच्या प्रतिमा संपादित किंवा बनविण्यापासून प्रतिबंधित करते. त्यांनी आश्वासन दिले की अधिक सुरक्षा वैशिष्ट्ये लवकरच येत आहेत.
दक्षिण कोरियाच्या नियामकांनी X दोन-आठवड्याची मुदत सुरक्षिततेच्या कारणास्तव दिली आहे
दक्षिण कोरियाच्या मीडिया आणि कम्युनिकेशन्स कमिशननेही यात सहभाग घेतला आहे. 14 जानेवारी रोजी, त्यांनी X ला सांगितले की तरुण लोकांचे संरक्षण करण्यासाठी अधिक चांगले करणे आवश्यक आहे. नियामकाने बेकायदेशीर किंवा हानिकारक सामग्री तयार होण्यापासून थांबवण्यासाठी आणि अल्पवयीन मुलांना अशा सामग्रीपासून दूर ठेवण्यासाठी एक ठोस योजना आणावी अशी इच्छा आहे.
सध्या, X युवा संरक्षण अधिकारी ठेवून आणि वार्षिक अहवाल पाठवून कोरियन कायद्याचे पालन करतो. परंतु आयोगाला विशेषत: Grok वापरकर्त्यांना कसे सुरक्षित ठेवते याबद्दल अधिक माहिती हवी आहे.
रेग्युलेटरने स्पष्ट केले की, विशेषत: मुलांची असहमत लैंगिक प्रतिमा तयार करणे आणि सामायिक करणे हा कोरियामध्ये गुन्हा आहे. X ला प्रतिसाद देण्यासाठी दोन आठवडे आहेत. कंपनी विनंतीला प्रतिसाद देण्यात अयशस्वी झाल्यास किंवा त्याकडे दुर्लक्ष केल्यास, कंपनीला जास्तीत जास्त 10 दशलक्ष वॉन दंड आकारला जाऊ शकतो, जे अंदाजे $6,870 आहे.
हा एक मार्ग आहे ज्यामध्ये सरकारला AI च्या तंत्रज्ञानासोबत राहणे कठीण होत आहे. जरी AI साधने सर्जनशील कार्ये आणि कामे पूर्ण करण्यासाठी खूप फायदेशीर आहेत, परंतु लोक त्यांचा गैरवापर करत असल्यास ते नुकसान देखील करू शकतात.
या विशिष्ट घटनेमुळे तंत्रज्ञान कंपन्यांनी एआय विकसित करताना काय केले पाहिजे याबद्दल मोठे प्रश्न निर्माण होतात. AI ची शक्ती वाढत असताना, लोकांना तंत्रज्ञानाचा चांगल्यासाठी वापर करण्याची परवानगी देऊन दुर्भावनापूर्ण वापरकर्त्यांना प्रतिबंध करणारे मजबूत सुरक्षा उपाय विकसित करण्यासाठी कंपन्यांवर खूप दबाव असतो.
डीपफेकच्या युगात दक्षिण कोरिया एआय उत्तरदायित्वाची व्याख्या कशी करत आहे
दक्षिण कोरियासाठी, ही समस्या घराच्या अगदी जवळ आहे. देश अनेक वर्षांपासून डिजिटल लैंगिक गुन्ह्यांचा अनुभव घेत आहे आणि सहमत नसलेल्या अंतरंग प्रतिमांचे वितरण दडपण्याचा सर्वतोपरी प्रयत्न करत आहे. त्यामुळे सरकार या प्रकरणाची गंभीर दखल घेत आहे.
या तपासणीचे परिणाम भविष्यात महत्त्वपूर्ण असू शकतात. नियामक ज्या पद्धतीने ग्रोकशी वागतात ते AI कंपन्यांच्या नियमनासाठी आणि त्यांच्या तंत्रज्ञानाद्वारे तयार केलेल्या सामग्रीसाठी त्यांच्याकडे असलेल्या जबाबदारीसाठी एक आदर्श ठेवू शकतात.
Comments are closed.