यूके 'न्युडिफाय' ॲप्सवर बंदी घालू पाहत आहे, भारतीय कायदा AI-व्युत्पन्न डीपफेक्सबद्दल काय म्हणतो?

By Marathi On Dec 22, 2025

जनरेटिव्ह AI चा वाढता गैरवापर म्हणजे “न्युडिफिकेशन” किंवा “डी-क्लोथिंग”, ही एक प्रक्रिया आहे जी तंत्रज्ञानाचा वापर करून वास्तविक फोटोंमधून कपडे डिजिटली काढून टाकते आणि हायपर-रिअलिस्टिक डीपफेक नग्न प्रतिमा तयार करते. पूर्णपणे बनावट असले तरी, या गैर-सहमतीने लैंगिकदृष्ट्या सुस्पष्ट प्रतिमा छळवणूक आणि प्रतिष्ठेला हानीच्या स्वरूपात गंभीर वास्तविक-जगातील हानी पोहोचवू शकतात.

आता, युनायटेड किंगडम महिला आणि मुलींवरील ऑनलाइन हिंसाचार 50 टक्क्यांनी कमी करण्याच्या व्यापक धोरणाचा भाग म्हणून तथाकथित नग्नीकरण किंवा नग्न ॲप्सवर बंदी आणण्याचा विचार करत आहे.

ब्रिटीश सरकारने गुरूवार, 18 डिसेंबर रोजी नवीन कायद्यांचा प्रस्ताव मांडला आहे ज्यामुळे कोणासाठीही AI-शक्तीवर चालणारी साधने विकसित करणे आणि वितरित करणे बेकायदेशीर ठरेल जे वापरकर्त्यांना विशेषतः एखाद्याचे कपडे काढण्यासाठी प्रतिमा सुधारित करू देतात. बंदी “न्युडिफाय” ॲप्स आणि वेबसाइट्सच्या निर्मिती आणि पुरवठ्यावर देखील लागू होईल.

इंटरनेटवर एआय-संचालित “न्युडिफाय” ॲप्सच्या प्रसारादरम्यान हे पाऊल पुढे आले आहे. इन्स्टाग्राम आणि इतर सोशल मीडिया प्लॅटफॉर्मवरील जाहिरातींद्वारे विद्यार्थ्यांनी या “न्युडिफाई” ॲप्स आणि वेबसाइट्सबद्दल जाणून घ्यायचे सुचवले आहे. युनायटेड स्टेट्समधील न्यू जर्सी सारख्या ठिकाणी काही कायदेशीर कारवाई करण्यास प्रवृत्त केले असताना, समीक्षकांनी चेतावणी दिली आहे की संरक्षण फारसे पुढे जात नाही.

त्याच वेळी, डिजिटल अधिकारांच्या वकिलांनी असा युक्तिवाद केला आहे की लैंगिकदृष्ट्या सुस्पष्ट डीपफेक शोधणे आणि काढून टाकणे या उपायांमुळे ओव्हररेचचा धोका असतो कारण त्यांचा वापर इतर प्रकारच्या सामग्री सेन्सॉर करण्यासाठी सरकारद्वारे केला जाऊ शकतो.

“महिला आणि मुली ऑनलाइन तसेच ऑफलाइन सुरक्षित राहण्यास पात्र आहेत. तंत्रज्ञानाचा गैरवापर, अपमान करणे आणि गैर-सहमतीने लैंगिकदृष्ट्या स्पष्ट डीपफेक तयार करून त्यांचे शोषण करण्यासाठी तंत्रज्ञान वापरले जात असताना आम्ही उभे राहणार नाही,” यूकेच्या तंत्रज्ञान सचिव लिझ केंडल यांनी उद्धृत केले. बीबीसी.

“उत्पादन म्हणून अस्तित्वात असण्याचे कारण नसलेल्या या तथाकथित न्युडिफिकेशन ॲप्सवर बंदी घालण्यासाठी ठोस पावले उचलताना आम्हाला आनंद होत आहे. यासारख्या ॲप्समुळे खऱ्या मुलांना हानी होण्याचा धोका अधिक असतो आणि आम्ही इंटरनेटच्या काही अंधाऱ्या कोपऱ्यांमध्ये निर्माण केलेल्या प्रतिमांची कापणी होताना पाहतो,” केरी स्मिथ, इंटरनेट वॉच फाउंडेशन (IWF) चे मुख्य कार्यकारी अधिकारी म्हणाले. 18 वर्षांखालील मुलांसाठी IWF ने स्थापन केलेल्या हेल्पलाईनमध्ये स्वत:च्या सुस्पष्ट प्रतिमांचा ऑनलाइन गोपनीयपणे अहवाल देण्यासाठी 19 टक्क्यांहून अधिक अहवाल हाताळलेल्या इमेजरीशी संबंधित आहेत.

या वर्षी एप्रिलमध्ये, इंग्लंडच्या मुलांचे आयुक्त रॅचेल डी सूझा यांनी “न्युडिफिकेशन” ॲप्सवर संपूर्ण बंदी घालण्याची मागणी केली. “अशी प्रतिमा बनवण्याची कृती योग्यरित्या बेकायदेशीर आहे – ती सक्षम करणारे तंत्रज्ञान देखील असले पाहिजे,” ती म्हणाली.

UK ची 'nudify' ॲप्सवरील बंदी कशी लागू होईल?

यूकेच्या ऑनलाइन सुरक्षा कायद्यानुसार, एखाद्या व्यक्तीच्या संमतीशिवाय त्यांची स्पष्ट प्रतिमा तयार करणे हा आधीच फौजदारी गुन्हा आहे. “न्युडिफाई” ॲप्सवर संपूर्ण बंदी घालण्याचा प्रस्ताव असलेले नवीन कायदे लैंगिकदृष्ट्या स्पष्ट डीपफेक आणि अंतरंग प्रतिमा गैरवर्तनाच्या आसपासच्या विद्यमान नियमांवर आधारित असतील, असे ब्रिटिश सरकारने म्हटले आहे.

सरकार SafeToNet या यूके-आधारित सेफ्टी टेक फर्मसोबत देखील काम करत आहे ज्याने लैंगिक सामग्री ओळखण्यासाठी आणि ब्लॉक करण्यासाठी AI टूल्स विकसित केली आहेत, तसेच लैंगिक सामग्री कॅप्चर केली जात असल्याचे आढळल्यावर कॅमेरे ब्लॉक केले आहेत. Meta सारख्या टेक दिग्गजांनी प्रतिमांमधील संभाव्य नग्नता शोधण्यासाठी आणि ध्वजांकित करण्यासाठी फिल्टर देखील आणले आहेत, बहुतेकदा मुलांना स्वतःच्या अंतरंग प्रतिमा घेणे किंवा सामायिक करणे थांबवण्याच्या उद्देशाने.

या वर्षी जूनमध्ये, मेटाने सांगितले की त्यांनी CrushAI ॲप डेव्हलपर जॉय टाइमलाइन HK लिमिटेड विरुद्ध दावा दाखल केला आहे की हाँगकाँग-आधारित कंपनी अनेक “न्युडिफाय” ॲप्सच्या मागे आहे आणि मेटा च्या प्लॅटफॉर्मवर, जसे की Instagram आणि Facebook वर या ॲप्सचा प्रचार करणाऱ्या जाहिराती चालवल्या आहेत.

भारत AI-व्युत्पन्न डीपफेक्सचा कसा सामना करत आहे?

या वर्षी ऑक्टोबरमध्ये, केंद्राने माहिती तंत्रज्ञान (मध्यस्थ मार्गदर्शक तत्त्वे आणि डिजिटल मीडिया आचारसंहिता) नियम 2021 मध्ये सुधारणांचा मसुदा प्रस्तावित केला. या प्रस्तावित नियमांसाठी YouTube आणि Instagram सारख्या सोशल मीडिया प्लॅटफॉर्मने अपलोड केलेली सामग्री “सिंथेटिकली व्युत्पन्न केलेली माहिती” आहे की नाही याबद्दल वापरकर्त्यांकडून घोषणा घेणे आवश्यक आहे.

जर वापरकर्त्याने घोषित केले की अपलोड केलेली सामग्री AI-व्युत्पन्न आहे, तर प्लॅटफॉर्मने हे सुनिश्चित करणे आवश्यक आहे की अशा सामग्रीवर ठळकपणे AI-व्युत्पन्न केलेले किंवा कायमस्वरूपी, अद्वितीय मेटाडेटा किंवा अभिज्ञापकासह एम्बेड केलेले आहे.

आयटी नियम 2021 आधीपासून सोशल मीडिया मध्यस्थांना न्यायालयाचा आदेश किंवा सरकार किंवा त्याच्या एजन्सीकडून सूचना मिळाल्यानंतर 36 तासांच्या आत AI-व्युत्पन्न डीपफेक काढून टाकणे अनिवार्य आहे. ते पालन करण्यात अयशस्वी झाल्यास, प्लॅटफॉर्म तृतीय-पक्ष सामग्रीबद्दल त्यांना लाभलेली कायदेशीर प्रतिकारशक्ती गमावू शकतात.

!function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function(){n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version='2.0'; n.queue=[];t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)[0]; s.parentNode.insertBefore(t,s)}(विंडो, दस्तऐवज,'स्क्रिप्ट', ' fbq('init', '444470064056909'); fbq('ट्रॅक', 'पेजव्ह्यू');