यूके कठोर चाचणीसह AI बाल लैंगिक शोषण प्रतिमा रोखण्याचा प्रयत्न करते

यूके सरकार टेक फर्म आणि बाल सुरक्षा धर्मादाय संस्थांना कृत्रिम बुद्धिमत्ता (AI) साधनांची सक्रियपणे चाचणी करण्याची परवानगी देईल जेणेकरून ते बाल लैंगिक शोषण प्रतिमा तयार करू शकत नाहीत.

बुधवारी जाहीर करण्यात आलेल्या क्राइम अँड पोलिसिंग विधेयकातील दुरुस्तीमुळे “अधिकृत परीक्षक” त्यांच्या रिलीझपूर्वी बेकायदेशीर बाल लैंगिक शोषण सामग्री (CSAM) व्युत्पन्न करण्याच्या क्षमतेसाठी मॉडेलचे मूल्यांकन करण्यास सक्षम होतील.

टेक्नॉलॉजी सेक्रेटरी लिझ केंडल यांनी सांगितले की, या उपाययोजनांमुळे “एआय सिस्टीम स्त्रोतावर सुरक्षित करता येतील” याची खात्री होईल – जरी काही प्रचारकांचा तर्क आहे की अजून काही करणे आवश्यक आहे.

इंटरनेट वॉच फाउंडेशन (IWF) ने सांगितले की AI-संबंधित CSAM अहवालांची संख्या गेल्या वर्षभरात दुप्पट झाली आहे.

चॅरिटी, जगातील काही मोजक्या संस्थांपैकी एक आहे, ज्याने ऑनलाइन बाल शोषण सामग्री सक्रियपणे शोधण्याचा परवाना दिला आहे, असे म्हटले आहे की त्यांनी जानेवारी ते ऑक्टोबर 2025 दरम्यान तक्रार केलेल्या सामग्रीचे 426 तुकडे काढून टाकले आहेत.

2024 मध्ये याच कालावधीत 199 च्या तुलनेत हे प्रमाण वाढले आहे, असे त्यात म्हटले आहे.

त्याचे मुख्य कार्यकारी केरी स्मिथ यांनी सरकारच्या प्रस्तावांचे स्वागत केले, ते म्हणाले की ते ऑनलाइन CSAM चा सामना करण्यासाठी दीर्घकाळ चाललेल्या प्रयत्नांना चालना देतील.

“AI टूल्सने असे केले आहे की काही क्लिक्सवर वाचलेल्यांना पुन्हा एकदा बळी पडू शकतो, गुन्हेगारांना संभाव्य अमर्याद प्रमाणात अत्याधुनिक, फोटोरिअलिस्टिक बाल लैंगिक शोषण सामग्री बनवण्याची क्षमता देते,” ती म्हणाली.

“एआय उत्पादने रिलीझ होण्यापूर्वी सुरक्षित आहेत याची खात्री करण्यासाठी आजची घोषणा ही एक महत्त्वाची पायरी असू शकते.”

राणी गोवेंदर, मुलांच्या चॅरिटी, NSPCC मधील मुलांच्या सुरक्षेसाठी ऑनलाइन पॉलिसी मॅनेजर, कंपन्यांना त्यांच्या मॉडेल्स आणि मुलांच्या सुरक्षेबद्दल अधिक उत्तरदायित्व आणि छाननी करण्यास प्रोत्साहित करण्याच्या उपायांचे स्वागत केले.

“परंतु मुलांसाठी वास्तविक फरक करण्यासाठी, हे पर्यायी असू शकत नाही,” ती म्हणाली.

“सरकारने हे सुनिश्चित केले पाहिजे की AI विकसकांसाठी ही तरतूद वापरण्यासाठी एक अनिवार्य कर्तव्य आहे जेणेकरून बाल लैंगिक शोषणापासून संरक्षण करणे हे उत्पादन डिझाइनचा एक आवश्यक भाग आहे.”

सरकारने म्हटले आहे की कायद्यातील प्रस्तावित बदल AI विकासक आणि धर्मादाय संस्थांना हे सुनिश्चित करण्यासाठी सुसज्ज करतील की एआय मॉडेल्सना अत्यंत पोर्नोग्राफी आणि असहमती नसलेल्या अंतरंग प्रतिमांच्या आसपास पुरेसे संरक्षण आहे.

बाल सुरक्षा तज्ञ आणि संस्थांनी वारंवार चेतावणी दिली आहे की विकसित केलेल्या AI साधनांचा अंशतः, मोठ्या प्रमाणात ऑनलाइन सामग्री वापरून मुलांची किंवा गैर-संमती नसलेल्या प्रौढांची अत्यंत वास्तववादी गैरवर्तन प्रतिमा तयार करण्यासाठी वापरली जात आहे.

काही, IWF सह आणि चाइल्ड सेफ्टी चॅरिटी थॉर्न यांनी म्हटले आहे की, अशा प्रकारची सामग्री खरी आहे की AI-व्युत्पन्न आहे हे ओळखणे कठीण करून अशा सामग्रीच्या पोलिसांच्या प्रयत्नांना धोका निर्माण होतो.

संशोधकांनी सुचवले आहे की या प्रतिमांना ऑनलाइन मागणी वाढत आहे, विशेषतः गडद वेबवरआणि काही जात आहेत मुलांनी तयार केले.

या वर्षाच्या सुरुवातीला, गृह कार्यालयाने सांगितले की, बाल लैंगिक शोषण सामग्री (CSAM) तयार करण्यासाठी डिझाइन केलेली AI साधने बाळगणे, तयार करणे किंवा वितरित करणे बेकायदेशीर ठरवणारा यूके हा जगातील पहिला देश असेल, ज्याला पाच वर्षांपर्यंत तुरुंगवासाची शिक्षा होईल.

सुश्री केंडल यांनी बुधवारी सांगितले की, “विश्वसनीय संस्थांना त्यांच्या AI मॉडेल्सची छाननी करण्यासाठी सक्षम करून, आम्ही मुलांच्या सुरक्षिततेची AI सिस्टीममध्ये रचना केली आहे, नंतरचा विचार म्हणून पुढे ढकलले जाणार नाही” हे सुनिश्चित करत आहोत.

ती म्हणाली, “आम्ही तांत्रिक प्रगतीला मुलांना सुरक्षित ठेवण्याच्या आमच्या क्षमतेच्या पुढे जाऊ देणार नाही.

संरक्षण मंत्री जेस फिलिप्स म्हणाले की या उपायांचा अर्थ असा आहे की “कायदेशीर एआय टूल्सची नीच सामग्री तयार करण्यासाठी फेरफार करता येणार नाही आणि परिणामी अधिक मुलांचे शिकारीपासून संरक्षण केले जाईल”.