इंग्लंडचे चिल्ड्रन कमिशनर सरकारला मुलांच्या लैंगिक सुस्पष्ट प्रतिमा तयार करण्यासाठी कृत्रिम बुद्धिमत्ता (एआय) वापरणार्‍या अॅप्सवर बंदी घालण्याचे आवाहन करीत आहे.
डेम राहेल डी सौझा म्हणाले की अॅप्सवर एकूण बंदी आवश्यक आहे ज्यामुळे “नग्नता” मिळू शकते – जिथे वास्तविक लोकांचे फोटो एआयने नग्न दिसू शकतील.
ती म्हणाली की सरकार अशा अॅप्सला “अत्यंत वास्तविक जगाच्या परिणामासह अनचेक” करण्यास परवानगी देत आहे.
सरकारी प्रवक्त्याने सांगितले की बाल लैंगिक अत्याचाराची सामग्री बेकायदेशीर आहे आणि अशी सामग्री तयार करण्यासाठी डिझाइन केलेले एआय साधने तयार करणे, असणे किंवा वितरित करण्याच्या पुढील गुन्ह्यांची योजना आहे.
डीपफेक्स हे व्हिडीओ, चित्रे किंवा ऑडिओ क्लिप्स आहेत जे एआय सह बनविलेले किंवा वास्तविक आवाज आहेत.
मध्ये सोमवारी प्रकाशित केलेला अहवाल, डेम राहेल म्हणाले की हे तंत्रज्ञान मुली आणि युवतींना असंख्यपणे लक्ष्य करीत आहे जे अनेक बेस्पोक अॅप्स आहेत जे केवळ महिला शरीरावर काम करतात.
अहवालानुसार, मुलींनी लक्ष्यित होण्याचा धोका कमी करण्यासाठी मुली सक्रियपणे प्रतिमा पोस्ट करणे किंवा ऑनलाइन गुंतवून ठेवत आहेत, “ज्या प्रकारे मुली इतर नियमांचे पालन करतात ज्याप्रमाणे ऑफलाइन जगात स्वत: ला सुरक्षित ठेवण्यासाठी – जसे रात्री एकट्या घरी न चालत नाही”.
मुलांना “एक अनोळखी, एक वर्गमित्र किंवा अगदी मित्र” अशी भीती वाटत होती की लोकप्रिय शोध आणि सोशल मीडिया प्लॅटफॉर्मवर आढळू शकणार्‍या तंत्रज्ञानाचा वापर करून त्यांना लक्ष्य केले जाऊ शकते.
डेम राहेल म्हणाले: “या साधनांची उत्क्रांती इतक्या प्रमाणात आणि वेगात घडत आहे की त्यांनी उपस्थित असलेल्या धोक्याची पकड आणि पकड मिळविणे खूप जबरदस्त असू शकते.
“आम्ही मागे बसून या बेस्पोक एआय अॅप्सना मुलांच्या जीवनावर धोकादायक पकडण्याची परवानगी देऊ शकत नाही.”
हे अंतर्गत बेकायदेशीर आहे ऑनलाइन सुरक्षा कायदा स्पष्ट डीपफेक प्रतिमा सामायिक करण्यासाठी किंवा धमकी देण्यासाठी.
सरकारने फेब्रुवारीमध्ये जाहीर केले एआय द्वारे व्युत्पन्न होणार्‍या बाल लैंगिक अत्याचार प्रतिमांच्या धमकीचा सामना करण्यासाठी कायदे, ज्यामध्ये अशी सामग्री तयार करण्यासाठी डिझाइन केलेले एआय साधने ताब्यात घेणे, तयार करणे किंवा वितरित करणे बेकायदेशीर बनविणे समाविष्ट आहे.
डेम राहेल म्हणाली की हे फारसे पुढे जात नाही, तिच्या प्रवक्त्याने बीबीसीला सांगितले: “बाल लैंगिक अत्याचार जनरेटर म्हणून वर्गीकृत केलेले कोणतेही अ‍ॅप्सच नव्हे तर कोणतेही अॅप्स नसावेत.”
फेब्रुवारीमध्ये इंटरनेट वॉच फाउंडेशन (आयडब्ल्यूएफ)-टेक फर्मने अंशतः अर्थसहाय्यित यूके-आधारित धर्मादाय संस्थेने २०२24 मध्ये एआय-व्युत्पन्न बाल लैंगिक अत्याचार केल्याच्या २55 अहवालांची पुष्टी केली होती.
आयडब्ल्यूएफचे अंतरिम मुख्य कार्यकारी डेरेक रे-हिल यांनी सोमवारी सांगितले की, “आम्हाला माहित आहे की शाळांमध्ये या अॅप्सचा गैरवापर केला जात आहे आणि ती प्रतिमा पटकन नियंत्रणातून बाहेर पडली आहे.”
विज्ञान, नाविन्य आणि तंत्रज्ञान विभागाच्या प्रवक्त्याने सांगितले की एआय-व्युत्पन्न प्रतिमांसह मुलांच्या लैंगिक अत्याचाराची सामग्री तयार करणे, असणे किंवा वितरित करणे, “घृणास्पद आणि बेकायदेशीर” आहे.
ते म्हणाले, “सर्व आकारांच्या ऑनलाइन सेफ्टी अ‍ॅक्ट प्लॅटफॉर्मवर आता या प्रकारची सामग्री काढून टाकावी लागेल किंवा त्यांना महत्त्वपूर्ण दंड भरावा लागेल.”
“यूके हा जगातील पहिला देश आहे जो पुढील एआय बाल लैंगिक अत्याचाराच्या गुन्ह्यांचा परिचय करून देतो – यामुळे मुलांच्या लैंगिक अत्याचाराची सामग्री तयार करण्यासाठी डिझाइन केलेले एआय साधने ताब्यात घेणे, तयार करणे किंवा वितरित करणे बेकायदेशीर बनले आहे.”
डेम राहेल यांनी सरकारलाही हे बोलावले:
- जनरेटिंग एआय टूल्सच्या विकसकांवर कायदेशीर जबाबदा .्या लादतात आणि त्यांच्या उत्पादनांना मुलांना होणार्‍या जोखमीची ओळख पटविण्यासाठी आणि त्याकडे लक्ष वेधण्यासाठी आणि त्या जोखमीस कमी करण्यात कारवाई करा
- इंटरनेटवरून मुलांच्या लैंगिक सुस्पष्ट दीपफेक प्रतिमा काढण्यासाठी एक प्रणालीगत प्रक्रिया सेट करा
- महिला आणि मुलींविरूद्ध हिंसाचाराचा एक प्रकार म्हणून दीपफेक लैंगिक अत्याचारास ओळखा
स्कूल लीडर्स युनियनचे सरचिटणीस पॉल व्हाइटमॅन म्हणाले की, सदस्यांनी आयुक्तांच्या चिंता सामायिक केल्या.
ते म्हणाले: “हे असे क्षेत्र आहे ज्याचा त्वरित आढावा घेण्याची आवश्यकता आहे कारण तंत्रज्ञानाने त्याभोवती कायदा आणि शिक्षणाचा धोका पत्करला आहे.”
मीडिया रेग्युलेटर ऑफकॉमने प्रकाशित केले शुक्रवारी त्याच्या मुलांच्या कोडची अंतिम आवृत्तीजे मुलांद्वारे प्रवेश रोखण्यासाठी अधिक कारवाई करण्यासाठी, पोर्नोग्राफी आणि सेल्फ-हानी, आत्महत्या किंवा खाण्याच्या विकारांना प्रोत्साहित करणारी सामग्री होस्टिंग प्लॅटफॉर्मवर कायदेशीर आवश्यकता ठेवते.
वेबसाइट्सने बीफ-अप वय तपासणीची ओळख करुन दिली पाहिजे किंवा मोठ्या दंडाचा सामना करावा लागतो, असे नियामकाने सांगितले.
डेम राहेल यांनी या कोडवर टीका केली आहे की ते “मुलांच्या सुरक्षिततेपेक्षा तंत्रज्ञान कंपन्यांच्या व्यावसायिक हितसंबंधांना प्राधान्य देतात”.
Comments are closed.