यूकेच्या इंटरनेट वॉचडॉगने डीपफेक अश्लील दृष्टिकोनातून कठीण केले

ऑफकॉम, यूकेच्या इंटरनेट सेफ्टी रेग्युलेटरने, आणखी एक नवीन मसुदा मार्गदर्शन प्रकाशित केले आहे कारण ते ऑनलाईन सेफ्टी अ‍ॅक्ट (ओएसए) अंमलात आणत आहे-या शिफारसींचा नवीनतम संच महिला आणि मुलींना ऑनलाइनपासून वाचवण्यासाठी कायदेशीर जबाबदा .्या पूर्ण करण्यासाठी इन-स्कोप कंपन्यांना पाठिंबा देण्याचे उद्दीष्ट आहे. छळ आणि गुंडगिरी, मिसोगॉनी आणि जिव्हाळ्याच्या प्रतिमेचा गैरवापर यासारख्या धमक्या.

ओएसएच्या अंमलबजावणीसाठी महिला आणि मुलींचे संरक्षण करणे हे सरकारने म्हटले आहे. (प्रामुख्याने) मिसोगिनिस्ट गैरवर्तनाचे काही प्रकार – जसे की संमतीशिवाय जिव्हाळ्याची प्रतिमा सामायिक करणे किंवा व्यक्तींना लक्ष्य करणारे डीपफेक अश्लील तयार करण्यासाठी एआय साधने वापरणे – स्पष्टपणे कायद्यात नमूद केले आहे अंमलबजावणीची प्राथमिकता?

सप्टेंबर २०२23 मध्ये ब्रिटनच्या संसदेने मंजूर केलेल्या ऑनलाइन सुरक्षा नियमनात टीका झाली आहे की, प्लॅटफॉर्म दिग्गज सुधारणेचे कार्य नाही, असे पालन न केल्यामुळे भरीव दंड असूनही-जागतिक वार्षिक उलाढालीच्या १०% पर्यंत.

बाल सुरक्षा प्रचारकांनी कायद्याची अंमलबजावणी करण्यास किती वेळ लागतो याबद्दल निराशा व्यक्त केली आहे, तसेच त्याचा इच्छित परिणाम होईल की नाही यावर शंका आहे.

च्या मुलाखतीत बीबीसी जानेवारीत, तंत्रज्ञान मंत्री पीटर काइल – ज्यांना मागील सरकारकडून हा कायदा वारसा मिळाला होता – त्याने त्याला “अत्यंत असमान” आणि “असमाधानकारक” म्हटले. परंतु सरकार या दृष्टिकोनातून चिकटून आहे. ओएसएच्या आसपासच्या असंतोषाचा एक भाग दीर्घकालीन कालावधीच्या मंत्र्यांना राजवटीची अंमलबजावणी करण्यास परवानगी देतो, ज्यास संसदेने ऑफकॉम अनुपालन मार्गदर्शन मंजूर करणे आवश्यक आहे.

तथापि, बेकायदेशीर सामग्री आणि मुलांच्या संरक्षणाचा सामना करण्याच्या मुख्य आवश्यकतांच्या संदर्भात लवकरच अंमलबजावणी सुरू होण्याची अपेक्षा आहे. ओएसएच्या अनुपालनाच्या इतर बाबी अंमलबजावणीसाठी अधिक वेळ घेईल. आणि ऑफकॉमने कबूल केले की सराव शिफारसींचे हे नवीनतम पॅकेज 2027 किंवा नंतरपर्यंत पूर्णपणे अंमलात आणता येणार नाही.

अंमलबजावणी प्रारंभ लाइनकडे जात आहे

महिला सुरक्षा-केंद्रित मार्गदर्शनाच्या विकासाचे नेतृत्व करणारे ऑफकॉमच्या जेसिका स्मिथने “पुढील महिन्यात ऑनलाइन सुरक्षा कायद्याची पहिली कर्तव्ये अंमलात आणली आहेत.” “म्हणून आम्ही या मार्गदर्शनापूर्वी (स्वतःच अंमलबजावणी करण्यायोग्य) ऑनलाइन सुरक्षा कायद्याच्या काही मूलभूत कर्तव्यांविरूद्ध अंमलबजावणी करीत आहोत.”

महिला आणि मुलींना ऑनलाईन सुरक्षित ठेवण्याविषयी नवीन मसुदा मार्गदर्शन हा बेकायदेशीर सामग्रीवर पूर्वीच्या विस्तृत ऑफकॉम मार्गदर्शनाची पूर्तता करण्याचा हेतू आहे – उदाहरणार्थ, प्रौढ सामग्री ऑनलाइन पाहण्यापासून अल्पवयीन मुलांच्या संरक्षणासाठी शिफारसी देखील प्रदान करतात.

डिसेंबरमध्ये, नियामकाने प्लॅटफॉर्म आणि सेवांनी बेकायदेशीर सामग्रीशी संबंधित जोखीम कशा संकुचित केल्या पाहिजेत याविषयी अंतिम मार्गदर्शन प्रकाशित केले, जेथे बाल संरक्षण हे स्पष्ट प्राधान्य आहे.

याने यापूर्वी मुलांचा सुरक्षा कोड देखील तयार केला आहे, जो ऑनलाइन सेवांची शिफारस करतो की मुलांना अश्लीलतेसारख्या अयोग्य सामग्रीस सामोरे जावे लागणार नाही याची खात्री करण्यासाठी वय तपासणी आणि सामग्री फिल्टरिंग डायल करा. आणि ऑनलाईन सुरक्षा व्यवस्थेची अंमलबजावणी करण्याच्या दिशेने हे कार्य करीत असल्याने, अश्लील साइट्सना वयानुसार-अनुचित सामग्रीत प्रवेश करण्यापासून प्रतिबंधित करण्यासाठी प्रभावी पावले उचलण्याच्या उद्देशाने प्रौढ सामग्री वेबसाइट्ससाठी वय आश्वासन तंत्रज्ञानासाठी शिफारसी देखील विकसित केल्या आहेत.

मार्गदर्शनाचा नवीनतम संच पीडित, वाचलेले, महिला वकिलांचे गट आणि सुरक्षित तज्ञांच्या मदतीने विकसित केला गेला. यात चार प्रमुख क्षेत्रांचा समावेश आहे जिथे नियामक म्हणतात की महिलांना ऑनलाइन हानीमुळे अप्रिय परिणाम होतो – म्हणजे: ऑनलाइन मिसोगॉनी; ब्लॉक-ऑन आणि ऑनलाइन छळ; ऑनलाइन घरगुती अत्याचार; आणि जिव्हाळ्याचा प्रतिमेचा गैरवापर.

डिझाइनद्वारे सुरक्षा

ऑफकॉमच्या टॉप-लाइन शिफारसीमध्ये इन-स्कोप सर्व्हिसेस आणि प्लॅटफॉर्मवर “डिझाइनद्वारे सुरक्षितता” दृष्टिकोन घेण्याची विनंती केली जाते. स्मिथने आम्हाला सांगितले की नियामक टेक कंपन्यांना “एक पाऊल मागे” करण्यास प्रोत्साहित करू इच्छित आहे आणि “फेरीत त्यांच्या वापरकर्त्याच्या अनुभवाबद्दल विचार करा.” या क्षेत्रात ऑनलाइन जोखीम कमी करण्यास उपयुक्त असलेल्या काही सेवांनी काही उपाययोजना केल्या आहेत हे तिने कबूल केले आहे, परंतु महिला आणि मुलींच्या सुरक्षिततेला प्राधान्य देताना जेव्हा समग्र विचारांची कमतरता आहे, असा दावा तिने केला.

“आम्ही खरोखर जे काही विचारत आहोत ते म्हणजे डिझाइन प्रक्रिया कशा कार्य करतात यामधील एक प्रकारचे बदल म्हणजे,” तिने आम्हाला सांगितले की, सुरक्षिततेचे विचार उत्पादनांच्या डिझाइनमध्ये बेक केले गेले आहेत हे सुनिश्चित करण्याचे ध्येय आहे.

तिने नमूद केलेल्या एआय सेवांच्या वाढीवर प्रकाश टाकला, ज्यावर तिने नमूद केले आहे की महिला आणि मुलींना लक्ष्य करण्यासाठी शस्त्रास्त्रे लावण्याच्या त्यांच्या साधनांच्या जोखमीसाठी तंत्रज्ञानशास्त्रज्ञांनी सक्रिय उपाययोजना केल्या पाहिजेत हे एक उदाहरण म्हणून डीपफेक जिव्हाळ्याच्या प्रतिमेच्या गैरवर्तनात “भव्य” वाढ झाली आहे. – अद्याप नाही.

“आम्हाला वाटते की डिझाइनच्या टप्प्यावर सेवा करू शकणार्‍या काही शहाणा गोष्टी आहेत ज्यामुळे त्यातील काही हानी होण्याच्या जोखमीवर लक्ष केंद्रित करण्यास मदत होईल.”

मार्गदर्शनातील “चांगल्या” उद्योग पद्धतींच्या उदाहरणांमध्ये ऑनलाईन सेवांचा समावेश आहे जसे की:

• डीफॉल्टनुसार भौगोलिक स्थान काढून टाकणे (गोपनीयता/स्टॅकिंग जोखीम कमी करण्यासाठी);
• सेवेचे शस्त्र कसे केले जाऊ शकते/गैरवापर केले जाऊ शकते हे ओळखण्यासाठी “गैरवर्तन” चाचणी घेणे;
• खाते सुरक्षा वाढविण्यासाठी पावले उचलणे;
• अपमानास्पद सामग्री पोस्ट करण्यापूर्वी पोस्टर्स दोनदा विचार करण्याच्या उद्देशाने वापरकर्त्याच्या प्रॉम्प्ट्समध्ये डिझाइन करणे;
• आणि प्रवेश करण्यायोग्य रिपोर्टिंग टूल्स ऑफर करणे जे वापरकर्त्यांना समस्या नोंदवू देतात.

ओएफकॉमच्या सर्व ओएसए मार्गदर्शनाप्रमाणेच, प्रत्येक उपाय प्रत्येक प्रकारच्या किंवा सेवेच्या आकारासाठी संबंधित नाही – कारण कायदा मोठ्या आणि छोट्या ऑनलाइन सेवांवर लागू आहे आणि सोशल मीडियापासून, ऑनलाइन डेटिंग, गेमिंगपर्यंत विविध रिंगणात कपात करते. , मंच आणि मेसेजिंग अ‍ॅप्स, काहींची नावे. तर इन-स्कोप कंपन्यांच्या कामाचा एक मोठा भाग त्यांच्या उत्पादनाच्या संदर्भात अनुपालन म्हणजे काय हे समजून घेतील.

ओएफकॉमने सध्या मार्गदर्शनाच्या मानकांची पूर्तता केली आहे का असे विचारले असता स्मिथने सुचवले की ते नव्हते. ती म्हणाली, “संपूर्ण उद्योगात अजून बरेच काम बाकी आहे,” ती म्हणाली.

काही मोठ्या उद्योगातील खेळाडूंनी विश्वास आणि सुरक्षिततेनुसार घेतलेल्या काही प्रतिगामी चरणांमुळे वाढती आव्हाने असू शकतात, असेही तिने शांतपणे कबूल केले. उदाहरणार्थ, ट्विटर ताब्यात घेतल्यापासून आणि सोशल नेटवर्कला एक्स म्हणून पुनर्बांधणी केल्यापासून, एलोन मस्कने आपला विश्वास आणि सुरक्षितता हेडकाउंटला धडपडत आहे – त्याने मुक्त भाषणासाठी जास्तीत जास्त दृष्टिकोन म्हणून ओळखले आहे.

अलिकडच्या काही महिन्यांत, मेटा-ज्याचा फेसबुक आणि इन्स्टाग्राम आहे-त्याने काही नक्कल करणारी पावले उचलली आहेत असे दिसते आणि असे म्हटले आहे की ते सामग्री विवादांवर एक्स-स्टाईल “कम्युनिटी नोट्स” सिस्टम तैनात करण्याच्या बाजूने तीस-पक्षाच्या तथ्या-तपासणी कराराचे समाप्त होत आहे. उदाहरणार्थ.

पारदर्शकता

स्मिथने सुचवले की अशा उच्च-स्तरीय बदलांना ऑफकॉमने प्रतिसाद दिला-जेथे ऑपरेटरच्या कृतींमुळे ऑनलाइन हानी होण्याऐवजी डायल होण्याऐवजी डायलिंग होण्याचा धोका असू शकतो-प्रभाव स्पष्ट करण्यासाठी ओएसए अंतर्गत पारदर्शकता आणि माहिती गोळा करण्याच्या शक्तींचा वापर करण्यावर लक्ष केंद्रित करेल जागरूकता.

तर, थोडक्यात, इथली युक्ती “नाव आणि लाज” असल्याचे दिसते – किमान पहिल्या घटनेत.

“एकदा आम्ही मार्गदर्शन अंतिम केल्यावर, आम्ही एक (मार्केट) अहवाल तयार करू… मार्गदर्शन कोण वापरत आहे, कोण कोणत्या चरणांचे अनुसरण करीत आहे, स्त्रिया आणि मुली असलेल्या त्यांच्या वापरकर्त्यांसाठी कोणत्या प्रकारचे निकाल प्राप्त करीत आहेत आणि खरोखर एक चमकत आहेत. वेगवेगळ्या प्लॅटफॉर्मवर कोणते संरक्षण आहे यावर प्रकाश आहे जेणेकरुन वापरकर्ते आपला वेळ ऑनलाइन कोठे घालवतात याविषयी माहिती देऊ शकतील, ”तिने आम्हाला सांगितले.

स्मिथने असे सुचवले की महिलांच्या सुरक्षिततेवरील खराब कामगिरीसाठी सार्वजनिकपणे लाज वाटण्याची जोखीम टाळण्याची इच्छा असलेल्या कंपन्यांना त्यांच्या वापरकर्त्यांची परिस्थिती कशी सुधारित करावी याविषयी “व्यावहारिक चरण” साठी ऑफकॉमच्या मार्गदर्शनाकडे वळण्यास सक्षम असेल आणि प्रतिष्ठित हानी होण्याच्या जोखमीवरही लक्ष वेधले जाईल. ?

“यूकेमध्ये कार्यरत असलेल्या प्लॅटफॉर्मवर यूके कायद्याचे पालन करावे लागेल,” असे तिने विश्वास आणि सुरक्षिततेवर जोर देणार्‍या प्रमुख प्लॅटफॉर्मवरील चर्चेच्या संदर्भात जोडले. “तर याचा अर्थ असा आहे की बेकायदेशीर हानीकारक कर्तव्ये आणि ऑनलाइन सुरक्षा कायद्यांतर्गत मुलांच्या कर्तव्याचे संरक्षण करणे.”

“मला असे वाटते की येथेच आमची पारदर्शकता शक्ती देखील आली आहे – जर उद्योग बदलत असेल आणि हानी वाढत असेल तर येथेच आम्ही प्रकाश चमकवू आणि यूके वापरकर्त्यांसह, माध्यमांसह, संसदेच्या लोकांसह संबंधित माहिती सामायिक करू.”

डीपफेक अश्लील हाताळण्यासाठी टेक

ओएसएची अंमलबजावणी सक्रियपणे सुरू होण्यापूर्वीच ओएसएची अंमलबजावणीची जिव्हाळ्याची प्रतिमेचा गैरवापर होण्यापूर्वीच ओएफकॉम स्पष्टपणे आपल्या शिफारसींना स्पष्टपणे सांगत आहे – ताज्या मसुद्याच्या मार्गदर्शनाने अशा अपमानास्पद प्रतिमा शोधण्यासाठी आणि काढण्यासाठी हॅश जुळवणी सुचविल्यामुळे, पूर्वीच्या ऑफकॉमच्या शिफारसी गेल्या नाहीत. ते आतापर्यंत.

“आम्ही या मार्गदर्शनात अतिरिक्त चरणांचा समावेश केला आहे जे आम्ही आमच्या कोडमध्ये आधीपासून ठरवलेल्या गोष्टींपेक्षा जास्त आहे,” स्मिथने नमूद केले की, “नजीकच्या भविष्यात” हा बदल समाविष्ट करण्यासाठी ओएफकॉमने त्याचे पूर्वीचे कोड अद्यतनित करण्याच्या योजनेची पुष्टी केली.

“म्हणून या मार्गदर्शनात ठरविलेल्या चरणांचे अनुसरण करून आपण त्या अंमलबजावणीच्या आवश्यकतेपेक्षा पुढे जाऊ शकता असे प्लॅटफॉर्मवर म्हणण्याचा हा एक मार्ग आहे,” ती पुढे म्हणाली.

या जोखमीमध्ये मोठ्या प्रमाणात वाढ झाल्यामुळे, प्रति स्मिथ-विशेषत: एआय-व्युत्पन्न दीपफेक प्रतिमेच्या गैरवापराच्या संबंधात, या जोखमीत भरीव वाढीमुळे घनिष्ट प्रतिमेच्या गैरवापराचा प्रतिकार करण्यासाठी हॅश मॅचिंग तंत्रज्ञानाचा वापर करण्याची शिफारस ऑफ यांनी केली.

“मागील सर्व वर्षांच्या तुलनेत २०२23 मध्ये अधिक खोलवर जिव्हाळ्याचा प्रतिमेचा गैरवापर नोंदविला गेला,” असे त्यांनी नमूद केले.

एकूणच मसुदा मार्गदर्शनात आता सल्लामसलत होईल – ऑफकॉमने 23 मे 2025 पर्यंत अभिप्राय आमंत्रित केले आहे – त्यानंतर या वर्षाच्या अखेरीस अंतिम मार्गदर्शन होईल.

त्यानंतर पूर्ण 18 महिन्यांनंतर, ऑफकॉम नंतर या क्षेत्रातील उद्योग अभ्यासाचे पुनरावलोकन करणारा पहिला अहवाल तयार करेल.

ती पुढे म्हणाली, “आम्ही (महिला आणि मुलींना ऑनलाईन संरक्षण देण्यासाठी) कोण करीत आहे यावर आमचा पहिला अहवाल तयार करण्यापूर्वी आम्ही २०२27 मध्ये प्रवेश करत आहोत – परंतु आता अभिनय करणारे प्लॅटफॉर्म थांबवण्यासारखे काही नाही.”

ओएसए ऑफकॉमची अंमलबजावणी करण्यास बराच वेळ घेत आहे या टीकेला उत्तर देताना ती म्हणाली की नियामक अनुपालन उपायांवर सल्लामसलत करतात. तथापि, पुढच्या महिन्यात अंतिम उपाययोजना केल्यामुळे तिने नमूद केले की ऑफकॉमने देखील या विषयाच्या सभोवतालच्या संभाषणात बदल होण्याची अपेक्षा केली आहे.

“(टी) हॅट खरोखरच प्लॅटफॉर्मसह संभाषण बदलण्यास सुरवात करेल, विशेषत:” तिने अंदाज व्यक्त केला की ऑनलाइन हानी कमी करण्याच्या बाबतीत जेव्हा सुई हलविण्यावर प्रगती दर्शविण्याच्या स्थितीत असेल.