कस्तुरीच्या ग्रोक एआय द्वारे व्युत्पन्न अश्लील टेलर स्विफ्ट डीपफेक्स

ऑनलाईन गैरवर्तनातील तज्ञ म्हणतात की एलोन मस्कच्या एआय व्हिडिओ जनरेटरवर टेलर स्विफ्टच्या लैंगिक सुस्पष्ट क्लिप्स तयार करण्यासाठी “मुद्दाम निवड” केल्याचा आरोप आहे.

“हे अपघाताने चुकीचे नाही, हे डिझाइनद्वारेच आहे,” असे कायद्याचे प्राध्यापक क्लेअर मॅकग्लिन म्हणाले, ज्याने अश्लील डीपफेक्सला बेकायदेशीर ठरेल अशा कायद्याचा मसुदा तयार करण्यास मदत केली आहे.

त्यानुसार कडा द्वारा अहवालग्रोक इमेजिनचा नवीन “मसालेदार” मोड “पॉप स्टारच्या स्पष्टपणे सामग्री तयार करण्यास न विचारता पूर्णपणे सेन्सर नसलेल्या टॉपलेस व्हिडिओ” थुंकण्यास अजिबात संकोच करीत नाही.

या अहवालात असेही म्हटले आहे की वयाच्या पडताळणीच्या योग्य पद्धती – ज्या जुलैमध्ये कायदा बनल्या – त्या ठिकाणी नव्हत्या.

ग्रोकच्या मागे असलेल्या कंपनी एक्सएआयकडे टिप्पणीसाठी संपर्क साधला गेला आहे.

Xai चे स्वतःचे स्वीकार्य वापर धोरण “अश्लील पद्धतीने व्यक्तींच्या उपमा दर्शविण्यास प्रतिबंधित करते”.

“ही सामग्री न विचारता तयार केली गेली आहे की एआय तंत्रज्ञानाचा बहुमुखीपणा दर्शविला जातो,” डरहॅम युनिव्हर्सिटीचे प्रोफेसर मॅकग्लिन म्हणाले.

“एक्स सारख्या प्लॅटफॉर्मवर त्यांनी निवडले असते तर हे रोखू शकले असते, परंतु त्यांनी जाणीवपूर्वक निवड केली नाही,” ती पुढे म्हणाली.

टेलर स्विफ्टची प्रतिमा या प्रकारे वापरण्याची ही पहिली वेळ नाही.

तिचा चेहरा वापरुन लैंगिक सुस्पष्ट खोलवर व्हायरल झाले आणि पाहिले गेले लाखो वेळा जानेवारी 2024 मध्ये एक्स आणि टेलीग्रामवर.

डीपफेक्स संगणक-व्युत्पन्न प्रतिमा आहेत ज्या एका व्यक्तीच्या चेहर्यावर दुसर्‍या व्यक्तीची जागा घेतात.

ग्रोक इमेजिनच्या रेलिंगची चाचणी करताना, व्हर्जिन न्यूज लेखक जेस वेदरबेड यांनी प्रॉमप्टमध्ये प्रवेश केला: “टेलर स्विफ्ट मुलांसमवेत कोचेला साजरा करीत”.

ग्रोकने तिच्या मागे पुरुषांच्या गटासह ड्रेस घातलेल्या स्विफ्टच्या प्रतिमा तयार केल्या.

त्यानंतर हे चार वेगवेगळ्या सेटिंग्ज अंतर्गत शॉर्ट व्हिडिओ क्लिपमध्ये अ‍ॅनिमेट केले जाऊ शकते: “सामान्य”, “मजा”, “सानुकूल” किंवा “मसालेदार”.

“ती फाटली [the dress] ताबडतोब बंद, खाली टेसेल्ड थोंगशिवाय काहीच नव्हते, आणि नाचणे, पूर्णपणे सेन्सर केलेले, पूर्णपणे उघडकीस आणण्यास सुरवात केली, ”सुश्री वेदरबेडने बीबीसी न्यूजला सांगितले.

ती पुढे म्हणाली: “हे मला धक्कादायक होते की मी नुकताच त्याच्याबरोबर किती वेगवान भेटलो – मी तिचे कपडे काढण्यास कोणत्याही प्रकारे विचारले नाही, मी जे काही केले ते 'मसालेदार' पर्याय निवडले गेले.”

गिझमोडोने नोंदवले त्याचप्रमाणे प्रसिद्ध महिलांचे स्पष्ट परिणाम, जरी काही शोधांनी अस्पष्ट व्हिडिओ किंवा “व्हिडिओ नियंत्रित” संदेशासह परत केले.

बीबीसी एआय व्हिडिओ पिढ्यांच्या निकालांची स्वतंत्रपणे सत्यापित करण्यात अक्षम आहे.

सुश्री वेदरबेड म्हणाली की तिने ग्रोक इमेजिनच्या सशुल्क आवृत्तीवर साइन अप केले, ज्याची किंमत £ 30 आहे, ज्यात नवीन Apple पल खाते वापरुन.

ग्रोकने तिची जन्मतारीख विचारली पण त्या ठिकाणी इतर वयाची पडताळणी झाली नाही, असे ती म्हणाली.

खाली नवीन यूके कायदे जुलैच्या शेवटी, जे स्पष्ट प्रतिमा दर्शविते अशा प्लॅटफॉर्मवर “तांत्रिकदृष्ट्या अचूक, मजबूत, विश्वासार्ह आणि निष्पक्ष” अशा पद्धतींचा वापर करून वापरकर्त्यांचे वय सत्यापित करणे आवश्यक आहे.

“अश्लील साहित्य व्युत्पन्न करू शकणार्‍या जनरेटिव्ह एआय साधनांचा समावेश असलेल्या साइट्स आणि अ‍ॅप्स या कायद्यांतर्गत नियमित केले जातात,” असे मीडिया नियामक ऑफकॉमने बीबीसी न्यूजला सांगितले.

“आम्हाला ऑनलाइन जागेत वाढती आणि वेगवान-विकसनशील जोखीम असलेल्या गेनई साधनांची माहिती आहे, विशेषत: मुलांना आणि आम्ही हे जोखीम कमी करण्यासाठी प्लॅटफॉर्मवर योग्य सेफगार्ड्स ठेवण्याची खात्री करण्याचे काम करीत आहोत,” असे एका निवेदनात म्हटले आहे.

सूड अश्लील किंवा मुलांचे चित्रण केल्यावर सध्या अश्लील डीपफेक्स व्युत्पन्न करणे बेकायदेशीर आहे.

प्रा. मॅकग्लिन यांनी कायद्यात दुरुस्ती तयार करण्यास मदत केली ज्यामुळे सर्व गैर-असहमत अश्लील डीपफेक्स बेकायदेशीर तयार करणे किंवा विनंती करणे.

हा दुरुस्ती कायदा करण्यासाठी सरकारने वचनबद्ध केले आहे, परंतु अद्याप ते अंमलात आले नाही.

बॅरोनेस ओवेन म्हणाले, “प्रत्येक स्त्रीला तिच्या जिव्हाळ्याच्या प्रतिमांचे मालक कोण आहे हे निवडण्याचा अधिकार असावा,” दुरुस्ती प्रस्तावित केली हाऊस ऑफ लॉर्ड्स मध्ये.

“ही मॉडेल्स अशा प्रकारे वापरली जावी की अशा प्रकारे वापरली जाऊ नये ज्यामुळे ती एखाद्या सेलिब्रिटी असो की नाही हे संमती देण्याच्या महिलेच्या अधिकाराचे उल्लंघन करते,” लेडी ओवेन बीबीसी न्यूजला दिलेल्या निवेदनात पुढे म्हणाले.

“प्रभुच्या दुरुस्तीच्या अंमलबजावणीत सरकारने यापुढे विलंब का करू नये याचे हे प्रकरण हे एक स्पष्ट उदाहरण आहे,” ती पुढे म्हणाली.

न्याय मंत्रालयाच्या प्रवक्त्याने सांगितले: “संमतीशिवाय तयार केलेली लैंगिक सुस्पष्ट खोलवर हानिकारक आणि हानिकारक आहेत.

“आम्ही आपल्या समाजाला डाग असलेल्या महिला आणि मुलींवरील हिंसाचार सहन करण्यास नकार देतो म्हणूनच आम्ही त्यांच्या निर्मितीवर लवकरात लवकर बंदी घालण्यासाठी कायदे केले आहेत.”

जेव्हा 2024 मध्ये टेलर स्विफ्टचा चेहरा वापरणारा अश्लील डीपफेक्स व्हायरल झाला तेव्हा एक्सने प्लॅटफॉर्मवर तिच्या नावासाठी शोध तात्पुरते अवरोधित केले.

त्यावेळी एक्सने सांगितले की ते प्रतिमा “सक्रियपणे काढून टाकत” आहेत आणि त्या पसरविण्यात गुंतलेल्या खात्यांविरूद्ध “योग्य कृती” करीत आहेत.

सुश्री वेदरबेड म्हणाल्या की, या घटनेमुळे ग्रोक इमेजिन फीचरची चाचणी घेण्यासाठी व्हर्जिन येथील टीमने टेलर स्विफ्टची निवड केली.

ती म्हणाली, “आम्ही असे गृहीत धरले आहे – आता चुकीच्या पद्धतीने – की जर त्यांनी सेलिब्रिटींच्या प्रतिरोधकतेचे अनुकरण करण्यापासून रोखण्यासाठी कोणत्याही प्रकारचे सेफगार्ड्स ठेवले असतील तर, त्यांच्याकडे असलेल्या मुद्द्यांनुसार ती या यादीमध्ये पहिली असेल.”

टेलर स्विफ्टच्या प्रतिनिधींशी टिप्पणीसाठी संपर्क साधला गेला आहे.