एलोन मस्कचे ग्रोक एआय महिलांचे कपडे डिजिटली काढण्यासाठी त्यांच्या प्रतिमा बदलतात

इलॉन मस्कच्या सोशल मीडिया प्लॅटफॉर्म X ने AI चॅटबॉट Grok चा वापर करून महिलांचे कपडे काढून त्यांचे फोटो बदलल्यानंतर संताप निर्माण झाला आहे.

बीबीसीने महिलांना त्यांच्या संमतीशिवाय बिकिनीमध्ये दिसण्यासाठी कपडे उतरवण्याची तसेच त्यांना लैंगिक परिस्थितीत टाकण्याची अनेक उदाहरणे पाहिली आहेत.

XAI, Grok च्या मागे असलेल्या कंपनीने टिप्पणीसाठी केलेल्या विनंतीला प्रतिसाद दिला नाही, “लेगेसी मीडिया खोटे” असे आपोआप व्युत्पन्न केलेल्या उत्तराशिवाय.

पण पत्रकार सामंथा स्मिथने बीबीसीच्या पीएम कार्यक्रमात सांगितले की, तिची अशी प्रतिमा बनल्यानंतर तिला “अमानवीय आणि लैंगिक स्टिरियोटाइपमध्ये कमी झाल्याचे” वाटले.

“महिला याला संमती देत ​​नाहीत,” ती म्हणाली.

“जरी मी कपडे उतरवलेल्या अवस्थेत नसलो तरी तो माझ्यासारखा दिसत होता आणि तो माझ्यासारखाच वाटत होता आणि जणू कोणीतरी माझा नग्न किंवा बिकिनी फोटो पोस्ट केला होता असे वाटले.”

होम ऑफिसच्या प्रवक्त्याने सांगितले की न्युडिफिकेशन टूल्सवर बंदी घालण्याचा कायदा केला जात आहे आणि नवीन गुन्हेगारी गुन्ह्याखाली, अशा तंत्रज्ञानाचा पुरवठा करणाऱ्या कोणालाही “तुरुंगवासाची शिक्षा आणि भरीव दंड” भोगावा लागेल.

नियामक ऑफकॉमने म्हटले आहे की टेक कंपन्यांनी यूकेमधील लोक त्यांच्या प्लॅटफॉर्मवर बेकायदेशीर सामग्री पाहण्याच्या “जोखमीचे मूल्यांकन” केले पाहिजे, परंतु ते सध्या एआय प्रतिमांच्या संदर्भात X किंवा Grok चा तपास करत आहेत की नाही याची पुष्टी केली नाही.

Grok एक विनामूल्य AI सहाय्यक आहे – काही प्रीमियम वैशिष्ट्यांसाठी पैसे दिलेले – जे X वापरकर्त्यांनी पोस्टमध्ये टॅग केल्यावर त्यांच्या प्रॉम्प्टला प्रतिसाद देतात.

इतर पोस्टर्सच्या टिप्पण्यांना प्रतिक्रिया किंवा अधिक संदर्भ देण्यासाठी हे सहसा वापरले जाते, परंतु X वरील लोक त्याच्या AI प्रतिमा संपादन वैशिष्ट्याद्वारे अपलोड केलेली प्रतिमा संपादित करण्यास सक्षम आहेत.

वापरकर्त्यांना नग्नता आणि लैंगिक सामग्रीसह फोटो आणि व्हिडिओ तयार करण्याची परवानगी दिल्याबद्दल टीका केली गेली आहे आणि याआधी त्यावर आरोप करण्यात आले होते टेलर स्विफ्टची लैंगिक स्पष्ट क्लिप बनवणे.

क्लेअर मॅकग्लिन, डरहम विद्यापीठातील कायद्याचे प्राध्यापक, म्हणाले की X किंवा Grok “त्यांना हवे असल्यास या प्रकारचे गैरवर्तन रोखू शकतात”, ते जोडून “दंडमुक्तीचा आनंद लुटताना दिसतात”.

“प्लॅटफॉर्मवर कोणतीही कारवाई न करता अनेक महिन्यांपासून या प्रतिमांच्या निर्मिती आणि वितरणास परवानगी दिली जात आहे आणि आम्हाला अद्याप नियामकांद्वारे कोणतेही आव्हान दिसले नाही,” ती म्हणाली.

XAI चे स्वतःचे स्वीकार्य वापर धोरण “पोर्नोग्राफिक पद्धतीने व्यक्तींच्या समानतेचे चित्रण करणे” प्रतिबंधित करते.

बीबीसीला दिलेल्या निवेदनात, ऑफकॉमने म्हटले आहे की “सहमती नसलेल्या अंतरंग प्रतिमा किंवा बाल लैंगिक शोषण सामग्री तयार करणे किंवा सामायिक करणे” बेकायदेशीर आहे आणि यात AI सह तयार केलेल्या लैंगिक डीपफेक्सचा समावेश आहे याची पुष्टी केली.

यूके वापरकर्त्यांना त्यांच्या प्लॅटफॉर्मवर बेकायदेशीर सामग्रीचा सामना करताना “जोखीम कमी करण्यासाठी” X सारख्या प्लॅटफॉर्मने “योग्य पावले” उचलणे आवश्यक होते आणि जेव्हा त्यांना याची जाणीव होते तेव्हा ते त्वरीत काढून टाकणे आवश्यक होते.

ख्रिस व्हॅलेन्स द्वारे अतिरिक्त अहवाल.