ऑफकॉमने ग्रोक एआय लैंगिक डीपफेक्सवर एलोन मस्कच्या एक्सची चौकशी केली

ऑफकॉमने इलॉन मस्कच्या एक्स ची चौकशी सुरू केली आहे की त्याचे एआय टूल ग्रोक लैंगिक प्रतिमा तयार करण्यासाठी वापरले जात आहे.

एका निवेदनात, यूके वॉचडॉगने म्हटले आहे की चॅटबॉटचा वापर लोकांच्या कपडे न केलेल्या प्रतिमा तसेच “मुलांच्या लैंगिक प्रतिमा” तयार करण्यासाठी आणि सामायिक करण्यासाठी वापरल्या जात असल्याच्या “खोल संबंधित अहवाल” आहेत.

कायद्याचे उल्लंघन केल्याचे आढळल्यास, Ofcom त्याच्या जगभरातील कमाईच्या 10% किंवा £18 दशलक्ष, यापैकी जे जास्त असेल तो X ला संभाव्य दंड देऊ शकते.

एक्स ने बीबीसीला एका विधानाचा संदर्भ दिला त्याच्या सुरक्षा खात्याद्वारे पोस्ट केले आहे जानेवारीच्या सुरूवातीस: “कोणीही बेकायदेशीर सामग्री वापरण्यासाठी किंवा Grok तयार करण्यास प्रवृत्त करत असल्यास, त्यांनी बेकायदेशीर सामग्री अपलोड केल्यासारखेच परिणाम भोगावे लागतील.”

इलॉन मस्क नंतर म्हणाले की इतर एआय प्लॅटफॉर्मकडे का पाहिले जात नाही या प्रश्नाच्या उत्तरात यूके सरकारला “सेन्सॉरशिपसाठी कोणतेही निमित्त” हवे आहे.

बीबीसीने X वर डिजिटली बदललेल्या प्रतिमांची अनेक उदाहरणे पाहिली आहेत, ज्यामध्ये महिलांना कपडे उतरवले गेले आणि त्यांच्या संमतीशिवाय लैंगिक स्थितीत ठेवले. एक महिला म्हणाली तिच्या 100 हून अधिक लैंगिक प्रतिमा तयार केल्या आहेत.

X पालन करत नसल्यास, ऑफकॉम इंटरनेट सेवा प्रदात्यांना यूकेमधील साइटवर प्रवेश पूर्णपणे अवरोधित करण्यास भाग पाडण्यासाठी न्यायालयीन आदेश मागू शकते.

तंत्रज्ञान सचिव लिझ केंडल यांनी बीबीसीला सांगितले की तिने शरीराच्या तपासणीचे स्वागत केले आणि ते लवकरात लवकर पूर्ण करण्याचे आवाहन केले.

“ऑफकॉमने हा तपास त्वरीत पूर्ण करणे अत्यावश्यक आहे कारण जनता – आणि सर्वात महत्वाचे म्हणजे पीडित – कोणताही विलंब स्वीकारणार नाहीत,” ती म्हणाली.

केंडलचे पूर्ववर्ती पीटर काइल यांनी बीबीसी ब्रेकफास्टला सांगितले की ग्रोकची “योग्य चाचणी केली गेली नाही” हे “भयानक” आहे.

“मी कालच एका ज्यू स्त्रीला भेटलो ज्याने ऑशविट्झच्या बाहेर बिकिनीमध्ये स्वतःची प्रतिमा AI द्वारे तयार केली आहे आणि ऑनलाइन ठेवली आहे त्यामुळे मला माझ्या पोटात दुखापत झाली आहे,” तो म्हणाला.

चिंता व्यक्त करणाऱ्या इतर खासदारांमध्ये उत्तर आयर्लंडच्या राजकारणी कारा हंटर यांचा समावेश आहे. ज्याने सांगितले की तिने प्लॅटफॉर्म सोडण्याचा निर्णय घेतला आहे.

दरम्यान डाउनिंग स्ट्रीट म्हणाले की सरकार “मुलांचे संरक्षण” करण्यावर लक्ष केंद्रित करते परंतु X वर आपली उपस्थिती “पुनरावलोकन अंतर्गत” ठेवेल.

“मला वाटते की आम्ही स्पष्ट केले आहे की सर्व पर्याय टेबलवर आहेत,” पंतप्रधानांचे अधिकृत प्रवक्ते म्हणाले.

डॉ डेझी डिक्सन, कोण यापूर्वी बीबीसीला सांगितले तिचे कपडे उतरवण्यासाठी लोकांनी Grok वापरल्याच्या अनेक घटनांनंतर तिला “अपमानित” वाटले, तिने तपासणीचे स्वागत केले.

“मस्क आणि इतरांनी याला सेन्सॉरशिपचे निमित्त म्हणायचे आहे – महिला आणि मुलींवरील पद्धतशीर हिंसाचार – या समस्येपासून फक्त विचलित झाले आहे,” ती म्हणाली.

“जर एक्स डिफेंडर्सना खरोखरच दुराचरण आणि बाल पोर्नोग्राफीची काळजी असेल, तर ते मस्कला त्वरित पालन करण्यास आणि वाईट विश्वासाने विचलित करणे थांबवण्यास सांगतील.”

ऑफकॉम आता एक्स बेकायदेशीर सामग्री त्वरीत काढून टाकण्यात अयशस्वी ठरले आहे की नाही हे तपासेल जेव्हा त्यांना याची जाणीव झाली आणि यूकेमधील लोकांना ते पाहण्यापासून रोखण्यासाठी “योग्य पावले” घेतली.

त्यात म्हटले आहे की अशा बेकायदेशीर सामग्रीमध्ये “संमती नसलेल्या अंतरंग प्रतिमा” आणि बाल लैंगिक प्रतिमा समाविष्ट आहेत.

मुलांना पोर्नोग्राफिक प्रतिमा पाहण्यापासून रोखण्यासाठी X ने “अत्यंत प्रभावी वय हमी” उपाय वापरले आहेत की नाही हे देखील तपासले जाईल.

हा निर्णय Grok च्या प्रतिमा निर्मिती वैशिष्ट्यावर जागतिक प्रतिक्रियांचे अनुसरण करतो मलेशिया आणि इंडोनेशिया दोन्ही आठवड्याच्या शेवटी साधनाचा प्रवेश तात्पुरता अवरोधित करणे.

ऑफकॉमच्या प्रवक्त्याने तपासाला किती वेळ लागेल याचे संकेत दिले नाहीत परंतु ते म्हणाले की ही “सर्वोच्च प्राधान्याची बाब” असेल.

“प्लॅटफॉर्मने यूकेमधील लोकांना यूकेमध्ये बेकायदेशीर सामग्रीपासून संरक्षण केले पाहिजे,” ते म्हणाले.

“कंपन्या त्यांच्या कर्तव्यात कसूर करत असल्याचा आम्हाला संशय आहे, विशेषत: जेथे मुलांचे नुकसान होण्याचा धोका आहे तेथे आम्ही तपास करण्यास संकोच करणार नाही.”

एसेक्स युनिव्हर्सिटीच्या इंटरनेट कायद्याच्या प्राध्यापक लोर्ना वुड्स यांनी बीबीसीला सांगितले की तपास किती वेगाने पुढे जाईल हे सांगणे “कठीण” आहे.

“ऑफकॉमकडे किती वेगवान – किंवा हळू – – तपासण्याची निवड आहे,” ती म्हणाली.

तिने सांगितले की नियामक व्यवसाय व्यत्यय ऑर्डरसाठी अर्ज करू शकतो – यूके मधील X मधील प्रवेश अवरोधित करण्याचा न्यायालयाचा आदेश – शेवटचा उपाय म्हणून न करता, परंतु केवळ “दुर्मिळ परिस्थितीत” चालू असलेल्या समस्येच्या प्रतिसादात.

क्लेअर मॅकग्लिन, डरहॅम विद्यापीठातील कायद्याचे प्राध्यापक, म्हणाले की यूकेमध्ये एक्सला ब्लॉक केले जाऊ शकते की नाही याबद्दलची चर्चा ही “विचलित” होती.

“महिला आणि मुलींना जमिनीवर कारवाई आणि बदलांची गरज आहे जेणेकरून Grok बेकायदेशीर अंतरंग प्रतिमा तयार करू शकत नाही आणि स्त्रिया त्यांच्या गैर-सहमतीच्या प्रतिमा काढून टाकू शकतात,” ती म्हणाली.