एलोन मस्कच्या मुलाची आई, ऍशले सेंट क्लेअर, ग्रोक डीपफेक्सवर xAI वर दावा दाखल करते

एलोन मस्कच्या मुलांपैकी एकाची आई, ऍशले सेंट क्लेअर, यांनी त्यांच्या कंपनी xAI विरुद्ध सोशल मीडिया प्लॅटफॉर्म X वर तयार केलेल्या लैंगिक डीपफेकबद्दल खटला दाखल केला आहे.

गुरुवारी न्यूयॉर्कमध्ये दाखल केलेल्या खटल्यात आरोप आहे की Grok AI टूलने सुश्री सेंट क्लेअरची लैंगिक स्पष्ट चित्रे तयार केली आहेत.

X आणि Grok ची मूळ कंपनी, xAI ने Ms St Clair वर त्यांच्या सेवा अटींचे उल्लंघन केल्याबद्दल काउंटर दावा केला आहे.

X ने खटल्यांबद्दल बीबीसी न्यूजच्या चौकशीला थेट प्रतिसाद दिला नाही.

“आम्ही ग्रोकला जबाबदार धरण्याचा आणि AI ला गैरवापरासाठी शस्त्र बनवण्यापासून रोखण्यासाठी संपूर्ण जनतेच्या फायद्यासाठी स्पष्ट कायदेशीर सीमा स्थापित करण्यात मदत करण्याचा मानस आहे,” सुश्री सेंट क्लेअरच्या वकील, कॅरी गोल्डबर्ग यांनी बीबीसी न्यूजला सांगितले.

“मुली आणि स्त्रियांच्या असंवेदनशील लैंगिकदृष्ट्या स्पष्ट प्रतिमा तयार करून, xAI सार्वजनिक उपद्रव आहे आणि वाजवी सुरक्षित उत्पादन नाही.”

सुश्री सेंट क्लेअरच्या कोर्टात दाखल केल्याचा आरोप आहे: “एक्स वापरकर्त्यांनी 14 वर्षांच्या सेंट क्लेअरचे पूर्ण कपडे घातलेले फोटो काढले आणि ग्रोकला तिचे कपडे उतरवून बिकिनी घालण्याची विनंती केली.

त्यात म्हटले आहे की सुश्री सेंट क्लेअरची तयार केलेली प्रतिमा “प्रत्यक्षात गैर-सहमतीची” होती परंतु ग्रोकच्या विकासकांना तिच्या संमतीच्या अभावाचे “स्पष्ट ज्ञान” देखील होते.

तसेच ग्रोकने एक प्रतिमा तयार केली होती, ज्याने ज्यू असलेल्या सुश्री सेंट क्लेअरला “स्वस्तिकांनी झाकलेल्या बिकिनीमध्ये” ठेवले होते.

तिच्या तक्रारींना प्रतिसाद म्हणून, फाइलिंगमध्ये म्हटले आहे की, कंपनीने “तिच्याविरुद्ध बदला घेतला, तिचे X खाते बंद केले आणि तिच्या अनेक प्रतिमा निर्माण केल्या”.

काही X प्रीमियम वापरकर्ते, जे मासिक शुल्क भरतात, त्यांना मोठ्या प्रमाणात व्यस्त असलेल्या पोस्टमधून मिळणाऱ्या जाहिरातींच्या कमाईचा वाटा मिळू शकतो.

प्रति-दाव्यात, xAI ने म्हटले की सुश्री सेंट क्लेअर यांनी न्यूयॉर्कमध्ये खटला दाखल करून त्यांच्या सेवा अटींचे उल्लंघन केले आहे.

कंपनीच्या अटींनुसार xAI सह विवाद टेक्सासमध्ये आणणे आवश्यक आहे.

सुश्री गोल्डबर्ग यांनी बीबीसी न्यूजला सांगितले की कंपनीचा काउंटर सूट “धडपडत” होता.

“कायदेशीर प्रणाली वापरण्याच्या त्यांच्या हेतूबद्दल सूचित केल्याबद्दल कोणत्याही प्रतिवादीने कोणावर तरी खटला चालवल्याचे मी कधीही ऐकले नाही,” ती म्हणाली.

“आणि त्यांच्या कायदेशीर रणनीतीमध्ये त्यांच्या ऑनलाइन गैरवर्तनाची नक्कल केली जाते.”

तिने जोडले की सुश्री सेंट क्लेअर न्यूयॉर्कमध्ये तिच्या केसचा “जोरदारपणे बचाव” करतील आणि “कोणत्याही अधिकारक्षेत्राला तक्रार ओळखली जाईल”.

हे श्रीमती सेंट क्लेअर यांनी उघड केले गेल्या वर्षी एक्स पोस्टमध्ये की तिने टेक अब्जाधीशाच्या मुलाला जन्म दिला होता – कमीतकमी 13 पैकी एक मुलगा झाला असे मानले जाते.

सुश्री सेंट क्लेअर आणि मस्क त्यांच्या मुलाच्या ताब्यातील लढाईत गुंतले आहेत असे मानले जाते.

X ची वापरकर्ते, राजकारणी आणि लोकांकडून तीव्र तपासणी झाली आहे जगभरातील नियामक ओव्हर ग्रोकचा वापर लोकांच्या संमती नसलेल्या लैंगिक प्रतिमा तयार करण्यासाठी केला जात आहे.

वापरकर्ते पोस्टमध्ये Grok खाते टॅग करण्यास सक्षम होते किंवा प्लॅटफॉर्मवरील पोस्टला उत्तरे देतात आणि लोकांना कपडे घालण्यासाठी प्रतिमा संपादित करण्यास सांगू शकतात.

ग्रोकने बिकिनी आणि कपड्यांमधील खऱ्या स्त्रियांच्या फोटो-वास्तववादी प्रतिमा तयार करण्याच्या अशा अनेक विनंत्यांचे पालन केले – अहवालांसह त्याने मुलांच्या लैंगिक प्रतिमा देखील तयार केल्या.

बुधवारी, तिच्या कोर्टात दाखल होण्यापूर्वी, सुश्री सेंट क्लेअरने बीबीसी न्यूजनाईटला सांगितले की तिची प्रतिमा “मूळत: नग्न, वाकलेली” दिसण्यासाठी “उतरली” गेली होती, तिने ग्रोकला सांगूनही तिने लैंगिक चित्रांना संमती दिली नाही.

तिने, आणि इतर महिला ज्यांच्या प्रतिमा Grok वापरून संपादित केल्या गेल्या होत्या, त्यांनी सांगितले होते की साइट बाल लैंगिक शोषणाच्या प्रतिमेसह बेकायदेशीर सामग्री हाताळण्यासाठी पुरेसे करत नाही.

प्रतिक्रियेनंतर, X ने त्याचे नियम बदलले जेणेकरून केवळ सशुल्क वापरकर्ते फंक्शन वापरू शकतील – टीका करत महिला गट आणि यूके सरकारकडून.

कंपनी बुधवारी सांगितले सर्व X वापरकर्ते यापुढे वास्तविक लोकांचे फोटो संपादित करू शकतील आणि ते बेकायदेशीर असलेल्या अधिकारक्षेत्रात कपडे उघडताना दाखवू शकतील.

नंतर ते “Grok ॲपसाठी समान जिओब्लॉकिंग उपाय” लागू करेल असे सांगण्यासाठी त्याचे पोस्ट अद्यतनित केले, जे X पेक्षा वेगळे आहे.

शुक्रवारी, द गार्डियनने वृत्त दिले आहे वास्तविक लोकांच्या लैंगिक डीपफेक तयार करण्यासाठी स्वतंत्र Grok ॲप वापरणे आणि त्यांना X वर पोस्ट करणे “संयमित असल्याच्या कोणत्याही चिन्हाशिवाय” अद्याप शक्य आहे.

यूके सरकार एक कायदा अंमलात आणत आहे ज्यामुळे सहमत नसलेल्या अंतरंग प्रतिमा तयार करणे बेकायदेशीर ठरेल आणि नियामक ऑफकॉम आहे X ने विद्यमान यूकेचे कायदे तोडले की नाही हे अजूनही तपासत आहे.