महिलेचा दावा आहे की तिच्या सावत्र वडिलांनी बालपणीच्या फोटोचे सुस्पष्ट इमेजरीमध्ये रूपांतर करण्यासाठी ग्रोकचा वापर केला

जेन डो 4 म्हणून ओळखल्या जाणाऱ्या एका महिलेने इलॉन मस्कच्या xAI विरुद्ध तीन टेनेसी किशोरवयीन मुलांनी बाल लैंगिक शोषण सामग्री तयार करण्यात कंपनीच्या चॅटबॉट ग्रोकने कथितपणे बजावलेल्या भूमिकेबद्दल दाखल केलेल्या खटल्यात सामील झाली आहे.

त्यानुसार वॉशिंग्टन पोस्ट मध्ये एक अहवालमहिलेने आरोप केला आहे की तिच्या सावत्र वडिलांनी तिच्या 7,000 हून अधिक स्पष्ट प्रतिमा तयार करण्यासाठी 11 वर्षांची असताना काढलेल्या फोटोमध्ये फेरफार करण्यासाठी ग्रोकचा वापर केला. महिलेने असेही सांगितले की कायद्याची अंमलबजावणी करणाऱ्या छाप्यात प्रतिमा उघड झाल्यानंतर दोन दिवसांनी तिचा सावत्र पिता आत्महत्या केल्याचे आढळून आले.

“या साधनांचा अमर्याद प्रवेश इतक्या लवकर पसरत आहे,” स्त्री म्हणाली. “हे दैनंदिन जीवन घेत आहे आणि ते बाल लैंगिक अत्याचारात बदलत आहे.”

खटला दाखल करणाऱ्या किशोरांनी xAI (आता SpaceX चा भाग) वर ग्रोकचा वापर अल्पवयीनांसह वास्तविक लोकांच्या स्पष्ट प्रतिमा तयार करण्यापासून रोखण्यासाठी मूलभूत खबरदारी घेण्यात अपयशी ठरल्याचा आरोप केला. (एक्स होता लाखो Grok-व्युत्पन्न लैंगिक प्रतिमांनी पूर आला या वर्षाच्या सुरुवातीला.) ते त्यांच्या सूटसाठी वर्ग कारवाईचा दर्जा शोधत आहेत.

रीड टिप्पणीसाठी xAI पर्यंत पोहोचला आहे.

तुम्ही संकटात असाल किंवा आत्महत्येचे विचार येत असल्यास, 988 सुसाइड अँड क्रायसिस लाइफलाइनवर पोहोचण्यासाठी 988 वर कॉल करा किंवा एसएमएस करा.