इलॉन मस्कच्या मुलाच्या आईने गैर-सहमतीच्या स्पष्ट प्रतिमांबद्दल xAI विरुद्ध खटला दाखल केला

नवी दिल्ली: ऍशले सेंट क्लेअर, एक अमेरिकन लेखक आणि पुराणमतवादी प्रभावकार जो एलोन मस्कच्या मुलांपैकी एकाची आई आहे, त्यांनी त्याच्या कृत्रिम बुद्धिमत्ता कंपनी xAI विरुद्ध खटला दाखल केला आहे, तिच्या संमतीशिवाय लैंगिक स्पष्ट प्रतिमा निर्माण केल्याचा आरोप आहे.

खटल्यात आरोप आहे की xAI च्या चॅटबॉट ग्रोकने सेंट क्लेअरच्या प्रतिमा तयार केल्या आणि बदलल्या नंतर वापरकर्त्यांनी तसे करण्यास सांगितले, ज्यामध्ये तिला डिजिटल पद्धतीने कपडे उतरवण्याच्या विनंतीचा समावेश आहे. सेंट क्लेअर म्हणते की या प्रतिमा धक्कादायक, त्रासदायक आणि तिच्या परवानगीशिवाय तयार केल्या गेल्या होत्या, तिने तिच्या फोटोंच्या वापरावर स्पष्टपणे आक्षेप घेतला होता.

गैर-सहमतीची प्रतिमा निर्माण केल्याचा आरोप

सेंट क्लेअरचा दावा आहे की तिने संमती दिली नाही असे चॅटबॉटला थेट सांगूनही ग्रोकने वापरकर्त्यांना तिच्या प्रतिमा हाताळण्याची परवानगी दिली. ग्रोकने कथितपणे प्रतिसाद दिला की संपादने एक विनोद म्हणून होती आणि वर्तन पुन्हा न करण्याचे वचन दिले. आश्वासन मोडल्याचा आरोप सेंट क्लेअर यांनी केला.

खटल्यात पुढे असा दावा करण्यात आला आहे की काही वापरकर्त्यांनी ती अल्पवयीन असताना काढलेले तिचे जुने फोटो वापरले आणि ग्रोकला तिला बिकिनी घालून ते बदलण्यास सांगितले. चॅटबॉटने पालन केल्याचा तिचा आरोप आहे. प्रौढ म्हणून, ती म्हणते की ग्रोकने अनेक अपमानकारक प्रतिमा व्युत्पन्न केल्या, ज्यात द्वेषपूर्ण संदेश आणि नाझी चिन्हे आहेत. एका प्रतिमेत कथितरित्या तिला, एक ज्यू महिला, स्वस्तिकने झाकलेल्या बिकिनीमध्ये दाखवली आहे.

सेंट क्लेअर ग्रोकला तिची छायाचित्रे तयार करण्यापासून किंवा हाताळण्यापासून रोखण्यासाठी तात्पुरत्या प्रतिबंधात्मक आदेशाची विनंती करत आहे. खटल्यात असे म्हटले आहे की चॅटबॉट अवास्तव धोकादायक आहे, कारण ते डिझाइन केलेले आहे आणि सार्वजनिक उपद्रव आहे कारण ते गैर-सहमतीने स्पष्ट सामग्री तयार करू शकते.

तिचे म्हणणे आहे की तंत्रज्ञानामुळे छळ आणि प्रतिष्ठेची हानी होऊ शकते आणि गैरवापर टाळण्यासाठी सुरक्षा उपाय अपुरे होते.

xAI नवीन निर्बंधांसह प्रतिसाद देते

xAI ने बुधवारी सांगितले की Grok यापुढे X वर खऱ्या लोकांच्या लैंगिक सुस्पष्ट प्रतिमा तयार करू किंवा संपादित करू शकणार नाही. कंपनीने सांगितले की, बिकिनीसह कपडे उघड करणारे प्रतिमा संपादने अवरोधित करण्यासाठी तांत्रिक उपाय लागू केले आहेत.

xAI ने असेही घोषित केले की Grok चे प्रतिमा निर्मिती वैशिष्ट्य आता सशुल्क वापरकर्त्यांपुरते मर्यादित असेल, ज्यामुळे जबाबदारी सुधारेल.

हे बदल आठवडे टीका, राजकीय दबाव आणि नियामक छाननीनंतर येतात. रॉयटर्सच्या म्हणण्यानुसार, कॅलिफोर्नियाचे ऍटर्नी जनरल रॉब बोन्टा यांनी गैर-सहमतीची स्पष्ट प्रतिमा तयार करण्यासाठी आणि पसरवण्यासाठी ग्रोकचा वापर केला जात आहे की नाही याची चौकशी सुरू केली आहे.

त्यानंतर आंतरराष्ट्रीय कारवाई झाली. मलेशिया आणि इंडोनेशियाने एआय-व्युत्पन्न डीपफेक्सच्या चिंतेमुळे ग्रोकला अवरोधित केले आहे. भारतात, अधिकाऱ्यांनी X कडून स्पष्टीकरण मागितले आहे कारण चॅटबॉटची छाननी वाढत आहे.