AI चा धोकादायक खेळ, मुलींच्या फोटोंवरून काढली अश्लील छायाचित्रे, आता कोर्टात मोठा गोंधळ

Grok AI विवाद: अमेरिकेतील टेनेसी राज्यातील तीन विद्यार्थिनींनी कॅलिफोर्नियामध्ये xAI विरुद्ध क्लास-ॲक्शन खटला दाखल केला आहे. आपली ओळख लपवण्यासाठी या मुलींनी ‘जेड दो’ नावाचा वापर केला आहे. ही बाब आता अधिकच चर्चेत आहे आणि AI च्या गैरवापरावर गंभीर प्रश्न उपस्थित करत आहे.

काय आहे संपूर्ण प्रकरण?

वास्तविक, काही अज्ञात लोकांनी सोशल मीडियावर या विद्यार्थिनींचे एडिट केलेले अश्लील फोटो शेअर केले होते. हे फोटो त्यांच्या शाळेतील फोटो, घरवापसी आणि वर्षपुस्तक अशा खऱ्या फोटोंमधून घेतले आहेत. एआय टूल्सच्या साहाय्याने ही छायाचित्रे अशा प्रकारे बदलण्यात आली की बनावट असूनही ती अगदी खरी वाटली. पीडितांचा आरोप आहे की, ही छायाचित्रे केवळ शेअर केली जात नाहीत, तर त्यांची विक्री आणि प्रसार करण्यासाठी एक संघटित नेटवर्कही कार्यरत होते, जिथे अल्पवयीन मुलांची अशी सामग्री विकली जात होती.

एआय तंत्रज्ञानाचा गैरवापर कसा झाला?

या गुन्ह्यात ग्रोकसारख्या एआय तंत्रज्ञानाचा वापर करण्यात आल्याचे दाव्यात म्हटले आहे. हे टूल खऱ्या फोटोंच्या आधारे नवीन बनावट फोटो तयार करू शकते. पूर्वी या तंत्रज्ञानाचा वापर चित्रपट आणि मनोरंजनासाठी केला जात होता, परंतु आता त्याचा गैरवापर झपाट्याने वाढत आहे, जो समाजासाठी मोठा धोका बनला आहे.

इलॉन मस्कवरही गंभीर आरोप

या खटल्यात इलॉन मस्क यांच्यावरही मोठा आरोप करण्यात आला आहे. असे म्हटले जाते की Google आणि OpenAI सारख्या कंपन्यांनी त्यांच्या साधनांमध्ये कठोर नग्नता फिल्टर लागू केले असताना, मस्कने निर्बंधांशिवाय सामग्री तयार करण्याच्या ग्रोकच्या क्षमतेला प्रोत्साहन दिले. दावे करण्यात आले की कंपनीला माहिती होती की त्यांची साधने बाल लैंगिक शोषण (CSAM) साठी वापरली जाऊ शकतात, तरीही त्यांनी पुरेसे सुरक्षा उपाय केले नाहीत.

पीडित पुढे आले

स्थानिक पोलिसांनी पकडलेल्या एका आरोपीकडून इतर 18 मुलींची अशीच संपादित छायाचित्रेही सापडली आहेत. आरोपी इतर अश्लील साहित्याच्या बदल्यात ही छायाचित्रे ऑनलाइन विकत होता. हे प्रकरण मोठ्या नेटवर्कशी संबंधित असू शकते, हे स्पष्ट झाले आहे.

हेही वाचा: कोणत्या कंपनीला मिळणार सर्वात स्वस्त प्लॅन, जिओ, एअरटेल किंवा VI मधून कोणत्या सिमचा फायदा होईल?

“सामान्य जीवन जगणे कठीण झाले आहे”

एआयने तयार केलेली ही चित्रे इतकी खरी वाटतात की पीडितांना सामान्य जीवन जगणे कठीण झाले आहे.

• जेन डो 1: चिंता, नैराश्य आणि वाईट स्वप्नांचा सामना करणे.
• जेन डो 2: शाळेत जायला आणि तिच्या पदवीदान समारंभाला जाण्याची भीती वाटते.

पीडितांना भीती वाटते की ही चित्रे कायम इंटरनेटवर राहतील, ज्याचा त्यांच्या भविष्यावर, करिअरवर आणि सामाजिक स्थितीवर खोलवर परिणाम होऊ शकतो.

कंपनी आणि प्लॅटफॉर्मचा प्रतिसाद

जरी या प्रकरणावर xAI कडून कोणतेही थेट विधान आलेले नसले तरी, X ने त्याच्या “शून्य सहनशीलतेची” पुष्टी केली आहे. कंपनीने असे म्हटले आहे की ते सहमत नसलेली नग्नता आणि बाल लैंगिक शोषण सामग्री (CSAM) विरुद्ध कठोर आहेत आणि अशी प्रकरणे कायद्याची अंमलबजावणी करणाऱ्या संस्थांकडे वाढवली जातात.