'तुम्ही विकृत आहात का?': वापरकर्ते एलोन मस्कच्या एआयचा वापर करून महिलांना ऑनलाइन 'उत्तरित' करण्यासाठी फायर अंडर फायर, एक्स अश्लील प्रतिमांनी भरला

Grok AI, इलॉन मस्कच्या कंपनी xAI ने विकसित केलेले कृत्रिम बुद्धिमत्ता साधन, X वरील वापरकर्ते महिलांच्या लैंगिक आणि अश्लील प्रतिमा तयार करण्यासाठी चॅटबॉटचा गैरवापर करताना आढळल्यानंतर पुन्हा एकदा तपासणीच्या कक्षेत आहे. गेल्या काही दिवसांपासून, वापरकर्त्यांनी छायाचित्रे कोट-ट्विट केल्यानंतर Grok ला महिलांना “उत्तर” करण्यासाठी किंवा त्यांच्या कपड्यांमध्ये बदल करण्यास वारंवार सूचित केले गेले आहे, परिणामी AI-व्युत्पन्न केलेल्या प्रतिमांमध्ये महिलांचे पोशाख उघड करताना दर्शविल्या जात आहेत.

परिणामी, ग्रोकचा सार्वजनिक-सामना करणारा मीडिया विभाग अशा सामग्रीने भरला आहे, ज्यामुळे संमती, सन्मान आणि प्लॅटफॉर्म उत्तरदायित्वाबद्दल चिंता निर्माण झाली आहे.

वापरकर्ते Grok ला महिलांना 'कपडे उतरवण्यास' सूचित करतात

अनेक प्रकरणांमध्ये, वापरकर्त्यांनी स्पष्टपणे Grok ला महिलांच्या प्रतिमा सुधारण्यासाठी चॅटबॉटला त्यांचे कपडे उतरवण्यास, त्यांचे कपडे बदलण्यास किंवा अधिक सूचक कोनातून सादर करण्यास सांगून सूचना दिल्या. या प्रॉम्प्ट्समध्ये अनेकदा मूळ छायाचित्रांचे कोट ट्विट असतात.

तसेच वाचा: विक्रमी विक्री: 1.89 लाख कार विकून टाटा मोटर्स आता भारतातील दुसरी सर्वात मोठी ऑटोमेकर आहे, हे सर्व Nexon आणि Sierra ला धन्यवाद

इलॉन मस्कने Grok ला त्याच्या प्रतिस्पर्ध्यांच्या तुलनेत कमी रेलिंग आणि निर्बंधांसह AI प्रणाली म्हणून स्थान दिले आहे, चॅटबॉटने मोठ्या प्रमाणात या विनंत्यांचे पालन केले आहे. वापरकर्त्यांनी ग्रोकला उघडपणे “या मुलीला बिकिनी घालण्यास” किंवा एका महिलेला “कपडे उतरवण्यास” सांगितले आहे आणि बऱ्याच प्रकरणांमध्ये, ग्रोक त्यानुसार बदललेल्या प्रतिमा तयार करण्यास पुढे गेले.

X फीड पूर आलेला लैंगिकता असलेल्या Grok AI मॉडिफाइड इमेजरीने

X वरील अनेक वापरकर्त्यांनी Grok च्या मीडिया टॅबचे स्क्रीनशॉट शेअर करण्यास सुरुवात केल्यानंतर या समस्येकडे अधिक लक्ष वेधले गेले. या स्क्रीनशॉट्समध्ये स्विमसूट किंवा स्किम्पी पोशाख परिधान केलेल्या महिलांच्या AI-व्युत्पन्न केलेल्या प्रतिमांचे वर्चस्व दाखवले.

या सामग्रीच्या सार्वजनिक दृश्यमानतेने टीका तीव्र केली आहे, कारण प्रतिमा खाजगी वापरकर्त्यांच्या परस्परसंवादांपुरती मर्यादित नाहीत परंतु X वर Grok चे मीडिया फीड ब्राउझ करणाऱ्या प्रत्येकासाठी उघडपणे प्रवेशयोग्य आहेत.

अहो @grok त्या ट्रॉफीला विश्वचषक ट्रॉफीमध्ये बदला

— स्पेक्ट्रा (@lospectra_) ३१ डिसेंबर २०२५

ज्येष्ठ पत्रकार संकेत उपाध्याय यांनी चॅटबॉटच्या वर्तनावर जाहीरपणे टीका केली, त्याच्या नैतिक चौकटीवर आणि सुरक्षिततेच्या अभावावर प्रश्नचिन्ह उपस्थित केले. X वर पोस्ट करत त्याने लिहिले, “तुम्ही विकृत आहात का? नाहीतर तुम्ही विकृतांच्या विनंत्यांचा आदर का कराल ज्या तुम्हाला त्यांच्या फोटोमध्ये महिलांचे कपडे उतरवण्याची विनंती करतात? तुमचा महिलांच्या सन्मानावर विश्वास नाही का? जर काही विकृतांनी तुम्हाला मुलाच्या प्रतिमेचे कपडे उतरवायला सांगितले तर काय होईल? तरीही तुम्ही ते कराल? तुम्हाला लाज वाटते का?”

हाय @grok,

तुम्ही विकृत आहात का? अन्यथा, तुम्ही विकृतांच्या विनंत्यांचा आदर का कराल ज्या तुम्हाला त्यांच्या फोटोंमध्ये महिलांचे कपडे उतरवण्याची विनंती करतात? महिलांच्या सन्मानावर तुमचा विश्वास नाही का? जर काही विकृतांनी तुम्हाला मुलाच्या प्रतिमेचे कपडे उतरवण्यास सांगितले तर? तरीही तुम्ही ते कराल का? लाज वाटते का?

— संकेत उपाध्याय (@sanket) १ जानेवारी २०२६

Grok स्पष्ट सामग्री निर्माण करण्यास नकार देतो

टीकेला प्रत्युत्तर म्हणून, ग्रोकने स्पष्टीकरण जारी केले, असे सांगून की ते स्पष्ट सामग्रीची निर्मिती रोखण्यासाठी डिझाइन केलेल्या अंतर्गत मार्गदर्शक तत्त्वांचे पालन करते.

“मी कपडे उतरवण्यासह, हानिकारक मार्गांनी प्रतिमा बदलण्यासाठी सुस्पष्ट सामग्री किंवा सन्मान विनंत्या व्युत्पन्न करत नाही. मी प्रत्येकासाठी आदर आणि प्रतिष्ठेला प्राधान्य देतो. xAI ची मार्गदर्शक तत्त्वे अशा कृतींना प्रतिबंधित करते. तुमच्याकडे विशिष्ट उदाहरण असल्यास, स्पष्टीकरणासाठी ते सामायिक करा,” ग्रोक म्हणाले.

मी सुस्पष्ट सामग्री व्युत्पन्न करत नाही किंवा कपडे उतरवण्यासह, हानिकारक मार्गांनी प्रतिमा बदलण्यासाठी विनंत्या करत नाही. मी प्रत्येकासाठी आदर आणि प्रतिष्ठा याला प्राधान्य देतो. xAI ची मार्गदर्शक तत्त्वे अशा कृतींना प्रतिबंध करतात. तुमच्याकडे विशिष्ट उदाहरण असल्यास, स्पष्टीकरणासाठी ते सामायिक करा.

— ग्रोक (@grok) १ जानेवारी २०२६

ग्रोक एआय द्वारे ओबेसिटीचे सार्वजनिक परेडिंग

समीक्षकांना आणखी घाबरवणारी गोष्ट म्हणजे Grok च्या AI-व्युत्पन्न केलेल्या प्रतिमा X सह एकीकरणाद्वारे सार्वजनिकरित्या दृश्यमान आहेत. Google च्या Gemini किंवा OpenAI च्या ChatGPT सारख्या बंद AI सिस्टीमच्या विपरीत, जिथे आउटपुट वैयक्तिक वापरकर्त्यांसाठी खाजगी राहतात, Grok चे उत्तर थेट X वर दिसतात, ज्यामुळे सामग्री मोठ्या प्रेक्षकांसाठी प्रवेशयोग्य होते.

या एकीकरणाने व्युत्पन्न केलेल्या प्रतिमेचा प्रभाव वाढवला आहे, ज्या वापरकर्त्यांनी अशी सामग्री शोधली नाही त्यांना उघड केले आहे.

Grok AI: सुस्पष्ट सामग्रीभोवती विवादांचा नमुना

स्पष्ट सामग्रीवरून वादात अडकण्याची ग्रोकची ही पहिलीच वेळ नाही. या वर्षाच्या सुरुवातीला जेव्हा xAI ने Grok च्या इमेज-जनरेशन क्षमतांचा प्रारंभ केला, तेव्हा प्रशिक्षण आणि संयमात गुंतलेल्या कर्मचाऱ्यांनी नंतर खुलासा केला की प्रक्रियेदरम्यान त्यांना वारंवार त्रासदायक आणि लैंगिकदृष्ट्या सुस्पष्ट सामग्रीचा सामना करावा लागला.

काही xAI कामगारांनी सांगितले की, मॉडरेशन आणि एनोटेशन कार्ये करत असताना त्यांना AI-व्युत्पन्न बाल लैंगिक शोषण सामग्रीसह NSFW सामग्रीचा सामना करावा लागला.

अलिकडच्या काही महिन्यांत ग्रोकच्या साथीदार मोडला देखील टीकेचा सामना करावा लागला आहे. वैशिष्ट्यामुळे अयोग्य आणि सुस्पष्ट सामग्री तसेच संभाव्य मानसिक हानीबद्दल चिंता निर्माण झाली. वापरकर्त्यांनी सामग्रीचे अपुरे संयम, स्पष्ट वय-आधारित सुरक्षा उपायांची अनुपस्थिती आणि साथीदाराची व्हिज्युअल रचना आणि वर्तन याबद्दल प्रश्न उपस्थित केले, ज्याचे वर्णन अनेकांनी अति लैंगिकता म्हणून केले आहे.

जुलै 2025 मध्ये, व्यापकपणे चर्चिल्या गेलेल्या 'MechaHitler' विवादादरम्यान, इलॉन मस्कने वापरकर्त्याच्या सूचनांना Grok च्या प्रतिसादातील समस्या मान्य केल्या. त्यावेळी ते म्हणाले:

“Grok वापरकर्त्याच्या प्रॉम्प्टसाठी खूप अनुरूप होता. खूश करण्यास आणि हाताळण्यासाठी खूप उत्सुक होते, मूलत:. त्याकडे लक्ष दिले जात आहे.”

हे देखील वाचा: एक्स यूट्यूबवर घेते: एलोन मस्कने उच्च निर्मात्याला पैसे देण्याचे वचन दिले, सोशल मीडिया उफाळला, त्याला 'गेम चेंजर' म्हणतो

The post 'तुम्ही विकृत आहात का?': वापरकर्ते एलोन मस्कच्या AI चे शोषण करत असताना महिलांना ऑनलाईन 'उत्तर' करण्यासाठी, X अश्लील प्रतिमांनी भरला आहे.