Grok ने AI सह अश्लील चित्रे बनवण्यास बंदी, X चा निर्णय

Grok AI धोरण: XAI ने विकसित केलेले आणि X मध्ये समाविष्ट केलेले Grok हे एआय टूल सध्या वादाच्या भोवऱ्यात सापडले आहे. वापरकर्त्यांद्वारे तिच्या गैरवापरामुळे उद्भवलेल्या अश्लील प्रतिमांच्या मुद्द्यावरून तीव्र टीका होत असताना, सोशल मीडिया प्लॅटफॉर्मने आता ग्रोकवर नवीन निर्बंध जाहीर केले आहेत. आता हे टूल खऱ्या लोकांचे फोटो अशा प्रकारे संपादित करू शकणार नाही की ते उत्तेजक किंवा आक्षेपार्ह पोशाखात दिसतील. हा निर्णय यूके आणि अमेरिका सारख्या अनेक देशांमध्ये व्यक्त केल्या जात असलेल्या चिंतेच्या पार्श्वभूमीवर घेण्यात आला आहे, जिथे लोकांच्या प्रतिमा अश्लील रीतीने सादर करण्यासाठी एआय टूल्सचा गैरवापर केला जात होता.

कंपनीची स्थिती

X ने घोषणा केली की कंपनीने तांत्रिक बदल लागू केले आहेत, कारण Grok वास्तविक च्या फोटोंमध्ये हा प्रकार संपादित करू शकत नाही त्यांना बिक किंवा इतर भड़काऊ कपड्यांना सादर केले जाऊ शकते. हे निर्बंध सर्व वापरकर्त्यांना लागू होईल, मग ते विनामूल्य वापरकर्ते असोत किंवा सशुल्क सदस्यत्व असलेले असोत. AI-व्युत्पन्न सामग्रीमुळे होणारी संभाव्य हानी टाळण्यासाठी टेक कंपन्यांवर सरकारी अधिकारी आणि नियामकांकडून दबाव वाढत आहे.

सरकारी कारवाई

xAI वर Grok च्या 'स्पायसी मोड' वैशिष्ट्यामुळे आंतरराष्ट्रीय स्तरावर दबाव वाढत होता. या फीचरच्या मदतीने वापरकर्ते सामान्य मजकूराद्वारे महिला आणि मुलांचे आक्षेपार्ह डीपफेक फोटो तयार करू शकतात. 10 जानेवारी रोजी, इंडोनेशिया हा सेवा पूर्णपणे अवरोधित करणारा पहिला देश बनला. एक दिवसानंतर मलेशियानेही असाच निर्णय घेतला.

भरतने रविवारी सांगितले की X ने हजारो पोस्ट काढून टाकल्या आहेत आणि तक्रारींनंतर अनेक वापरकर्त्यांच्या खात्यांवर कारवाई केली आहे. दरम्यान, ब्रिटनच्या मीडिया रेग्युलेटर ऑफकॉमने कबूल केले आहे की एक्सने लैंगिक पात्रांबाबत ब्रिटनचे कायदे तोडले आहेत की नाही याची चौकशी केली जाईल.

फ्रान्सच्या मुलांचे आयुक्त साराह एल हेरी यांनीही सांगितले की त्यांनी ग्रोकशी संबंधित प्रकरणे फ्रेंच सरकारी वकील, मीडिया नियामक आर्कॉम आणि युरोपियन युनियनकडे पाठवली आहेत.