एलोन मस्कच्या नेतृत्वाखालील X ने जागतिक आक्रोशानंतर ग्रोकची आक्षेपार्ह प्रतिमा निर्मिती अक्षम केली

एलोन मस्कच्या नेतृत्वाखालील X ने जागतिक टीका आणि नियामक दबावानंतर ग्रोकचे विवादास्पद प्रतिमा निर्मिती वैशिष्ट्य अक्षम केले आहे. एआय चॅटबॉटच्या “स्पायसी मोड” ने महिला आणि मुलांचे लैंगिक संबंध बनवलेले डीपफेक सक्षम केले, ज्यामुळे भारत आणि कॅलिफोर्नियामध्ये तपास सुरू झाला.

नवी दिल्ली: लक्षणीय जागतिक प्रतिक्रियांचा सामना केल्यानंतर, द एलोन मस्क-लेड X सोशल मीडिया प्लॅटफॉर्मने गुरुवारी Grok चे आक्षेपार्ह प्रतिमा निर्मिती वैशिष्ट्य अक्षम केले.

कृत्रिम बुद्धिमत्ता-सक्षम स्क्विट वापरकर्त्याचे प्रीमियम खाते आहे की नाही याची पर्वा न करता यापुढे महिलांच्या आक्षेपार्ह प्रतिमा निर्माण करण्यात सक्षम राहणार नाही.

“आम्ही Grok खात्याला बिकिनीसारख्या कपड्यांमध्ये वास्तविक लोकांच्या प्रतिमा संपादित करण्यास परवानगी देण्यापासून रोखण्यासाठी तांत्रिक उपाय लागू केले आहेत. हे निर्बंध सशुल्क सदस्यांसह सर्व वापरकर्त्यांना लागू होते,” प्लॅटफॉर्मच्या सुरक्षा खात्याने X वरील पोस्टमध्ये म्हटले आहे.

xAI ला Grok च्या “स्पायसी मोड” वैशिष्ट्यामुळे अनेक देशांच्या उष्णतेचा सामना करावा लागला, ज्याने वापरकर्त्यांना “तिला बिकिनीमध्ये ठेवा” किंवा “तिचे कपडे काढा” यासारख्या साध्या मजकूराचा वापर करून महिला आणि मुलांचे लैंगिक डीपफेक तयार करण्यास अनुमती दिली. अनेक देशांनी एकतर चॅटबॉटचा प्रवेश अवरोधित केला आहे किंवा त्यांचे स्वतःचे प्रोब सुरू केले आहेत.

इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालय (MeitY) ने xAI कडून कारवाईचा अहवाल मागवला आणि अमेरिकेच्या कॅलिफोर्निया राज्याच्या ऍटर्नी जनरलने Grok च्या विकसकाची चौकशी सुरू केली.

पुढे, 28 नागरी समाज गटांच्या युतीने बुधवारी Apple आणि Google च्या सीईओंना खुली पत्रे सादर केली आणि लैंगिक चित्रांच्या वाढीदरम्यान त्यांच्या ॲप स्टोअरमधून Grok आणि X वर बंदी घालण्याची विनंती केली.

आता, X ने सशुल्क वापरकर्त्यांसाठी प्रतिमा निर्माण आणि संपादित करण्याची क्षमता देखील प्रतिबंधित केली आहे. यापूर्वी, ग्रोकने अशा प्रतिमांची निर्मिती केवळ सशुल्क वापरकर्त्यांपुरती मर्यादित केली होती.

X प्लॅटफॉर्मवर Grok खात्याद्वारे प्रतिमा तयार करणे आणि प्रतिमा संपादित करण्याची क्षमता आता केवळ सशुल्क सदस्यांसाठी उपलब्ध आहे,” X ने सांगितले की, “ज्या व्यक्ती कायद्याचे किंवा आमच्या धोरणांचे उल्लंघन करण्यासाठी Grok खात्याचा दुरुपयोग करण्याचा प्रयत्न करतात त्यांना जबाबदार धरले जाऊ शकते” याची खात्री करण्यात मदत करून संरक्षणाचा अतिरिक्त स्तर जोडतो.

प्लॅटफॉर्मने असेही नमूद केले आहे की ते उच्च-प्राधान्य उल्लंघनात्मक सामग्री काढून टाकण्यासाठी कारवाई करेल, ज्यामध्ये बाल लैंगिक अत्याचार सामग्री (CSAM) आणि गैर-सहमतीची नग्नता समाविष्ट आहे. नियमांचे उल्लंघन करणाऱ्या खात्यांवर योग्य ती कारवाई केली जाईल.

डिसेंबरमध्ये, IT मंत्रालयाने X ला “लागू कायद्यांचे उल्लंघन करून तयार केलेल्या किंवा प्रसारित केलेल्या सर्व सामग्रीचा विलंब न करता, प्रवेश काढून टाकण्यास किंवा अक्षम करण्यास” सांगितले होते.

मंत्रालयाने X ला त्याच्या सेवा अटी आणि AI वापर निर्बंध लागू करण्याचे निर्देश दिले होते आणि महिला आणि मुलांची लैंगिक स्पष्ट प्रतिमा तयार करण्यासाठी Grok वापरणारी खाती निलंबित किंवा समाप्त करण्यासह “मजबूत प्रतिबंधात्मक उपाय” घ्या.

X ने भारतातील Grok च्या प्रतिमा निर्मिती क्षमतांचा वापर करून व्युत्पन्न केलेल्या अश्लील सामग्रीचे आणि लैंगिकदृष्ट्या सुस्पष्ट प्रतिमांचे जवळपास 3,500 तुकडे काढून टाकले. प्लॅटफॉर्मने 600 वापरकर्ते ओळखले आणि त्यांना प्रतिबंधित केले ज्यांनी लैंगिकरित्या सुस्पष्ट प्रतिमा निर्माण करण्यासाठी AI चॅटबॉटचा गैरवापर केला होता.