संपादकीय: Grok वर जागतिक आक्रोश

एका अंदाजानुसार, ग्रोकने दर मिनिटाला एक गैर-सहमतीची लैंगिक प्रतिमा निर्माण केली. चिंताजनकपणे, Grok अशा सामग्रीचे उत्पादन आणि सानुकूलित करणे सोपे करते

सोशल मीडिया प्लॅटफॉर्म X च्या आर्टिफिशियल इंटेलिजेंस चॅटबॉट, Grok द्वारे व्युत्पन्न केलेल्या त्रासदायक प्रतिमांबद्दलचा संताप, नवीन तंत्रज्ञानाच्या दुष्ट अनुप्रयोगावरील वाढत्या जागतिक चिंतांवर प्रकाश टाकतो. अमेरिकन अब्जाधीश एलोन मस्कच्या मालकीचे ग्रोक आपल्या वापरकर्त्यांना त्यांच्या संमतीशिवाय 'डिजिटल कपडे उतरवण्याची' परवानगी देते आणि सेलिब्रिटींच्या आणि अगदी अल्पवयीन मुलांच्या लैंगिक स्पष्ट प्रतिमा पोस्ट करतात. ही एक घृणास्पद आणि घृणास्पद प्रवृत्ती आहे जी कोणत्याही परिस्थितीत थांबवण्याची गरज आहे. भारतासह जगभरातील नियामक नवीनतम कसे तपासायचे याचे पर्याय शोधत आहेत धोकाजे X च्या ढिले कंटेंट मॉडरेशन पॉलिसी आणि शक्तिशाली जनरेटिव्ह एआय टूल्सच्या प्रवेशयोग्यतेच्या संयोजनाचा परिणाम आहे. गेल्या वर्षी ऑगस्टमध्ये, xAI ने “मसालेदार” मोडसह, Grok Imagine नावाचे एक प्रतिमा-जनरेटिंग वैशिष्ट्य लाँच केले, ज्याचा वापर स्पष्ट प्रतिमा निर्माण करण्यासाठी केला गेला. ग्रोक मुख्य चॅटबॉट्समध्ये त्याच्या परवानगी देणाऱ्या भूमिकेत आणि सुरक्षा उपायांमधील स्पष्ट छिद्रांमध्ये अद्वितीय असल्याचे दिसते. वापरकर्त्यांना आढळले की Grok तयार करत आहे बनावटविनंतीनुसार महिला आणि मुलींच्या वास्तविक फोटोंची लैंगिक सूचक संपादने. एका अंदाजानुसार, ग्रोकने दर मिनिटाला एक गैर-सहमतीची लैंगिक प्रतिमा निर्माण केली. चिंताजनकपणे, Grok अशा सामग्रीचे उत्पादन आणि सानुकूलित करणे सोपे करते. आणि बॉटचा खरा प्रभाव एका प्रमुख सोशल मीडिया प्लॅटफॉर्मसह त्याच्या एकत्रीकरणाद्वारे येतो, ज्यामुळे ते गैर-सहमतीच्या, लैंगिक चित्रांना व्हायरल घटनेत बदलू देते. केंद्र सरकारच्या अलीकडील निर्देशानंतर, X ने आता सामग्रीचे 3,500 पेक्षा जास्त तुकडे ब्लॉक केले आहेत आणि 600 हून अधिक खाती हटवली आहेत आणि देशाच्या ऑनलाइन सामग्री कायद्यांचे पालन करून ऑपरेशनचे आश्वासन दिले आहे.

Grok AI वापरून सुस्पष्ट सामग्री तयार करण्यावर आक्षेप घेणारा भारत एकटा नाही. इंडोनेशियाने नुकतेच चॅटबॉट ओव्हर निलंबित केले चिंता AI-व्युत्पन्न पोर्नोग्राफिक सामग्रीबद्दल, आणि यूके, फ्रान्स आणि मलेशियाने देखील भूतकाळात सामग्री निर्मितीच्या विरोधात मागे ढकलले आहे. अलीकडील प्रकरण एक नियामक आव्हान सादर करते जे X च्या पलीकडे विस्तारते. माहिती तंत्रज्ञान कायद्याच्या कलम 79 अंतर्गत, प्लॅटफॉर्म वापरकर्त्यांनी पोस्ट केलेल्या सामग्रीसाठी दायित्वापासून सुरक्षित बंदर प्रतिकारशक्तीचा आनंद घेतात, जर ते योग्य परिश्रम आवश्यकतांचे पालन करतात. पण Grok सारख्या जनरेटिव्ह AI सिस्टीम एक संदिग्ध जागा व्यापतात — ते वापरकर्ता सामग्री प्रसारित करणारे निष्क्रिय प्लॅटफॉर्म नाहीत किंवा पारंपारिक वापरकर्ते स्वतंत्रपणे सामग्री तयार करतात. निष्क्रीय व्यासपीठाऐवजी, सामग्री निर्माता म्हणून Grok चे वर्गीकरण करण्याचे कायदेशीर परिणाम तपासण्याची गरज आहे. हे भारत प्लॅटफॉर्मवर एआय-व्युत्पन्न सामग्रीचे नियमन कसे करते याचे उदाहरण प्रस्थापित करण्यात मदत करेल. हे नियम इतर प्लॅटफॉर्मवर लागू करण्यासाठी तसेच त्यांच्या AI बॉट्सने बेकायदेशीर सामग्री तयार केली असल्यास ते लागू केले जावे. Grok प्लॅटफॉर्मचा गैरवापर हा केवळ बनावट खात्यांपुरता मर्यादित नव्हता तर त्यामध्ये महिलांनी अपलोड केलेले वैध फोटो आणि व्हिडिओ देखील समाविष्ट होते जे नंतर हाताळले गेले. AI प्रॉम्प्ट आणि सिंथेटिक आउटपुट. आतापर्यंत, भारताचा नियामक प्रतिसाद नुकसानास प्रतिसाद देण्यावर अधिक केंद्रित आहे. AI द्वारे व्युत्पन्न होणाऱ्या सुस्पष्ट सामग्रीला आळा घालण्यासाठी सक्रिय धोरण असण्याची नितांत गरज आहे.