एआय महिलांचे अश्लील फोटो बनवत आहे, सरकारचा इशारा

नवी दिल्ली. केंद्र सरकारने X ला सक्त ताकीद दिली आहे. Grok AI महिलांचे अश्लील फोटो बनवत असल्याचे केंद्राने म्हटले आहे. त्यामुळे ते तात्काळ काढण्यात यावे. इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने एलोन मस्क यांच्या मालकीच्या सोशल मीडिया प्लॅटफॉर्मच्या मुख्य अनुपालन अधिकाऱ्याला पत्र लिहिले आहे. या पत्रात असे म्हटले आहे की Grok ने त्वरित सर्वसमावेशक पुनरावलोकन करावे आणि बेकायदेशीर सामग्रीचा प्रवेश काढून टाकावा किंवा अक्षम करावा.

तुम्ही चिंता का व्यक्त केली?
माहिती तंत्रज्ञान मंत्रालयाच्या पत्रात म्हटले आहे की, Grok ही सेवा तुम्ही विकसित केली आहे आणि X प्लॅटफॉर्मवर उपलब्ध करून दिली आहे, तिचा वापर महिलांचे अश्लील किंवा अपमानास्पद फोटो आणि व्हिडिओ तयार करण्यासाठी केला जात आहे. याशिवाय चुकीच्या गोष्टी प्रकाशित करण्यासाठी किंवा शेअर करण्यासाठी याचा वापर केला जात आहे. त्यामुळे महिलांचा असभ्य पद्धतीने अपमान केला जात आहे. पत्रात पुढे म्हटले आहे की असे वर्तन प्लॅटफॉर्म-स्तरीय सुरक्षा उपाय आणि प्रणालींचे गंभीर अपयश दर्शवते. हे संबंधित कायद्यांचे उल्लंघन करून AI तंत्रज्ञानाचा गंभीर गैरवापर आहे.

तसेच अहवाल देण्यास सांगितले
मंत्रालयाने X ला तात्काळ अनुपालन सुनिश्चित करण्यास आणि केलेल्या कारवाईचा अहवाल देण्यास सांगितले आहे. नोटिस विशेषत: 'ग्रोक' च्या गैरवापरामुळे निर्माण होणारी अश्लील, नग्न, आक्षेपार्ह किंवा लैंगिकदृष्ट्या सुस्पष्ट सामग्री होस्टिंग, निर्मिती, प्रकाशन, प्रसारण, शेअरिंग किंवा अपलोड करणे रोखण्यासाठी ठोस पावले उचलण्याचा प्रयत्न करते.

कायदेशीर कारवाई होऊ शकते
मंत्रालयाने असा इशारा दिला आहे की विहित वैधानिक तरतुदींचे पालन न करण्याकडे गांभीर्याने पाहिले जाईल आणि असे झाल्यास, प्लॅटफॉर्म, त्याचे जबाबदार अधिकारी आणि कोणत्याही अतिरिक्त सूचना न देता कायद्याचे उल्लंघन करणाऱ्या वापरकर्त्यांवर कठोर कायदेशीर कारवाई केली जाऊ शकते.

आदेशानुसार, अशा परिस्थितीत माहिती तंत्रज्ञान कायदा, आयटी नियम, भारतीय न्यायिक संहिता (BNS), भारतीय नागरी सुरक्षा संहिता (BNSS) आणि इतर लागू कायद्यांतर्गत कारवाई केली जाईल.

!function(){“us strict”;function e(e,t){let n=t.parentNode;n.lastChild===t?n.appendChild(e):n.insertBefore(e,t.nextSibling)}
फंक्शन t(e,t=document){if(t.evaluate)return t.evaluate(e,t,null,9,null).singleNodeValue;e=e.replace(/^\/+/,””);let n=e.split(“/”), l=t;for(let i=0,r=n.i=l&{1}leng)[^\[\]]+)(?:\[(\d+)\])?/.exec(n[i]);if(!a)return null;let[,u,o]=a,f=o?o-1:0;l=l.getElementsByTagName(u)[f]||null} रिटर्न l} फंक्शन n