Grok मधून अश्लील साहित्य काढून टाकण्यासाठी केंद्र X ला निर्देश

गैरव्यवहारांवर शासनाची कठोर कारवाई

केंद्र सरकारने ग्रोकच्या गैरवापरावर कठोर पावले उचलली आहेत. सरकारने सोशल मीडिया प्लॅटफॉर्म 'X' ला पत्र पाठवून Grok आणि त्याच्या इतर AI-आधारित सेवांचा गैरवापर झाल्यास तत्काळ अनुपालन सुनिश्चित करण्याचे निर्देश दिले आहेत. सरकारने विशेषत: अश्लील, नग्न आणि लैंगिकदृष्ट्या सुस्पष्ट सामग्रीची निर्मिती, प्रकाशन आणि सामायिकरण प्रतिबंधक अहवाल मागवले आहेत.

ग्रोकचा परिचय आणि त्याचे विवाद

एलोन मस्कच्या कंपनी xAI ने विकसित केलेले Grok हे AI चॅटबॉट आणि सहाय्यक उपकरण आहे. हे केवळ प्रश्नांची उत्तरे देऊ शकत नाही तर चित्रे देखील तयार करू शकते. अलीकडेच ग्रोकच्या गैरवापराची अनेक प्रकरणे उघडकीस आली आहेत, त्यामुळे लोकांनी यावर कठोर कारवाईची मागणी सरकारकडे केली आहे.

बनावट खाते समस्या

सरकारने विशेषत: पत्रात म्हटले आहे की “ooGrok AI” सेवेचा वापर महिलांची अश्लील चित्रे आणि व्हिडिओ अपमानास्पद पद्धतीने सादर करण्यासाठी केला जात आहे. बनावट खात्यांद्वारे हा गैरवापर होत असून, त्यामुळे समस्या अधिक गंभीर होत आहे.

सुरक्षेच्या उपाययोजनांवर प्रश्न उपस्थित करण्यात आले

या पत्रात म्हटले आहे की, ही केवळ फेक आयडीची समस्या नाही, तर ग्रोकच्या माध्यमातून सोशल मीडियावर फोटो शेअर करणाऱ्या महिलांनाही लक्ष्य केले जात आहे. अशा परिस्थितीत, त्यांच्या फोटोंशी छेडछाड Grok AI द्वारे केली जाते, जी प्लॅटफॉर्मच्या सुरक्षा उपायांमध्ये गंभीर कमतरता दर्शवते.

कायद्याचे पालन करण्याची बाब

इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने माहिती तंत्रज्ञान कायदा, 2000 आणि संबंधित नियमांचे आपल्या सेवेद्वारे योग्यरित्या पालन केले जात नसल्याची माहिती दिली. या प्रकारांवर कडक कारवाई होणे गरजेचे असल्याचे स्पष्ट झाले आहे.