केंद्राने ग्रोकचा गैरवापर केला, 'अश्लील आणि लैंगिकदृष्ट्या सुस्पष्ट' सामग्रीवर X ला नोटीस जारी केली

By Marathi On Jan 3, 2026

नवी दिल्ली: इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने (MeitY) X Corp ला एक औपचारिक नोटीस जारी केली आहे, ज्याने महिलांना लक्ष्य करणारी अश्लील, लैंगिकदृष्ट्या स्पष्ट आणि अपमानास्पद सामग्री तयार करण्यासाठी आणि प्रसारित करण्यासाठी तिच्या AI चॅटबॉट Grok च्या कथित गैरवापराबद्दल गंभीर चिंता व्यक्त केली आहे. मंत्रालयाने प्लॅटफॉर्मला 72 तासांच्या आत तपशीलवार कृती अहवाल (ATR) सादर करण्याचे निर्देश दिले आहेत, त्याचे पालन न केल्यास कायदेशीर परिणामांचा इशारा दिला आहे.

2 जानेवारी 2026 रोजीच्या नोटिसमध्ये, MeitY ने म्हटले आहे की संसदीय भागधारकांसह, X वरील सामग्रीच्या काही श्रेणी शालीनता आणि अश्लीलतेशी संबंधित भारतीय कायद्यांचे उल्लंघन करतात असे वारंवार निवेदने प्राप्त झाली आहेत. मंत्रालयाने नमूद केले की, X प्लॅटफॉर्ममध्ये समाकलित Grok AI, बनावट खाती तयार करण्यासाठी आणि प्रॉम्प्ट, इमेज मॅनिपुलेशन आणि AI-जनरेट केलेल्या आउटपुटद्वारे अश्लील आणि अपमानकारक पद्धतीने महिलांच्या कृत्रिम प्रतिमा आणि व्हिडिओ तयार करण्यासाठी कथितपणे गैरवापर केला जात आहे.

सुरक्षा उपायांमध्ये अपयश

MeitY ने म्हटले आहे की अशा पद्धती प्लॅटफॉर्म-स्तरीय सुरक्षा आणि अंमलबजावणी यंत्रणेच्या “गंभीर अपयश” दर्शवतात, जे कृत्रिम बुद्धिमत्ता तंत्रज्ञानाचा घोर गैरवापर करतात. माहिती तंत्रज्ञान कायदा, 2000 आणि माहिती तंत्रज्ञान (मध्यस्थ मार्गदर्शक तत्त्वे आणि डिजिटल मीडिया नैतिकता संहिता) नियम, 2021 अंतर्गत X त्याच्या वैधानिक देय परिश्रम दायित्वांचे पुरेसे पालन करत नाही.

मंत्रालयाने X ला आठवण करून दिली की IT कायद्याच्या कलम 79 अंतर्गत मध्यस्थांसाठी उपलब्ध कायदेशीर सुरक्षित हार्बर सशर्त आहे आणि स्वयंचलित नाही. एक महत्त्वपूर्ण सोशल मीडिया मध्यस्थ म्हणून, X ने सामग्री नियंत्रण टाइमलाइनचे काटेकोरपणे पालन करणे, बेकायदेशीर सामग्री त्वरित काढून टाकणे, अश्लील सामग्रीचा प्रसार रोखण्यासाठी स्वयंचलित साधने तैनात करणे आणि त्याच्या मुख्य अनुपालन अधिकाऱ्याचे प्रभावी कार्य सुनिश्चित करणे आवश्यक आहे.

दंडात्मक कारवाईचा इशारा

नोटीसमध्ये असेही अधोरेखित करण्यात आले आहे की एआय-सक्षम साधनांसह अश्लील, लैंगिकदृष्ट्या सुस्पष्ट किंवा पेडोफिलिक सामग्री होस्ट करणे किंवा निर्माण करणे, आयटी कायद्याच्या कलम 66E, 67, 67A आणि 67B सह, अनेक कायद्यांतर्गत दंडात्मक तरतुदींना आकर्षित करते, भारतीय न्याय संहिता आणि महिला संरक्षण कायदा (आयटी कायदा) लैंगिक गुन्ह्यांपासून मुलांचे संरक्षण कायदा.

MeitY ने पुढे भारतीय नागरीक सुरक्षा संहिता अंतर्गत अनिवार्य अहवाल दायित्वांकडे लक्ष वेधले आणि असे नमूद केले की काही सायबर गुन्ह्यांचा अहवाल देण्यात अयशस्वी झाल्यास गुन्हेगारी उत्तरदायित्व स्वतंत्रपणे आमंत्रित केले जाऊ शकते.

इतर निर्देशांसह, X ला Grok च्या तांत्रिक डिझाइन आणि सुरक्षा रेलिंगचे त्वरित पुनरावलोकन करण्यास, त्याच्या सेवा अटींची काटेकोरपणे अंमलबजावणी करण्यास, विलंब न करता सर्व बेकायदेशीर सामग्री काढून टाकण्यास आणि चालू, ऑडिट करण्यायोग्य अनुपालन सुनिश्चित करण्यास सांगितले आहे. मंत्रालयाने चेतावणी दिली की सतत उल्लंघन केल्यामुळे वैधानिक प्रतिकारशक्ती कमी होऊ शकते आणि प्लॅटफॉर्म आणि त्याच्या जबाबदार अधिकाऱ्यांवर कठोर कायदेशीर कारवाई होऊ शकते.

प्रियंका चतुर्वेदीने X वर ग्रोकचा गैरवापर केला

आदल्या दिवशी, शिवसेना (UBT) खासदार प्रियांका चतुर्वेदी यांनी महिलांच्या सुरक्षेसाठी X च्या AI साधनांमध्ये मजबूत सुरक्षा सुनिश्चित करण्यासाठी केंद्राच्या हस्तक्षेपाची मागणी केली.

इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्री अश्विनी वैष्णव यांना लिहिलेल्या पत्रात, तिने AI टूल Grok on X च्या गैरवापरावर ध्वजांकित केले, असा आरोप केला आहे की पुरुष बनावट खाती वापरत आहेत आणि स्त्रियांच्या फोटोंसह लैंगिकतेसाठी प्रॉम्प्ट करतात, ज्यात महिलांनी स्वतः शेअर केले आहे.

“हे केवळ बनावट खात्यांद्वारे फोटो शेअर करण्यापुरते मर्यादित नाही तर ते स्वतःचे फोटो पोस्ट करणाऱ्या महिलांनाही लक्ष्य करत आहेत. हे अस्वीकार्य आहे आणि अल फंक्शनचा घोर गैरवापर आहे. मी तुम्हाला आयटी आणि कम्युनिकेशनच्या स्थायी समितीचा सक्रिय सदस्य म्हणून लिहित आहे आणि एक मंत्री या नात्याने तुम्हाला X सोबत हे जोरदारपणे उचलण्याची विनंती करण्यासाठी तुम्हाला विनंती करत आहे.

चतुर्वेदी पुढे म्हणाले की या विनंत्यांचे पालन करून ग्रोक असे वर्तन सक्षम करत आहे.