भारताने मस्कच्या X ला “अश्लील” AI सामग्रीवर ग्रोकचे निराकरण करण्याचा आदेश दिला

भारताने इलॉन मस्कच्या X ला त्याच्या AI चॅटबॉट Grok मध्ये तात्काळ तांत्रिक आणि प्रक्रियात्मक बदल करण्याचे आदेश दिले आहेत जेव्हा वापरकर्ते आणि कायदेकर्त्यांनी टूल वापरून तयार केलेल्या महिलांच्या AI-बदललेल्या प्रतिमांसह “अश्लील” सामग्रीच्या निर्मितीला ध्वजांकित केले आहे.

शुक्रवारी, भारताच्या IT मंत्रालयाने मस्कच्या X ला “नग्नता, लैंगिकता, लैंगिक सुस्पष्ट किंवा अन्यथा बेकायदेशीर” सामग्रीचा समावेश असलेल्या सामग्रीच्या निर्मितीवर प्रतिबंध करण्यासह, Grok वर सुधारात्मक कारवाई करण्याचे निर्देश दिले. मंत्रालयाने सोशल मीडिया प्लॅटफॉर्मला “अश्लील, अश्लील, असभ्य, अश्लील, लैंगिकदृष्ट्या सुस्पष्ट, पेडोफिलिक किंवा अन्यथा कायद्यानुसार प्रतिबंधित” समजल्या जाणाऱ्या सामग्रीचे होस्टिंग किंवा प्रसार रोखण्यासाठी केलेल्या पावलांचा तपशीलवार कृती अहवाल सादर करण्यासाठी 72 तासांचा अवधी दिला आहे.

रीड द्वारे पुनरावलोकन केलेल्या ऑर्डरने चेतावणी दिली आहे की पालन करण्यात अयशस्वी झाल्यास X चे “सुरक्षित बंदर” संरक्षण धोक्यात येऊ शकते — भारतीय कायद्यानुसार वापरकर्त्याने व्युत्पन्न केलेल्या सामग्रीच्या दायित्वापासून कायदेशीर प्रतिकारशक्ती.

भारताचे पाऊल हे वापरकर्त्यांनी व्यक्त केलेल्या चिंतेचे पालन करते ज्यांनी ग्रोकची उदाहरणे सामायिक केली ज्यांनी व्यक्तींच्या प्रतिमा बदलण्यास सांगितले – मुख्यतः महिला – त्यांना बिकिनी परिधान केलेले दिसण्यासाठी औपचारिक तक्रार भारतीय खासदार प्रियांका चतुर्वेदी यांच्याकडून. स्वतंत्रपणे, अलीकडील अहवालांमध्ये एआय चॅटबॉटची उदाहरणे ध्वजांकित केली आहेत अल्पवयीन मुलांचा समावेश असलेल्या लैंगिक प्रतिमा व्युत्पन्न केल्याएक समस्या X मान्य केले याआधी शुक्रवारी सुरक्षेतील त्रुटींमुळे झाली होती. त्या प्रतिमा नंतर काढल्या गेल्या.

तथापि, Grok वापरून व्युत्पन्न केलेल्या प्रतिमा ज्याने AI फेरफारद्वारे महिलांना बिकिनी परिधान केल्याचे दिसले ते प्रकाशनाच्या वेळी X वर प्रवेश करण्यायोग्य राहिले, असे वाचले.

भारतीय IT मंत्रालयाने सोमवारी एक व्यापक सल्लागार जारी केल्यानंतर काही दिवसांनी हा नवीनतम आदेश आला आहे, ज्याचे सोशल मीडिया प्लॅटफॉर्मवर रीडने देखील पुनरावलोकन केले होते, त्यांना आठवण करून दिली की अश्लील आणि लैंगिकरित्या सुस्पष्ट सामग्री नियंत्रित करणाऱ्या स्थानिक कायद्यांचे पालन करणे ही वापरकर्त्याने व्युत्पन्न केलेल्या सामग्रीच्या उत्तरदायित्वापासून कायदेशीर प्रतिकारशक्ती राखण्यासाठी एक पूर्व शर्त आहे. सल्लागाराने कंपन्यांना अंतर्गत सुरक्षा बळकट करण्याचे आवाहन केले आणि चेतावणी दिली की असे करण्यात अयशस्वी झाल्यास भारताच्या आयटी आणि गुन्हेगारी कायद्यांतर्गत कायदेशीर कारवाई होऊ शकते.

“पुन्हा पुनरुच्चार केला जातो की वरील आवश्यकतांचे पालन न केल्यास गांभीर्याने पाहिले जाईल आणि तुमच्या प्लॅटफॉर्मवर, त्याचे जबाबदार अधिकारी आणि कायद्याचे उल्लंघन करणाऱ्या प्लॅटफॉर्मवरील वापरकर्त्यांवर पुढील कोणतीही सूचना न देता कठोर कायदेशीर परिणाम होऊ शकतात,” असा इशारा आदेशात दिला आहे.

भारत सरकारने म्हटले आहे की पालन न केल्यास भारताच्या आयटी कायदा आणि गुन्हेगारी कायद्यांतर्गत X विरुद्ध कारवाई होऊ शकते.

भारत, जगातील सर्वात मोठ्या डिजिटल बाजारपेठांपैकी एक, AI-व्युत्पन्न सामग्रीसाठी जबाबदार प्लॅटफॉर्म होल्डिंगमध्ये सरकार किती दूर जाण्यास इच्छुक आहेत यासाठी एक गंभीर चाचणी केस म्हणून उदयास आला आहे. देशात अंमलबजावणीची कोणतीही कठोरता अनेक अधिकारक्षेत्रांमध्ये कार्यरत असलेल्या जागतिक तंत्रज्ञान कंपन्यांवर परिणाम करू शकते.

मस्कच्या X ने भारताच्या सामग्री नियमन नियमांच्या पैलूंना न्यायालयात आव्हान देणे सुरू ठेवल्याने हा आदेश आला आहे, असा युक्तिवाद करत आहे की प्लॅटफॉर्मने बहुतेक ब्लॉकिंग निर्देशांचे पालन केले असले तरीही, फेडरल सरकारच्या टेकडाउन अधिकारांचा धोका जास्त आहे. त्याच वेळी, Grok चा वापर X वापरकर्त्यांद्वारे रिअल-टाइम तथ्य-तपासणीसाठी आणि बातम्यांच्या घटनांवर भाष्य करण्यासाठी वाढत्या प्रमाणात केला जात आहे, ज्यामुळे त्याचे आउटपुट अधिक दृश्यमान – आणि अधिक राजकीयदृष्ट्या संवेदनशील – स्टँडअलोन AI टूल्सच्या तुलनेत.

X आणि xAI ने भारत सरकारच्या आदेशावर टिप्पणीसाठी केलेल्या विनंतीला त्वरित प्रतिसाद दिला नाही.