केंद्राने एक्सला 'अश्लील, नग्न, अश्लील आणि लैंगिकदृष्ट्या सुस्पष्ट सामग्री' 72 तासांत काढून टाकण्यास सांगितले- द वीक

केंद्रीय इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने X ला एक औपचारिक नोटीस जारी केली होती जेव्हा त्यांच्या AI प्लॅटफॉर्म Grok चा “अश्लील” प्रतिमा तयार करण्यासाठी गैरवापर करण्यात आला होता.

नोटिसमध्ये, मंत्रालयाने एलोन मस्कच्या मालकीच्या सोशल मीडिया प्लॅटफॉर्मला 72 तासांमध्ये “अश्लील, नग्न, अश्लील आणि लैंगिकदृष्ट्या सुस्पष्ट सामग्री” काढून टाकण्यास सांगितले आणि Grok च्या “तांत्रिक, प्रक्रियात्मक आणि प्रशासन-स्तर” फ्रेमवर्कचे त्वरित सर्वसमावेशक पुनरावलोकन करण्यास सांगितले.

“हे विशेषतः निदर्शनास आले आहे की 'Grok AI' नावाची सेवा तुम्ही विकसित केली आहे आणि X प्लॅटफॉर्मवर एकात्मिक आणि उपलब्ध करून दिली आहे, वापरकर्त्यांद्वारे महिलांच्या अश्लील प्रतिमा किंवा व्हिडिओ होस्ट करण्यासाठी, तयार करण्यासाठी, प्रकाशित करण्यासाठी किंवा शेअर करण्यासाठी बनावट खाती तयार करण्यासाठी गैरवापर केला जात आहे आणि त्यांना असभ्यपणे बदनाम करण्याचा प्रयत्न केला जात आहे,” असे पत्र वाचले.

असे उल्लंघन हे AI चा घोर गैरवापर असल्याचे निदर्शनास आणून, संरक्षण आणि अंमलबजावणी यंत्रणेचे अपयश असल्याचे म्हटले आहे. माहिती तंत्रज्ञान कायदा, 2000 आणि IT (मध्यस्थ मार्गदर्शक तत्त्वे आणि डिजिटल मीडिया आचारसंहिता) नियम, 2021 अंतर्गत X वैधानिक देय परिश्रम दायित्वांमध्ये गंभीर त्रुटी आहेत हे देखील जोडले आहे.

केंद्र सरकारने X ला सविस्तर कारवाईचा अहवाल मंत्रालयाला सादर करण्यास सांगितले. मंत्रालयाने पुढे चेतावणी दिली की पालन करण्यात अयशस्वी झाल्यास X ला IT कायद्याच्या कलम 79 अंतर्गत सुरक्षित बंदर संरक्षण गमावले जाऊ शकते.

केंद्रीय मंत्री अश्विनी वैष्णव यांनी शुक्रवारी सांगितले की सोशल मीडिया कंपन्यांनी त्यांनी प्रकाशित केलेल्या सामग्रीची जबाबदारी घ्यावी आणि स्थायी समितीने प्लॅटफॉर्मची जबाबदारी निश्चित करण्यासाठी कठोर कायद्याची शिफारस केली आहे.

“त्यांनी प्रकाशित केलेल्या सामग्रीसाठी सोशल मीडिया जबाबदार असावा. हस्तक्षेप आवश्यक आहे,” वैष्णव यांनी ग्रोकच्या गैरवापरावरील प्रश्नाला उत्तर देताना सांगितले.

राज्यसभा सदस्य प्रियंका चतुर्वेदी यांनी वैष्णव यांना पत्र लिहून महिलांचे अश्लील फोटो तयार करण्यासाठी एआय ॲप्सचा गैरवापर होत असल्याच्या वाढत्या घटनांवर तातडीने हस्तक्षेप करण्याची विनंती केली आहे.