यूट्यूबवर मोठा आरोप आणि

AI-व्युत्पन्न डीपफेक टूल्स: एका नवीन अहवालानंतर, जगातील दोन सर्वात मोठे सोशल मीडिया प्लॅटफॉर्म यूट्यूब आणि एक्स यांच्याबाबत गंभीर प्रश्न उपस्थित केले जात आहेत. आम्ही तुम्हाला सांगतो की इन्स्टिट्यूट फॉर स्ट्रॅटेजिक डायलॉग (ISD) च्या नुकत्याच झालेल्या अभ्यासात असा दावा करण्यात आला आहे की, या दोन्ही प्लॅटफॉर्मने केवळ चार महिन्यांत लाखो वापरकर्त्यांना अशा AI टूल्सच्या वेबसाइटवर नेले आहे जिथे कोणीही काही क्लिकमध्ये अश्लील चित्रे तयार करू शकतात.

हा अहवाल समोर आल्यानंतर सोशल मीडिया प्लॅटफॉर्मच्या कंटेंट मॉडरेशन पॉलिसी आणि डीपफेकशी संबंधित सुरक्षा व्यवस्था यावर नवीन वादाला तोंड फुटले आहे. याबाबत तज्ज्ञांचे मत आहे की, अशा साधनांचा वाढता वापर ऑनलाइन सुरक्षा आणि गोपनीयता या दोन्हींसाठी मोठा धोका ठरू शकतो.

चार महिन्यांत 57 लाखांहून अधिक भेटींची नोंद

अभ्यासात असे सांगण्यात आले की संशोधकांनी डीपफेक तयार करणाऱ्या 10 सर्वाधिक वापरल्या जाणाऱ्या ॲप्स आणि वेबसाइट्सचे विश्लेषण केले. तपासात असे आढळून आले की डिसेंबर 2025 ते मार्च 2026 दरम्यान, या वेबसाइट्सना सोशल मीडियाद्वारे 5.7 दशलक्षाहून अधिक भेटी दिल्या गेल्या. यामध्ये सर्वात मोठे योगदान YouTube चे होते. अहवालात असेही दिसून आले आहे की YouTube द्वारे 1.82 दशलक्ष भेटी दिल्या गेल्या ज्या एकूण रेफरल रहदारीच्या 30 टक्क्यांपेक्षा जास्त आहेत. या वेबसाइट्सना 1.3 दशलक्षाहून अधिक भेटी देऊन X दुसऱ्या क्रमांकावर आहे.

लिंक्स आणि प्रोमो कोड व्हिडिओद्वारे उपलब्ध होते

या अहवालात असेही समोर आले आहे की ज्या वापरकर्त्यांनी कपडे उतरवण्याचे ॲप सारखे शब्द शोधले त्यांना व्हिडिओ सुचवण्यात आले ज्यामध्ये या एआय टूल्सचे पुनरावलोकन आणि प्रचार केला जात आहे. बऱ्याच व्हिडिओंमध्ये संबंधित वेबसाइट्सचे थेट दुवे आणि विनामूल्य क्रेडिट ऑफर करणाऱ्या प्रोमो कोड देखील असतात, ज्यामुळे या सेवांमध्ये प्रवेश करणे आणखी सोपे होते. याबाबत तज्ज्ञांचे म्हणणे आहे की, असा कंटेंट अल्गोरिदमद्वारे झपाट्याने पसरतो आणि त्याचा गैरवापर होण्याची शक्यता वाढते.

हेही वाचा: iPhone 16 खरेदी करण्याची उत्तम संधी, Apple चा प्रीमियम फोन 13,000 रुपयांपेक्षा जास्त डिस्काउंटसह उपलब्ध, जाणून घ्या संपूर्ण डील.

प्लॅटफॉर्म स्वतःची धोरणे मोडत आहेत का?

या संपूर्ण प्रकरणावर, तज्ञांचे म्हणणे आहे की या निकालांवरून हे स्पष्ट होते की कंपनी अश्लील सामग्रीवर बंदी घालण्याच्या स्वतःच्या धोरणांचे उल्लंघन करत आहे. त्यांचा असा युक्तिवाद आहे की अशा अशोभनीय प्रतिमा निर्माण करणाऱ्या वेबसाइट्स आणि साधनांनाही नियम लागू व्हायला हवेत. आता हा मुद्दा केवळ कंटेंट मॉडरेशनचा नाही तर एआय तंत्रज्ञानाचा जबाबदार वापर आणि सोशल मीडिया प्लॅटफॉर्मच्या उत्तरदायित्वाचाही आहे. या अहवालाच्या आधारे नियामक संस्था आणि टेक कंपन्या काय पावले उचलतात याकडे येणाऱ्या काळात सर्वांचे लक्ष असेल.