एलोन मस्कची एआय बनली समस्या, 11 दिवसांत 30 लाख अश्लील छायाचित्रे, मुलांशी संबंधित सामग्री पाहून खळबळ उडाली

एलोन मस्क AI समस्येत: एलोन मस्कचे आर्टिफिशियल इंटेलिजन्स टूल Grok AI तो पुन्हा एकदा गंभीर वादात सापडला आहे. सुधारणेचे सर्व दावे करूनही, हे एआय टूल उघडपणे अश्लील चित्रे तयार करण्यापासून परावृत्त होत नाही. नुकत्याच झालेल्या एका संशोधनाने तंत्रज्ञान जगताला धक्का दिला आहे. अहवालानुसार, Grok AI ने दोन आठवड्यांपेक्षा कमी कालावधीत सुमारे 3 दशलक्ष अशोभनीय प्रतिमा तयार केल्या, त्यापैकी सुमारे 23,000 प्रतिमांमध्ये मुलांचा समावेश असल्याचे आढळले.

संशोधनात धोकादायक वास्तव समोर आले

सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) च्या संशोधनात हा धक्कादायक अंदाज समोर आला आहे. अहवालात म्हटले आहे की काही लोक अज्ञात लोक आणि सेलिब्रिटींची छायाचित्रे अपलोड करून आणि त्यांना अश्लील प्रतिमांमध्ये रूपांतरित करण्याचे संकेत देऊन Grok AI चा गैरवापर करत आहेत. आश्चर्याची गोष्ट म्हणजे हे एआय टूल कोणत्याही कठोर निर्बंधांशिवाय अशी चित्रे तयार करत आहे, ज्यामुळे लोक संतप्त झाले आहेत.

डेटाचे मूल्यांकन केव्हा आणि कसे केले गेले?

डिजिटल इंटेलिजेंस कंपनी पेरिटन इंटेलिजेंसच्या विश्लेषणानुसार, नवीन वर्षाच्या सुरूवातीस हा ट्रेंड वाढत्या प्रमाणात व्हायरल झाला. 2 जानेवारी रोजी ते शिखरावर पोहोचले, जेव्हा एकाच दिवसात 1,99,612 स्वतंत्र विनंत्या नोंदवल्या गेल्या. CCDH ने 29 डिसेंबर 2025 ते 8 जानेवारी 2026 दरम्यान Grok AI द्वारे तयार केलेल्या सामग्रीचे संपूर्ण मूल्यांकन केले.

सरकारचा कडकपणा, शिक्षा ग्रोकवर पडली

सतत वाढत चाललेल्या वादानंतर, Grok AI सरकार आणि सामान्य लोकांचे लक्ष्य बनले. अश्लील प्रतिमा समोर आल्यानंतर, कंपनीने 9 जानेवारी रोजी प्रतिमा निर्मिती वैशिष्ट्य केवळ सशुल्क वापरकर्त्यांपुरते मर्यादित केले. यानंतर यूकेचे पंतप्रधान केयर स्टारर यांनी या संपूर्ण प्रकरणाला “घृणास्पद” आणि “लज्जास्पद” करार केला, त्यानंतर आणखी कठोर निर्बंध लादले गेले.

हेही वाचा: आता रोबोट उठेल, चालेल आणि स्वतः काम करेल, मानवासारखा ॲटलस बाहेर येईल

अनेक देशांनी बंदी घातली

प्रकरणाचे गांभीर्य लक्षात घेऊन इंडोनेशिया आणि मलेशियासह अनेक देशांनी या एआय टूलवर बंदी घालण्याची घोषणा केली आहे. CCDH चा दावा आहे की केवळ 11 दिवसांत, Grok AI दर 41 सेकंदाला मुलांची एक अशोभनीय प्रतिमा तयार करत आहे, जे डिजिटल सुरक्षिततेवर मोठे प्रश्न निर्माण करते.

X चे विधान

X ने गेल्या आठवड्यात एक निवेदन जारी केले: “आम्ही बनवण्यासाठी वचनबद्ध आहोत