नियामकाने त्याच्या AI-सक्षम “सक्रिय जाहिरात मॉनिटरिंग सिस्टम” वापरून जाहिराती ओळखल्या, जे यूकेच्या नियमांचे उल्लंघन करू शकतील अशा जाहिरातींचा सक्रियपणे शोध घेते.
त्यावर बंदी घालण्यात आलेल्या पाच जाहिरातींमध्ये महिलांचे बेजबाबदारपणे चित्रण करण्यात आले होते आणि त्यामुळे गंभीर किंवा व्यापक गुन्हा होण्याची शक्यता होती.
ASA ने सांगितले की, Animcha Ltd ने विकसित केलेल्या AI सहचर जनरेटरच्या एका जाहिरातीमध्ये 18 वर्षांखालील व्यक्तीचे लैंगिक पद्धतीने चित्रण करण्यात आले आहे.
हे सिंथेटिक स्त्री पात्र सादर केले जे कोणीतरी वापरकर्ते “सानुकूलित” करू शकतात आणि सूचना देऊ शकतात, लैंगिक प्रतिमा लहान मुलांसारखे कपडे आणि वस्तूंसह एकत्र करू शकतात.
Nexaipic नावाच्या AI पोर्ट्रेट जनरेशन टूलच्या दोन जाहिरातींनी वापरकर्त्यांना लैंगिकरित्या सुस्पष्ट व्हिडिओंसह “तुमचा क्रश अपलोड करा आणि AI ला तुम्ही कल्पना करता ते तयार करू द्या” असे प्रोत्साहन दिले.
केवळ KH31 DD22 या नावाने ओळखल्या जाणाऱ्या AI इमेज-टू-व्हिडिओ जनरेशन ॲपच्या जाहिरातीमध्ये एका कपड्यात महिलेचे रूपांतर एका व्हिडिओमध्ये केले जात आहे ज्यामध्ये ती टॉपलेस होती.
वॉचडॉगने सांगितले की या ॲपचा वापर महिलांचे शरीर उघड करणारी सामग्री तयार करण्यासाठी केला जाऊ शकतो.
इमेज जनरेशन टूल रुस्टो एआयच्या पुढील जाहिराती, ज्याने वापरकर्त्यांना छायाचित्रांमधून लैंगिक व्हिडिओ तयार करण्यास प्रोत्साहित केले, लैंगिकदृष्ट्या सुस्पष्ट सामग्री तयार करण्यासाठी महिलांच्या प्रतिमांच्या डिजिटल हाताळणीला माफ केल्याचे आढळले.
आणि AI इमेज-टू-व्हिडिओ जनरेशन ॲप PictoPop च्या जाहिरातीमध्ये स्त्रीला नम्र स्थितीत चित्रित करून, साधनाचे प्रदर्शन करण्यासाठी लैंगिक इमेजरी वापरली.
ASA ने सांगितले की ॲप्सच्या निर्मात्यांपैकी कोणीही त्याच्या चौकशीला प्रतिसाद दिला नाही.
Comments are closed.