ओपनएआयने सोरा ॲपमधील सेलिब्रिटींच्या डीपफेक व्हिडिओंवर बंदी घातली आहे

OpenAI चे नवीन पाऊल

OpenAI ने आपल्या नवीनतम AI व्हिडिओ जनरेशन ॲप, Sora मध्ये, सेलिब्रिटींच्या डीपफेक व्हिडिओंच्या निर्मितीवर पूर्णपणे बंदी घालून महत्त्वपूर्ण बदल केला आहे. सोरा 2 मॉडेल लॉन्च केल्यानंतर, अनेक वापरकर्त्यांनी प्रसिद्ध सेलिब्रिटींची प्रतिमा आणि आवाज वापरून बनावट व्हिडिओ तयार करण्याचा प्रयत्न केला, ज्यामुळे सोशल मीडिया आणि मीडियामध्ये वाद निर्माण झाला.

ब्रायन क्रॅन्स्टनची तक्रार

नुकत्याच मिळालेल्या माहितीनुसार, 'ब्रेकिंग बॅड' अभिनेता ब्रायन क्रॅन्स्टनने त्याची प्रतिमा आणि आवाज परवानगीशिवाय वापरला जात असल्याची सार्वजनिक तक्रार केली तेव्हा हा मुद्दा वाढला. त्याने ते अमेरिकेच्या मीडिया युनियन SAG-AFTRA सोबत उभे केले, जे 1.7 लाखांहून अधिक कलाकारांचे प्रतिनिधित्व करते. क्रॅन्स्टन म्हणाले की, हा केवळ त्यांच्या ओळखीचा प्रश्न नाही, तर सर्व कलाकारांच्या ओळखीच्या रक्षणाचा प्रश्न आहे. ओपनएआयने उचललेल्या पावलांचे त्यांनी कौतुक केले आहे.

मृत सेलिब्रिटींच्या कुटुंबियांची चिंता

हे लक्षात घेण्यासारखे आहे की केवळ जिवंत कलाकारच नाही तर रॉबिन विल्यम्स आणि जॉर्ज कार्लिन यांसारख्या दिवंगत सेलिब्रिटींच्या कुटुंबांनीही ओपनएआयकडे तक्रार केली होती. ते म्हणाले की परवानगीशिवाय त्यांच्या प्रियजनांचे आवाज आणि प्रतिमा वापरणे अनैतिक आहे.

OpenAI चे नवीन धोरण

OpenAI ने एका निवेदनात म्हटले आहे की कंपनी आता “ऑप्ट इन पॉलिसी” स्वीकारत आहे. याचा अर्थ असा की कोणत्याही व्यक्तीचा आवाज किंवा प्रतिमा त्याने परवानगी दिली तरच वापरली जाईल. कंपनीने कबूल केले की भूतकाळात काही “अनवधानाने पिढ्या” होत्या आणि आता सुरक्षा उपाय मजबूत केले जात आहेत.

सोरा ॲपचे कॅमिओ वैशिष्ट्य

सूत्रांनी दिलेल्या माहितीनुसार, सोरा ॲपचे कॅमिओ फीचर वापरकर्त्यांना त्यांचा स्वतःचा AI अवतार तयार करण्यास आणि व्हिडिओमध्ये समाविष्ट करण्यास अनुमती देते. तथापि, काही वापरकर्त्यांनी सेलिब्रिटींचे डीपफेक व्हिडिओ तयार करण्यासाठी याचा गैरवापर केला, ज्यामुळे कंपनीला हे वैशिष्ट्य मर्यादित करावे लागले. सध्या, ॲप केवळ iOS वापरकर्त्यांसाठी उपलब्ध आहे आणि Android समर्थन लवकरच जोडले जाईल.

मागील विवाद

सोरा ॲप वादात येण्याची ही पहिलीच वेळ नाही. यापूर्वी, OpenAI ला मार्टिन ल्यूथर किंग जूनियर सारख्या ऐतिहासिक व्यक्तींशी संबंधित आक्षेपार्ह आणि वर्णद्वेषी मजकूर ब्लॉक करावा लागला होता. आता कंपनीने स्पष्ट केले आहे की कोणत्याही सार्वजनिक किंवा ऐतिहासिक व्यक्तीचे प्रतिनिधी त्यांच्या ओळखीचा वापर प्रतिबंधित करण्यासाठी औपचारिक विनंती करू शकतात.