आपण मृतांना अपमान करू शकत नाही. परंतु याचा अर्थ असा नाही की आपण त्यांना खोलवर भरले पाहिजे.

दिवंगत अभिनेता रॉबिन विल्यम्सची मुलगी झेल्डा विल्यम्स यांच्या वडिलांच्या चाहत्यांसाठी एक मार्मिक संदेश आहे.

“कृपया, फक्त मला वडिलांचे एआय व्हिडिओ पाठविणे थांबवा. मला ते पहायचे आहे यावर विश्वास ठेवणे थांबवा किंवा मला ते समजेल. मी नाही आणि मी नाही,” असे तिने सोमवारी तिच्या इन्स्टाग्राम स्टोरीवरील एका पोस्टमध्ये लिहिले. “जर तुम्हाला काही सभ्यता मिळाली असेल तर फक्त त्याच्यासाठी आणि माझ्यासाठी हे करणे थांबवा, प्रत्येकासाठी अगदी, पूर्ण थांबवा. हा मुका आहे, हा वेळ आणि शक्तीचा अपव्यय आहे आणि माझ्यावर विश्वास ठेवा, त्याला पाहिजे तेच नाही.”

ओपनईच्या सोरा 2 व्हिडिओ मॉडेल आणि सोरा सोशल अ‍ॅपच्या रिलीझच्या काही दिवसानंतर विल्यम्सला हे पोस्ट करण्यास कदाचित योगायोग नाही, ज्यामुळे वापरकर्त्यांना स्वत: चे, त्यांचे मित्र आणि काही कार्टून वर्णांचे अत्यंत वास्तववादी डीपफेक्स तयार करण्याची शक्ती मिळते.

त्यामध्ये मृत लोकांचा देखील समावेश आहे, जे उशिर वाजत आहेत कारण तो आहे मृत व्यक्तीला अपराधी करणे बेकायदेशीर नाहीस्टुडंट प्रेस लॉ सेंटरनुसार.

सोरा आपल्याला जिवंत लोकांचे व्हिडिओ व्युत्पन्न करू देणार नाही – जोपर्यंत तो स्वत: चा नसल्यास किंवा एखाद्या मित्राने ज्याने आपल्याला त्यांची प्रतिरूप वापरण्याची परवानगी दिली आहे (किंवा “कॅमिओ” ओपनई कॉल केल्याप्रमाणे). परंतु या मर्यादा मेलेल्यांना लागू होत नाहीत, जे बहुधा रोडब्लॉक्सशिवाय व्युत्पन्न केले जाऊ शकतात. अद्याप आमंत्रणाद्वारे उपलब्ध असलेल्या अॅपला मार्टिन ल्यूथर किंग, ज्युनियर, फ्रँकलिन डेलानो रुझवेल्ट आणि रिचर्ड निक्सन, तसेच बॉब रॉस, जॉन लेनन, अ‍ॅलेक्स ट्रेबेक आणि हो, रॉबिन विल्यम्स सारख्या मृत सेलिब्रिटींनी भरलेल्या अॅपला पूर आला आहे.

ओपनई मृतांचे व्हिडिओ व्युत्पन्न करण्याची ओळ कशी काढते हे अस्पष्ट आहे. उदाहरणार्थ, 2024 मध्ये मरण पावलेला माजी राष्ट्रपती जिमी कार्टर किंवा २०० in मध्ये मायकल जॅक्सनचा मृत्यू होणार नाही, जरी २०१ 2014 मध्ये मरण पावलेल्या रॉबिन विल्यम्सच्या समानतेसह व्हिडिओ तयार केले गेले आहेत. आणि ओपनईचे कॅमियो वैशिष्ट्य लोकांना इतरांनी तयार केलेल्या व्हिडिओंमध्ये ते कसे दिसतात याबद्दल सूचना सेट करण्यास अनुमती देते – सोराच्या लवकर टीकेला उत्तर देणारे मार्ग – मृतकांना असे काही सांगत नाही. मी पैज लावतो की रिचर्ड निक्सन त्याच्या थडग्यात फिरत आहे जर त्याने पोलिसांच्या निर्मूलनासाठी वकिलांनी बनविलेले दीपफेक पाहिले तर.

ओपनईने डेपफेकिंग मृत लोकांच्या परवानगीवर टिप्पणीसाठी वाचनाच्या विनंतीला प्रतिसाद दिला नाही. तथापि, हे शक्य आहे की विल्यम्ससारख्या खोलवर डेडफेकिंग मृत सेलिब्रिटी फर्मच्या स्वीकार्य पद्धतींमध्ये आहेत; कायदेशीर उदाहरण शो मृताच्या मानहानीसाठी कंपनीला जबाबदार धरले जाणार नाही.

विल्यम्स यांनी लिहिले, “वास्तविक लोकांच्या वारसांना हे पाहण्यासारखे आहे की 'हे अस्पष्टपणे दिसते आणि त्यांच्यासारखे वाटते जेणेकरून ते पुरेसे आहे,” फक्त इतर लोक भयानक टिक्कटोक स्लॉपला वेडेपणाने मंथन करू शकतात, ”विल्यम्स यांनी लिहिले.

ओपनईच्या समीक्षकांनी कंपनीवर अशा मुद्द्यांवर वेगवान आणि लूज दृष्टिकोन ठेवल्याचा आरोप केला आहे, म्हणूनच पीटर ग्रिफिन आणि पिकाचू सारख्या कॉपीराइट केलेल्या पात्रांच्या एआय क्लिप्सने सुटकेनंतर सोराला त्वरीत पूर आला. मुख्य कार्यकारी अधिकारी सॅम ऑल्टमॅन म्हणाले की, हॉलिवूड स्टुडिओ आणि एजन्सींना त्यांचा आयपी सोरा-व्युत्पन्न व्हिडिओंमध्ये समाविष्ट करायचा नसेल तर स्पष्टपणे निवडण्याची आवश्यकता आहे. मोशन पिक्चर असोसिएशनने यापूर्वीच या विषयावर कारवाई करण्याचे आवाहन केले आहे, घोषणा “सुप्रसिद्ध कॉपीराइट कायदा निर्मात्यांच्या हक्कांचे रक्षण करतो आणि येथे लागू होतो अशा निवेदनात. त्यानंतर कंपनी या पदावर उलट करेल, असे त्यांनी म्हटले आहे.

सोरा कदाचित आतापर्यंतच्या लोकांसाठी प्रवेश करण्यायोग्य सर्वात धोकादायक डीपफेक-सक्षम एआय मॉडेल आहे, कारण त्याचे आऊटपुट किती वास्तववादी आहेत. Xai LAM च्या मागे सारख्या इतर प्लॅटफॉर्मवर, परंतु सोरापेक्षा अगदी कमी संरक्षक आहेत, ज्यामुळे अश्लील व्युत्पन्न करणे शक्य होते वास्तविक लोकांचे डीपफेक? इतर कंपन्या ओपनई पर्यंत पकडत असताना, आम्ही आपल्या स्वत: च्या वैयक्तिक प्लेथिंग्जप्रमाणे वास्तविक लोक – जिवंत किंवा मृत – वागलो तर आम्ही एक भयानक उदाहरण ठेवू.