महिलेचे म्हणणे आहे की ब्रँडने त्यांच्या उत्पादनाची जाहिरात करण्यासाठी तिच्या एआय डीपफेकचा वापर केला

AI च्या उदयाने कारस्थान आणि दहशत दोन्ही निर्माण केले आहे, विशेषत: या प्रगत तंत्रज्ञानामुळे काही करिअर क्षेत्रातील नोकऱ्या संपुष्टात येऊ शकतात. तथापि, AI बद्दलची एक प्रमुख चिंता ही आहे की काही लोक त्याचा वापर इतरांच्या डीपफेक तयार करण्यासाठी कसा करतील, जे अलीकडे मोठ्या प्रमाणात होत आहे, विशेषत: सेलिब्रिटी आणि ऑनलाइन प्रभावकारांसाठी.

सामग्री निर्माता आणि आई नावाच्या बाबतीत असेच होते सामंथा (सॅम) मॅकिंटॉशTikTok वर एका ब्रँडसाठी उत्पादनाची जाहिरात करताना तिने स्वत:चा व्हिडिओ पाहिल्यावर तिला धक्का बसला, पण ती तिच्या नकळत वापरली गेली असा दावा तिने केला.

महिलेने सांगितले की एका ब्रँडने तिच्या संमतीशिवाय सोशल मीडियावर त्यांच्या उत्पादनाची जाहिरात करण्यासाठी तिच्या एआय डीपफेकचा वापर केला.

सॅमच्या व्हिडिओमध्ये, तिने क्लिपचा एक स्क्रीनशॉट दाखवला जो तिने स्वतः सोशल मीडियावर ऑनलाइन ब्रँडसाठी उत्पादनाचा प्रचार करताना पाहिला होता. तथापि, व्हिडिओमध्ये हा तिचा किंवा तिचा खरा चेहरा नसल्याचे तिने निदर्शनास आणून दिल्यानंतर समस्या उद्भवली. त्याऐवजी, ब्रँडने तिच्या मंजुरीशिवाय बनवलेला आणि वापरला जाणारा AI डीपफेक होता.

“हा माझा व्हिडिओ आहे जो या खात्यावर आहे जो तुम्ही आत्ता पहात आहात,” सॅम म्हणाला. “एआयचा वापर करून एका ब्रँडने माझा चेहरा संपादित केला, माझा डीपफेक केला आणि त्यांचे उत्पादन पुढे नेण्यासाठी ते पुन्हा अपलोड केले.”

संबंधित: AI च्या धोक्यापासून रोगप्रतिकारक होण्यासाठी *आता* करावयाच्या 5 गोष्टी

महिलेने सांगितले की या एआय डीपफेकमुळे ती कधीही तिच्या मुलांचे फोटो किंवा व्हिडिओ ऑनलाइन पोस्ट करत नाही.

सॅमने निदर्शनास आणून दिले की हा व्हिडिओ शोधून हे सिद्ध झाले की केवळ इंटरनेट एक भीतीदायक जागा नाही, परंतु तिने हे देखील स्पष्ट केले की अशा गोष्टींमुळे ती कधीही तिच्या मुलांच्या चेहऱ्याचे फोटो किंवा व्हिडिओ इंटरनेटवर पोस्ट करत नाही.

तिने भर दिला की तुम्हाला खरोखर माहित नाही की कोणत्या प्रकारचे लोक अनोळखी व्यक्तीच्या प्रतिमेचे एआय डीपफेक बनवण्यासारखे अनैतिक काहीतरी करण्याची वाट पाहत आहेत.

सॅमने ठामपणे सांगितले की जर तिच्यासोबत असे काही घडले तर, एखादी व्यक्ती तिच्या मुलांसाठी काय करू शकेल याची ती कल्पनाही करू शकत नाही.

“मला समजत नाही की एखाद्या ब्रँडच्या मागे कोणीही हे ठीक आहे असे कसे समजू शकते. मी हे त्यांच्या निदर्शनास आणून दिल्यावर ३० मिनिटांत ते खाली करण्यात आले. त्यामुळे ते इतक्या लवकर काढून टाकण्यासाठी त्यांना खात्यात प्रवेश मिळणे आवश्यक होते.”

ब्रँडने या समस्येचे निराकरण करण्यात आणि सॅमच्या चिंतेची कबुली देण्यास तत्पर असतानाही, जेव्हा तंत्रज्ञान इतक्या जलद गतीने आणि संरक्षण करू शकत नाही अशा प्रकारे प्रगती करत असल्याचे दिसते तेव्हा ते सुरक्षितता आणि सुरक्षिततेबद्दल एक मोठा प्रश्न उपस्थित करते. लोकांची गोपनीयता.

संबंधित: शिक्षक म्हणतात की सोशल मीडियावर शाळेचे विशिष्ट चित्र पोस्ट करणारे पालक त्यांच्या मुलांना धोक्यात आणत आहेत

सरकारी अधिकाऱ्यांसाठी AI deepfakes ही प्रमुख चिंता आहे.

“आमच्याकडे असलेली एक नंबरची चिंता ही काही आव्हाने आहेत ज्यांचा आम्हाला सामना करावयाचा आहे,” ऍरिझोना राज्य सचिव ॲड्रियन फॉन्टेस यांनी एबीसी न्यूजला सांगितले. “काही अनिश्चितता आहेत, विशेषत: जनरेटिव्ह आर्टिफिशियल इंटेलिजन्स आणि त्या वापरल्या जाणाऱ्या मार्गांसह.”

पावेल डॅनिल्युक | कॅनव्हा प्रो

जून 2023 मध्ये, रेप. रिची टॉरेस (D-NY) आवश्यक असणारे विधेयक सादर केले “कृत्रिम बुद्धिमत्तेद्वारे त्यांचे उत्पादन तयार केले गेले आहे हे उघड करण्यासाठी जनरेटिव्ह आर्टिफिशियल इंटेलिजन्स.”

त्याच महिन्यात, रेप. टेड लियू (D-CA) स्थापन करण्यासाठी विधेयक सादर केले एक कृत्रिम बुद्धिमत्ता आयोग. अतिरिक्त कायदेही होते नियमन करण्याची ओळख करून दिली AI साठी.

AI deepfakes च्या वापराविरुद्ध बोलणारे अनेक सेलिब्रिटी देखील आहेत, ज्यात टेलर स्विफ्ट यांचा समावेश आहे, ज्यांनी सप्टेंबर 2024 मध्ये, इंस्टाग्रामवर खुलासा केला 2024 च्या अध्यक्षीय निवडणुकीसाठी तिने उपराष्ट्रपती कमला हॅरिस यांना पाठिंबा देण्याचे निवडले होते, ज्याचा भाग म्हणून डोनाल्ड ट्रम्प यांना समर्थन करण्यासाठी वापरल्या गेलेल्या AI-व्युत्पन्न केलेल्या वापराचे खंडन केले होते.

अनेक राजकारणी आणि अधिकारी एआय वापराचे नियमन करतात याची खात्री करण्यासाठी किती समर्पित आहेत याचा अर्थ असा नाही की ते सर्वकाही ट्रॅक करू शकतील.

प्यू रिसर्च सेंटरच्या सर्वेक्षणानुसार52% अमेरिकन लोकांना दैनंदिन जीवनात कृत्रिम बुद्धिमत्ता (AI) च्या वाढत्या वापराबद्दल उत्सुकतेपेक्षा जास्त काळजी वाटते. त्याचप्रमाणे, एक मध्ये एप्रिल 2024 मध्ये एलोन विद्यापीठाचे सर्वेक्षण झाले4 पैकी 3 पेक्षा जास्त अमेरिकन लोकांनी सांगितले की त्यांना काळजी वाटते की ते स्वतःहून बनावट फोटो, व्हिडिओ आणि ऑडिओ शोधण्यास तयार नाहीत.

संबंधित: घटस्फोटाच्या वकिलाचे म्हणणे आहे की तिला निवडणुकीच्या आदल्या दिवशी 14 नवीन ग्राहक मिळाले – 'एक अभूतपूर्व आठवडा 5 असेल'

निया टिप्टन ही सर्जनशील लेखन आणि पत्रकारितेतील पदवीधर असलेली कर्मचारी लेखिका आहे जी मनोविज्ञान, नातेसंबंध आणि मानवी अनुभव यावर लक्ष केंद्रित करणाऱ्या बातम्या आणि जीवनशैली विषयांचा समावेश करते.