डीपफेक्स आणि लोकशाही-हायपररेलिझम-रीडच्या युगातील सत्य

हायपररेलिझमच्या या युगात, आपण केवळ तथ्यांद्वारेच नव्हे तर संस्था, दक्षता आणि सर्वात महत्त्वाचे म्हणजे, कल्पनाशक्ती, लोकशाहीचे चित्रण करण्याची कल्पनाशक्ती, जिथे सत्यता अजूनही महत्त्वाची आहे तेथे आपण सत्याचा बचाव केला पाहिजे.

Viiveck verma द्वारे

सत्य आणि असत्य दरम्यानच्या दीर्घ लढाईत, नवीनतम आणि सर्वात भयानक शस्त्र यापुढे चुकीची माहिती नाही तर हायपररेलिझम आहे. डीपफेक्स-एआय-व्युत्पन्न प्रतिमा, व्हिडिओ आणि ऑडिओ जे वास्तविक लोकांची नक्कल करतात जे विलक्षण अचूकतेसह आहेत, लोकशाही अखंडतेसाठी वेगवान धोकादायक बनत आहेत. ते फक्त सत्य वाकत नाहीत. ते ते तयार करतात, पिक्सेलद्वारे पिक्सेल.

पारंपारिक प्रकारांच्या राजकीय प्रचाराच्या विपरीत, जे अर्ध-सत्य आणि निवडक संपादनावर अवलंबून असतात, डीपफेक्स संपूर्ण वास्तविकता तयार करतात. युद्ध घोषित करणारा एक राजकीय नेता, लाच स्वीकारणारा न्यायाधीश, पक्षपातीपणाची कबुली देणारे पत्रकार, त्यापैकी काहीही प्रत्यक्षात घडण्याची गरज नाही. हे सर्व सार्वजनिकपणे उपलब्ध सामग्रीवर एआय मॉडेलचे प्रशिक्षण देण्याचे काही तास आहे आणि त्याचा परिणाम वास्तविकतेपासून वेगळा असू शकतो. हायपरकॉन्नेक्टेड जगात जेथे समज बर्‍याचदा वस्तुस्थितीला सामोरे जाते, ही एक धोकादायक संभावना आहे.

काहीही विश्वास ठेवा

धोका काल्पनिक नाही. २०२24 च्या निवडणुकीच्या चक्रात, भारत, सर्वात लोकसंख्या असलेल्या लोकशाहींपैकी एक आणि जगातील सर्वात सक्रिय सोशल मीडिया मार्केटमध्ये यापूर्वीच राजकीय खोलवर अभिसरण दिसले. डिबंक होण्यापूर्वी दाहक टिप्पण्या मोठ्या प्रमाणात प्रसारित करण्यासाठी दिसणार्‍या एका प्रमुख नेत्याची एक क्लिप. हे व्हायरल होण्यासाठी पुरेसे पटले होते, बातम्यांच्या चक्रांवर वर्चस्व गाजविण्याइतके नुकसान होते. सत्य पकडले तेव्हापर्यंत केवळ तेच बनावट बनले होते ही वस्तुस्थिती.

ज्या समाजात व्हॉट्सअ‍ॅप फॉरवर्ड अनेकदा वर्तमानपत्रांची जागा घेतात, व्हायरल अनेकदा सत्यापितांना मारहाण करतात. परंतु डीपफेक्सची समस्या केवळ शोधण्यात आली नाही तर ती एक धूप आहे. विश्वासाची धूप, विश्वासार्हतेची धूप, सत्य ज्ञात आहे या कल्पनेची धूप. एकदा जनतेला हे लक्षात आले की काहीही बनावट केले जाऊ शकते, याचा परिणाम एक प्रकारचा एपिस्टेमिक निहिलिझम आहे. लोक केवळ खोट्या गोष्टीवरच विश्वास ठेवणे थांबवतात परंतु वास्तविक काय आहे यावर विश्वास ठेवणे थांबवते. हे खरे संकट आहे: आपण खोट्या गोष्टींवर विश्वास ठेवू असे नाही, परंतु आपण काहीही विश्वास ठेवणार नाही.

कायदेशीर उपकरणे

लोकशाही सहजपणे हाताळण्यासाठी सुसज्ज आहेत ही समस्या नाही. नियमन हळू, मुद्दाम आणि प्रादेशिक आहे. डीपफेक्स वेगवान, जागतिक आणि विकेंद्रित आहेत. एका देशात तयार केलेला व्हिडिओ तथ्य-चेकर्सना सकाळची कॉफी घेण्यापूर्वी दुसर्‍या निवडणुकीत स्विंग करू शकतो. डिजिटल तोतयागिरीच्या आसपासचे कायदे ठोस आहेत.

डीपफेक्सची समस्या केवळ शोधण्यात एक नाही, ती एक इरोशन आहे – विश्वास, विश्वासार्हता आणि सत्य हे माहित आहे की ही कल्पना आहे

भारतात, माहिती तंत्रज्ञान कायद्याच्या कलम D 66 डी इलेक्ट्रॉनिक माध्यमांचा वापर करून तोतयागिरीकडे लक्ष देते, परंतु ते एआय-व्युत्पन्न अवतारांच्या लक्षात घेऊन तयार केले गेले नाही. आगामी डिजिटल इंडिया कायदा तीक्ष्ण साधने देऊ शकेल, परंतु कायदेशीर उपकरण अद्याप राज्य करण्याच्या प्रयत्नात असलेल्या तंत्रज्ञानाच्या मागे आहे. काही तांत्रिक काउंटरमेझर्स, डिजिटल वॉटरमार्क, ब्लॉकचेन प्रमाणीकरण आणि एआय-डिटेक्शन टूल्ससाठी युक्तिवाद करतात.

हे महत्वाचे आहेत परंतु मूर्ख नाहीत. शोध मॉडेल बर्‍याचदा नवीन-पिढीतील डीपफेक्ससह टिकून राहण्यासाठी संघर्ष करतात, जे रिझोल्यूशन, मोशन फिडेलिटी आणि ऑडिओ मॅचिंगमध्ये वेगाने सुधारत आहेत. जरी एखादा बनावट शोधला गेला, तरीही तो सामायिक केलेला व्यासपीठ निर्णायकपणे कार्य करण्यासाठी खूपच आळशी – किंवा खूपच उदासीन असू शकतो.

इतर प्लॅटफॉर्मच्या जबाबदारीसाठी कॉल करतात, टेक दिग्गजांना एआय-व्युत्पन्न सामग्रीचे लेबल लावण्यासाठी, त्याची विषाणू मर्यादित करण्यास किंवा संदर्भित आच्छादन प्रदान करण्यास उद्युक्त करतात. परंतु ही निराकरणे जटिल नैतिक प्रदेशात जातात. वास्तविक किंवा बनावट असे लेबल असलेले कोण ठरवते? मेटा किंवा एक्स हे राजकीय वास्तवाचे लवाद असावे? प्रतिस्पर्धी आख्यायिका आणि खोल राजकीय ध्रुवीकरणाच्या जगात अशा हालचालींना संरक्षणापेक्षा सेन्सॉरशिप म्हणून पाहिले जाण्याचा धोका आहे.

तरीही, इतर दीर्घकालीन विषाणू म्हणून माध्यम साक्षरतेकडे पाहतात. ते काय पाहतात आणि काय ऐकतात यावर प्रश्न विचारण्यासाठी नागरिकांना साधनांसह सुसज्ज करा, गंभीर वापराची संस्कृती तयार करा. तत्वतः, हा सर्वात लोकशाही उपाय आहे. सराव मध्ये, ही वेळ आणि लक्ष वेधून घेण्याची शर्यत आहे. भारतात, जेथे डिजिटल साक्षरता असमान राहिली आहे, विशेषत: ग्रामीण भागात, आव्हान मजबूत आहे.

तात्विक कोंडी

या चर्चेच्या मूळ म्हणजे एक तत्वज्ञानाची कोंडी आहे: लोकशाहीचे काय होते जेव्हा त्याची मूलभूत धारणा, लोक माहितीच्या निवडी करू शकतात, यापुढे राहत नाहीत? सूचित नागरिकाची कल्पना सत्यापित करण्यायोग्य माहितीच्या उपलब्धतेवर अवलंबून असते. जर तंत्रज्ञान आवाज, चेहरे, भाषणे आणि घटना तयार करू शकत असेल आणि जर त्या बनावट सुधारणांपेक्षा वेगाने पसरल्या तर लोकशाहीच्या हॉल ऑफ मिररमध्ये कार्य करण्यास सुरवात होते. आम्ही ज्या गोष्टींचा सामना करीत आहोत ते केवळ तांत्रिक व्यत्यय नव्हे तर समजूतदारपणाचे संकट आहे.

मागील युगात, प्रचाराने सत्य विकृत केले. यामध्ये, डीपफेक वास्तविक आणि कृत्रिम दरम्यानची सीमा नष्ट करतात. आणि तरीही, उपाय तंत्रज्ञानाची प्रगती थांबविण्याचा असू शकत नाही. एआयकडे कला, शिक्षण आणि प्रवेशयोग्यतेमध्ये कायदेशीर आणि अगदी रोमांचक अनुप्रयोग आहेत. तंत्रज्ञान कसे थांबवायचे हा प्रश्न नाही तर मानवी एजन्सीला त्याच्या तोंडावर पुन्हा कसे सांगायचे आहे.

यासाठी प्रतिसाद, कायदेशीर, तांत्रिक, शैक्षणिक आणि नैतिक यांची युती आवश्यक आहे. लोकशाही आपत्तीनंतर नव्हे तर सरकारांनी तीव्र कायद्यांचा मसुदा तयार केला पाहिजे आणि तातडीने असे केले पाहिजे. टेक कंपन्यांवर दबाव आणला पाहिजे, विनम्रपणे विचारले जाऊ नये, त्यांनी ज्या साधनांना मुक्त केले त्यासाठी जबाबदारी स्वीकारली पाहिजे.

शिक्षक आणि नागरी समाजाने नवीन साक्षरता कार्यक्रमांसाठी दबाव आणला पाहिजे जे लोकांना फॉरेन्सिक डोळ्यासह डिजिटल सामग्री वाचण्यास शिकवतात. आणि शेवटी, नागरिक म्हणून आपण आपल्या स्वतःच्या गुंतागुंत, सत्यापित करण्यापूर्वी खळबळजनक सामायिक करण्याची आपली इच्छा, त्यांना आव्हान देण्याऐवजी आपल्या पक्षपातीपणावर काय चापट मारते यावर विश्वास ठेवला पाहिजे.

डीपफेक्स हे सत्याचा मृत्यू नाही, परंतु ते अद्याप सर्वात धूर्त विरोधक आहेत. हायपररेलिझमच्या या युगात, आपण केवळ तथ्यांद्वारेच नव्हे तर संस्था, दक्षता आणि सर्वात महत्त्वाचे म्हणजे कल्पनाशक्ती, लोकशाहीचे चित्रण करण्याची कल्पनाशक्ती, जिथे सर्व काही बनावट केले जाऊ शकते तरीही.

(लेखक संस्थापक आणि मुख्य कार्यकारी अधिकारी, अपसर्ज ग्लोबल, सह-संस्थापक, ग्लोबल कार्बन वॉरियर्स आणि अ‍ॅडजेक्ट प्रोफेसर, एथम्स कॉलेज आहेत)