भारत सरकारने डीपफेक्सचा सामना करण्यासाठी कठोर नियम प्रस्तावित केले, AI सामग्री लेबलिंग अनिवार्य केले

भारत सरकारने AI-व्युत्पन्न डीपफेक आणि सिंथेटिक मीडियाच्या वाढत्या धोक्याला तोंड देण्यासाठी IT नियम, 2021 मध्ये सुधारणा प्रस्तावित केल्या आहेत. मसुदा मोठ्या सोशल मीडिया प्लॅटफॉर्मसाठी कठोर बंधनांसह, अशा सामग्रीसाठी स्पष्ट लेबलिंग, ट्रेसेबिलिटी आणि मेटाडेटा एम्बेडिंग अनिवार्य करतो.

नवी दिल्ली: चे स्पष्ट लेबलिंग अनिवार्य करून सरकारने बुधवारी आयटी नियमांमध्ये बदल प्रस्तावित केले AI-व्युत्पन्न सामग्री आणि डीपफेक आणि चुकीच्या माहितीपासून वापरकर्त्यांना होणारी हानी रोखण्यासाठी सिंथेटिक माहितीची पडताळणी आणि ध्वजांकन करण्यासाठी Facebook आणि YouTube सारख्या मोठ्या प्लॅटफॉर्मची जबाबदारी वाढवणे.

आयटी मंत्रालयाने नमूद केले आहे की सोशल प्लॅटफॉर्मवर व्हायरल होत असलेल्या डीपफेक ऑडिओ, व्हिडिओ आणि सिंथेटिक मीडियाने “खोटेपणाची खात्री पटवून देणारे” तयार करण्यासाठी जनरेटिव्ह AI ची क्षमता दर्शविली आहे, जिथे अशा सामग्रीचा चुकीची माहिती पसरवण्यासाठी, प्रतिष्ठा खराब करण्यासाठी, निवडणुकीत हाताळण्यासाठी किंवा प्रभाव पाडण्यासाठी किंवा आर्थिक फसवणूक करण्यासाठी “शस्त्र” केले जाऊ शकते.

आयटी नियमांमधील प्रस्तावित सुधारणा लेबलिंग, ट्रेसेबिलिटी आणि कृत्रिमरित्या व्युत्पन्न केलेल्या माहितीशी संबंधित उत्तरदायित्वासाठी स्पष्ट कायदेशीर आधार प्रदान करतात.

कृत्रिमरित्या व्युत्पन्न केलेली माहिती स्पष्टपणे परिभाषित करण्याव्यतिरिक्त, मसुदा दुरुस्ती, ज्यावर हितधारकांकडून 6 नोव्हेंबर 2025 पर्यंत टिप्पण्या मागवल्या गेल्या आहेत, अशा प्रकारच्या सामग्रीला अस्सल मीडियापासून वेगळे करण्यासाठी कृत्रिमरित्या व्युत्पन्न किंवा सुधारित माहितीसाठी लेबलिंग, दृश्यमानता आणि मेटाडेटा एम्बेडिंग अनिवार्य आहे.

कठोर नियमांमुळे वाजवी आणि योग्य तांत्रिक उपायांद्वारे सिंथेटिक माहितीची पडताळणी आणि ध्वजांकन करण्यात महत्त्वपूर्ण सोशल मीडिया मध्यस्थांची (50 लाख किंवा अधिक नोंदणीकृत वापरकर्ते) जबाबदारी वाढेल.

मसुदा नियम प्लॅटफॉर्मला AI-व्युत्पन्न सामग्रीला प्रमुख मार्कर आणि आयडेंटिफायरसह लेबल करणे अनिवार्य करते, व्हिज्युअल डिस्प्लेच्या किमान 10 टक्के किंवा ऑडिओ क्लिपच्या कालावधीच्या प्रारंभिक 10 टक्के कव्हर करते.

अपलोड केलेली माहिती कृत्रिमरित्या व्युत्पन्न केली गेली आहे की नाही याबद्दल वापरकर्ता घोषणा प्राप्त करण्यासाठी महत्त्वपूर्ण सोशल मीडिया प्लॅटफॉर्मची आवश्यकता आहे, अशा घोषणांची पडताळणी करण्यासाठी वाजवी आणि प्रमाणबद्ध तांत्रिक उपायांचा वापर करणे आणि AI-व्युत्पन्न माहिती स्पष्टपणे लेबल केलेली आहे किंवा ती सूचित करणारी नोटीस सोबत आहे याची खात्री करणे आवश्यक आहे.

मसुदा नियम पुढे मध्यस्थांना अशी लेबले किंवा आयडेंटिफायर सुधारणे, दाबणे किंवा काढून टाकण्यास प्रतिबंधित करते.

“संसदेत तसेच अनेक मंचांवर, समाजाला हानी पोहोचवणाऱ्या डीपफेकबद्दल काहीतरी केले जावे अशी मागणी करण्यात आली आहे… लोक काही प्रमुख व्यक्तींची प्रतिमा वापरतात, ज्यामुळे त्यांच्या वैयक्तिक जीवनावर आणि गोपनीयतेवर परिणाम होतो… वापरकर्त्यांना एखादी गोष्ट सिंथेटिक आहे की खरी हे कळावे यासाठी आम्ही ही पावले उचलली आहेत. वापरकर्त्यांना ते काय पहात आहेत हे जाणून घेणे महत्त्वाचे आहे,” असे आश्विना मंत्री म्हणाले. दृश्यमानता दरम्यान स्पष्ट फरक सक्षम करेल कृत्रिम आणि प्रामाणिक सामग्री.

एकदा नियमांना अंतिम रूप दिल्यानंतर, कोणत्याही अनुपालनामध्ये अपयशाचा अर्थ मोठ्या प्लॅटफॉर्मद्वारे उपभोगलेल्या सुरक्षित बंदर कलमाचे नुकसान होऊ शकते.

जनरेटिव्ह एआय टूल्सची वाढती उपलब्धता आणि परिणामी कृत्रिमरित्या व्युत्पन्न केलेल्या माहितीच्या प्रसारासह (deepfakes), अशा तंत्रज्ञानाचा गैरवापर करून वापरकर्त्यांना हानी पोहोचवणे, चुकीची माहिती पसरवणे, निवडणुकांमध्ये फेरफार करणे किंवा व्यक्तींची तोतयागिरी करणे या संभाव्यतेत लक्षणीय वाढ झाली आहे, असे IT मंत्रालयाने म्हटले आहे.

त्यानुसार, IT मंत्रालयाने IT नियम, 2021 मध्ये सुधारणांचा मसुदा तयार केला आहे, ज्याचा उद्देश मध्यस्थांसाठी, विशेषतः महत्त्वपूर्ण सोशल मीडिया मध्यस्थांसाठी (SSMIs), तसेच कृत्रिमरित्या व्युत्पन्न केलेल्या सामग्रीची निर्मिती किंवा सुधारणा करण्यास सक्षम करणाऱ्या प्लॅटफॉर्मसाठी योग्य परिश्रम दायित्व मजबूत करण्याच्या उद्देशाने तयार केला आहे.

या मसुद्यामध्ये कृत्रिमरीत्या व्युत्पन्न केलेल्या सामग्रीला कृत्रिमरीत्या किंवा अल्गोरिदमिक पद्धतीने तयार केलेली, व्युत्पन्न केलेली, सुधारित केलेली किंवा संगणकीय संसाधनाचा वापर करून वाजवीपणे प्रामाणिक किंवा सत्य वाटणारी माहिती म्हणून परिभाषित करणारे नवीन कलम सादर केले आहे.

आयटी मंत्रालयाच्या एका नोटमध्ये म्हटले आहे की जागतिक स्तरावर आणि भारतात, धोरणकर्ते बनावट किंवा कृत्रिम प्रतिमा, व्हिडिओ आणि ऑडिओ क्लिप (डीपफेक) बद्दल अधिक चिंतित आहेत जे वास्तविक सामग्रीपासून वेगळे आहेत आणि गैर-सहमतीने अंतरंग किंवा अश्लील प्रतिमा तयार करण्यासाठी, जनतेची दिशाभूल करण्यासाठी किंवा बनावट सामग्रीद्वारे आर्थिक फायदा घेण्यासाठी किंवा चुकीच्या बातम्यांद्वारे वचनबद्ध करण्यासाठी उघडपणे वापरल्या जात आहेत.

फेसबुक, व्हॉट्सॲप आणि इतर सारख्या जागतिक सोशल मीडिया प्लॅटफॉर्मसाठी भारत हा टॉप मार्केटमध्ये असल्याने या नवीनतम हालचालीला महत्त्व आहे.

एका वरिष्ठ मेटा अधिकाऱ्याने गेल्या वर्षी सांगितले की, मेटा एआय वापरासाठी भारत ही सर्वात मोठी बाजारपेठ बनली आहे. या वर्षी ऑगस्टमध्ये, OpenAI सीईओ सॅम ऑल्टमन यांनी सांगितले होते की, भारत, जो सध्या कंपनीसाठी दुसऱ्या क्रमांकाची सर्वात मोठी बाजारपेठ आहे, ती लवकरच जागतिक स्तरावर सर्वात मोठी बनू शकेल.

बदललेले नियम OpenAI च्या Sora किंवा Gemini वर व्युत्पन्न केलेल्या सामग्रीवर देखील लागू होतील का असे विचारले असता, सूत्रांनी सांगितले की अनेक प्रकरणांमध्ये, व्हिडिओ तयार केले जातात परंतु प्रसारित केले जात नाहीत, परंतु जेव्हा व्हिडिओ प्रसारासाठी पोस्ट केला जातो तेव्हा बंधन ट्रिगर केले जाते. अशा प्रकरणात जबाबदारी मध्यस्थांवर असेल जे लोकांसमोर मीडिया प्रदर्शित करतात आणि प्लॅटफॉर्मवर मीडिया होस्ट करत असलेल्या वापरकर्त्यांवर असेल.

व्हाट्सएप सारख्या मेसेजिंग प्लॅटफॉर्मवर एआय सामग्रीच्या उपचारांबद्दल, सूत्रांनी सांगितले की एकदा ते त्यांच्या निदर्शनास आणून दिले की, ते व्हायरल होण्यापासून रोखण्यासाठी त्यांना पावले उचलावी लागतील.

भारतामध्ये AI-व्युत्पन्न डीपफेकमध्ये चिंताजनक वाढ दिसून आली आहे, ज्यामुळे न्यायालयाच्या हस्तक्षेपास प्रवृत्त केले गेले आहे. सर्वात अलीकडील व्हायरल प्रकरणांमध्ये सद्गुरुच्या बनावट अटकेचे चित्रण करणाऱ्या दिशाभूल करणाऱ्या जाहिरातींचा समावेश आहे, ज्या दिल्ली उच्च न्यायालयाने यूएस डिजिटल दिग्गज Google ला काढून टाकण्याचे आदेश दिले.

या महिन्याच्या सुरुवातीला, ऐश्वर्या राय बच्चन आणि अभिषेक बच्चनने कथित एआय डीपफेक व्हिडिओंबद्दल 4 कोटी रुपयांची नुकसान भरपाई मागणाऱ्या खटल्यात YouTube आणि Google वर खटला दाखल केला.