डीपफेकवर केंद्र सरकारचा मोठा हल्ला, ३ तासात डीपफेक काढणे बंधनकारक

आर्टिफिशियल इंटेलिजन्सच्या माध्यमातून तयार होणाऱ्या डीपफेक आणि सिंथेटिक सामग्रीच्या वाढत्या धोक्यावर केंद्र सरकारने कठोर भूमिका घेतली आहे. इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने (MeitY) मंगळवारी (10 फेब्रुवारी) अनुपालन नियम आणखी कडक करण्यासाठी सोशल मीडिया प्लॅटफॉर्मसाठी सुधारित मार्गदर्शक तत्त्वे जारी केली. हे नियम फेसबुक, इन्स्टाग्राम, यूट्यूब सारख्या मोठ्या सोशल मीडिया मध्यस्थांना थेट लागू होतील.

नवीन फ्रेमवर्क अंतर्गत, सोशल मीडिया कंपन्यांना सर्व एआय-व्युत्पन्न किंवा एआय-सुधारित सामग्री स्पष्टपणे लेबल करणे बंधनकारक आहे. यासह, अशा सामग्रीमध्ये एम्बेडेड आयडेंटिफायर देखील असले पाहिजेत, जेणेकरुन त्याच्या मूळ आणि छेडछाडीबद्दलची माहिती अबाधित राहील. सर्वात महत्त्वाची तरतूद अशी आहे की जर कोणताही कृत्रिम किंवा डीपफेक सामग्री सरकारने ध्वजांकित केली असेल किंवा न्यायालयाचा आदेश असेल तर प्लॅटफॉर्मला जास्तीत जास्त तीन तासांच्या आत ते काढून टाकावे लागेल.

सरकारने एक मोठी तांत्रिक त्रुटीही बंद केली आहे. आता कोणतेही डिजिटल प्लॅटफॉर्म एआय लेबल्स किंवा त्यांच्याशी संबंधित मेटाडेटा काढून टाकणे, बदलणे किंवा दडपण्याची परवानगी देऊ शकणार नाही. त्याचा उद्देश सिंथेटिक सामग्रीचा ट्रेल जतन करणे हा आहे जेणेकरुन वापरकर्ते आणि तपास एजन्सी ओळखू शकतील की व्हिडिओ, प्रतिमा किंवा ऑडिओ खरा आहे की डॉक्टर केलेला आहे.

नियमांची अंमलबजावणी करण्यासाठी मध्यस्थांना या तांत्रिक उपायांचा अवलंब करावा लागेल. यामध्ये स्वयंचलित साधनांचा समावेश आहे जे बेकायदेशीर, लैंगिक शोषण किंवा दिशाभूल करणारी AI-व्युत्पन्न सामग्रीचा प्रसार ओळखू शकतात आणि प्रतिबंधित करू शकतात. या आदेशात भारतीय न्याय संहिता, 2023, लैंगिक गुन्ह्यांपासून बालकांचे संरक्षण कायदा (POCSO), 2012 आणि स्फोटक पदार्थ कायदा, 1908 सारख्या कायद्यांसह भारतीय कायद्यांचा स्पष्ट उल्लेख केला आहे.

MeitY ने प्लॅटफॉर्मवर संवादाची जबाबदारीही टाकली आहे. मार्गदर्शक तत्त्वांनुसार, एआयच्या गैरवापराशी संबंधित नियमांचे उल्लंघन केल्यामुळे होणाऱ्या परिणामांबद्दल मध्यस्थांनी दर तीन महिन्यांनी किमान एकदा आपल्या वापरकर्त्यांना सोप्या आणि प्रभावी पद्धतीने माहिती दिली पाहिजे. ही माहिती प्लॅटफॉर्म नियम, गोपनीयता धोरण, वापरकर्ता करार किंवा इतर योग्य माध्यमांद्वारे प्रदान केली जाऊ शकते.

एआय व्युत्पन्न माहितीची निर्मिती, बदल, होस्टिंग, प्रकाशन किंवा शेअरिंगशी संबंधित कोणतेही उल्लंघन कोणत्याही प्लॅटफॉर्मवर आढळल्यास, कारवाई करणे बंधनकारक असेल. सरकारचा भर जलद आणि सक्रिय कारवाईवर आहे, कारण डीपफेक आणि बनावट सामग्री खूप वेगाने व्हायरल होतात.

मसुद्यात वापरकर्त्यांच्या जबाबदाऱ्याही निश्चित करण्यात आल्या आहेत. आता वापरकर्त्यांना हे उघड करावे लागेल की त्यांनी पोस्ट केलेला मजकूर एआयने तयार केला आहे की बदलला आहे. त्या बदल्यात, प्लॅटफॉर्मना तंत्रज्ञानाचा अवलंब करावा लागेल जे या घोषणांची पडताळणी करू शकेल आणि दुरुपयोग टाळू शकेल.

जरी बऱ्याच सोशल मीडिया कंपन्या आधीच एआय सामग्री लेबल करण्यासाठी वैशिष्ट्ये ऑफर करतात, नवीन मार्गदर्शक तत्त्वे या ऐच्छिक उपायांना बंधनकारक बनवतात.

हे देखील वाचा:

सायबर गुन्ह्यांवर कठोर यंत्रणा आवश्यक, एजन्सी एकत्र काम करा : शहा!

ऑक्टोबर-डिसेंबर तिमाहीत भारतात बेरोजगारीचा दर घटला!

भारत आणि ब्रिटनमध्ये सामाजिक सुरक्षा योगदान करारावर शिक्कामोर्तब!