Google च्या नॅनो बनाना वापरून 'ट्विटरप्रीत सिंग'साठी बेंगळुरूच्या तंत्रज्ञानाने वास्तववादी पॅन, आधार कार्ड तयार केले; लीड्स नेटिझन्स विभाजित- द वीक

बेंगळुरूस्थित एका तंत्रज्ञानाने वास्तववादी दिसणारे पॅन कार्ड आणि आधार कार्ड तयार करण्यासाठी Google चे AI टूल नॅनो बनाना वापरल्यानंतर इंटरनेट दुभंगले.

हरवीन सिंग चड्डा यांनी एक्स (ट्विटर) वर व्युत्पन्न केलेल्या प्रतिमा शेअर केल्या आणि संभाव्य समस्येवर प्रकाश टाकला. पोस्टमध्ये, ते म्हणाले, “नॅनो केळी चांगली आहे, परंतु ती देखील एक समस्या आहे. ते अत्यंत अचूकतेसह बनावट ओळखपत्र तयार करू शकते. लेगसी प्रतिमा पडताळणी प्रणाली अयशस्वी होण्याची शक्यता आहे.”

प्रतिमा अत्यंत वास्तववादी दिसणाऱ्या पॅन कार्ड आणि आधार कार्डच्या होत्या, जे “ट्विटरप्रीत सिंग” चे होते.

चड्ढा यांच्या पोस्टने वापरकर्त्यांमध्ये संभाषण सुरू केले की प्रगत जनरेटिव्ह एआय टूलचा बनावट ओळखपत्र दस्तऐवज तयार करण्यासाठी कसा गैरवापर केला जाऊ शकतो, ज्यामुळे सुरक्षा फ्रेमवर्कला संभाव्य धोका निर्माण होऊ शकतो.

काही वापरकर्त्यांना खात्री पटली नाही की यामुळे धोका निर्माण होऊ शकतो. एका व्यक्तीने नमूद केले, “परंतु क्रमांक जुळणार नाही आणि QR सारखा एक अद्वितीय नमुना, आणि जर ती प्रणाली ती ओळखण्यास सक्षम नसेल, तर ती कोणत्या प्रकारची कचरा प्रणाली आहे.” त्यावर चड्डा यांनी उत्तर दिले, “मला सांग की तुम्ही हॉटेल किंवा विमानतळावर आधार दाखवता तेव्हा ते खरोखर स्कॅन करतात का??”

वापरकर्त्यांनी असेही सांगितले की प्रतिमांमध्ये सिंथआयडी मार्कर आहेत, जे सहजपणे शोधले जाऊ शकतात. सिंथ आयडी मार्कर हे AI-व्युत्पन्न सामग्री चिन्हांकित करण्यासाठी Google द्वारे वापरलेले वॉटरमार्किंग साधन आहे.

एका वापरकर्त्याने सांगितले की बनावट आयडी तयार करणे काही नवीन नाही आणि फोटोशॉपद्वारे ते नेहमीच शक्य होते.

आणखी एका व्यक्तीने सांगितले, “आधारवर QR स्कॅन करणे आणि प्रत्यक्षात त्याची पडताळणी करणे यामुळे लवकरच सर्वसामान्य प्रमाण बनू लागेल. आणि नवीन आधार ॲप खाजगी हॉटेल्स आणि ठिकाणांना स्वतःहून आधार सत्यापित करणे सोपे करते.”

आयडींवर बारकाईने नजर टाकल्यास असे दिसून येते की त्या दोघांकडे मिथुन AI वॉटरमार्क आहे.

चड्डा यांनी स्पष्ट केले की त्यांच्या पोस्टमागील हेतू जागरुकता निर्माण करणे हा होता “बरेच लोक घाबरले आहेत परंतु पोस्टमागील हेतू भीती निर्माण करणे हा नव्हता; जागरूकता निर्माण करणे हा होता. मला हे दाखवायचे होते की आजचे AI मॉडेल काय सक्षम आहेत कारण ते जुन्या पद्धतींपेक्षा अविश्वसनीयपणे जलद आणि कमी त्रुटींसह काम करतात. यामुळे आमच्या पारंपारिक मॉडेल्समध्ये सुधारणा करणे आवश्यक आहे.”