EU AI कायद्याचे पालन करण्यासाठी OpenAI युरोपियन युनियनमधील ChatGPT आणि Codex द्वारे व्युत्पन्न केलेल्या मजकुरामध्ये अदृश्य वॉटरमार्क जोडणे सुरू करेल, असे कंपनीने सोमवारी सांगितले. ब्लॉग पोस्ट.
EU AI कायद्याचे पारदर्शकता नियमजे 2 ऑगस्ट रोजी लागू झाले, AI कंपन्यांनी AI-व्युत्पन्न सामग्री इतर प्रणाली ओळखू शकतील अशा प्रकारे चिन्हांकित करणे आवश्यक आहे.
ओपनएआयने सांगितले की वॉटरमार्क येत्या आठवड्यात पात्र चॅटजीपीटी आणि कोडेक्स वापरकर्त्यांसाठी सर्व प्लॅनवर आणला जाईल, परंतु केवळ EU मध्ये. जगात कुठेही OpenAI चे API वापरणारे विकसक आजपासून निवडक मॉडेल्ससाठी ते चालू करू शकतात; ते डीफॉल्टनुसार बंद आहे. OpenAI ने म्हटले आहे की ते लाँचच्या वेळी मजकूर वॉटरमार्किंगला जागतिक डीफॉल्ट बनवत नाही.
वॉटरमार्क हे वास्तविक चिन्ह नाही, परंतु मॉडेलच्या शब्द निवडींना सूक्ष्मपणे आकार देऊन कार्य करते, एक नमुना वाचकांना दिसत नाही, परंतु एक डिटेक्टर उचलू शकतो. कारण ते स्वतःच शब्दांमध्ये राहतात, जेव्हा ते कॉपी आणि पेस्ट केले जाते तेव्हा ते मजकूरासह प्रवास करते. ओपनएआयने म्हटले आहे की वॉटरमार्क वापरकर्त्याची ओळख पटत नाही आणि ते चालू केल्यावर त्याच्या मॉडेलच्या कार्यक्षमतेत कोणताही अर्थपूर्ण बदल दिसला नाही.
OpenAI देखील प्रकाशित तांत्रिक अहवाल त्याच्या पद्धतीसाठी, ज्याला टेक्स्टग्रेन म्हणतात, घोषणेच्या बाजूने. पेनसिल्व्हेनिया आणि येल विद्यापीठातील संशोधकांसोबत सह-लिखित, हे वाक्य पूर्ण करण्यासाठी पुढील-शब्दांच्या अंदाजांची क्रमवारी लावण्यासाठी गुप्त की वापरण्याच्या उदाहरणावरून चालते. यापैकी शेकडो नज एकत्र जोडा आणि डिटेक्टर केवळ मजकूर आणि की वापरून एआय-व्युत्पन्न सामग्री शोधू शकतो.
एडिट करून वॉटरमार्क काढता येईल का? OpenAI च्या चाचण्या होय सुचवतात. एका चाचणीत, समानार्थी शब्दांसह 10% शब्द बदलल्याने शोध सुमारे 92% वरून 66% पर्यंत घसरला. कंपनीने असेही म्हटले आहे की लहान परिच्छेद, गणिताची उत्तरे आणि अनुवादित मजकूर शोधणे कठीण आहे.
“या मर्यादांमुळे केवळ मान्यताप्राप्त संशोधक आणि तज्ञ संस्थांना प्रारंभिक डिटेक्टर प्रवेश प्रदान करण्याच्या आमच्या निर्णयाला हातभार लागतो, जे आम्हाला विश्वासार्हता आणि जबाबदार वापरांचे मूल्यांकन करण्यात मदत करू शकतात,” कंपनीने म्हटले आहे.
ओपनएआयने असेही सावध केले की गहाळ वॉटरमार्क “मानवी लेखकत्व सिद्ध करत नाही.” मजकूर खूप लहान किंवा खूप जास्त संपादित केलेला असू शकतो किंवा तो दुसऱ्या कंपनीच्या AI वरून येऊ शकतो.
“(वॉटरमार्क) हे सूचित करू शकते की ओपनएआय प्रणालीने पॅसेजचा भाग व्युत्पन्न केला किंवा त्यावर प्रक्रिया केली, परंतु त्यामध्ये मानवी निर्णय, संपादन किंवा सर्जनशीलता किती गेली हे नाही,” कंपनीने म्हटले आहे.
अँथ्रोपिकने क्लॉडद्वारे व्युत्पन्न केलेला मजकूर वॉटरमार्क करेल असे म्हटल्यानंतर दोन महिन्यांनी ही घोषणा आली आहे, ही चाल जगभरात लागू होत आहे. या निर्णयामुळे काही क्लॉड वापरकर्त्यांकडून प्रतिक्रिया उमटल्या, ज्यांनी असा युक्तिवाद केला की त्यांनी “सूचना, संदर्भ, निर्णय” पुरवले होते तर क्लॉड फक्त “साधन” होता.
OpenAI ने यापूर्वी मजकूर वॉटरमार्क तयार केला होता परंतु वापरकर्ते वॉटरमार्क नसलेल्या प्रतिस्पर्ध्यांकडे स्विच करतील या चिंतेमुळे ते जारी करणे थांबवले, वॉल स्ट्रीट जर्नलने वृत्त दिले आहे 2024 मध्ये.
एन्थ्रोपिक, गुगल, मेटा, मायक्रोसॉफ्ट आणि ओपनएआय या कंपन्यांपैकी आहेत ज्यांनी त्याचे अनुसरण करण्यास वचनबद्ध आहे EU च्या सराव संहिता AI-व्युत्पन्न सामग्रीवर.
तुम्ही आमच्या लेखांमधील लिंक्सद्वारे खरेदी करता तेव्हा, आम्ही एक लहान कमिशन मिळवू शकतो. याचा आमच्या संपादकीय स्वातंत्र्यावर परिणाम होत नाही.
Comments are closed.