क्लॉडचे नवीन वॉटरमार्क कसे कार्य करतील याबद्दल मानववंशीय अधिक तपशील सामायिक करते

मानववंश प्रकाशित एक ब्लॉग पोस्ट शुक्रवारी त्याच्या चॅटबॉट क्लॉडद्वारे व्युत्पन्न केलेल्या मजकूराला वॉटरमार्क कसे केले जाईल याबद्दल काही मूलभूत प्रश्नांची उत्तरे शोधत आहेत. जसे की: वॉटरमार्किंग प्रत्यक्षात कसे कार्य करेल? ते संपादनासह लपवले जाऊ शकते का? आणि याचा कोडवर कसा परिणाम होतो?

क्लॉड वापरकर्ते या आठवड्याच्या सुरुवातीला कंपनीने हे वॉटरमार्किंग EU AI कायद्याच्या पारदर्शकता संहितेचे पालन करण्यासाठी हे वॉटरमार्किंग करत असल्याचे उघड केल्यापासून या हालचालीवर चर्चा करत आहेत, ज्यासाठी AI कंपन्यांनी एआय-व्युत्पन्न सामग्री ओळखणे शक्य करणाऱ्या सिस्टमचा वापर करणे आवश्यक आहे.

Reddit वर, उदाहरणार्थ, एका पोस्टरने हे निष्पाप क्लॉड वापरकर्त्यांविरुद्धचे षड्यंत्र म्हणून वर्णन केले आहे, तर दुसऱ्याने असा दावा केला आहे, “आपल्याला हे नको असलेले एकमेव कारण म्हणजे लोकांशी खोटे बोलणे.” आणि बिझनेस इनसाइडर अहवाल X वरील “डझनभर” वापरकर्त्यांनी परिणाम म्हणून त्यांचे क्लॉड सदस्यत्व रद्द करण्याचा दावा केला आहे.

अँथ्रोपिकची नवीन पोस्ट वॉटरमार्किंग संकल्पनेच्या सामान्य विहंगावलोकनाने सुरू होते, हे स्पष्ट करते की “लो-स्टेक चॉईस” बनवताना — जसे की हवामानाचे वर्णन करण्यासाठी “ओव्हरकास्ट” आणि “ग्रे” या शब्दांमध्ये निवड करणे — क्लॉड त्याच्या प्रतिसादांमध्ये एक पॅटर्न तयार करू शकतो जो “वाचकाला ओळखता येत नाही, परंतु आहे एन्कोड करणारी की ज्याच्याकडे आहे त्यांना शोधता येईल.”

“वॉटरमार्किंग क्लॉडच्या उत्पादनाच्या गुणवत्तेवर परिणाम करत नाही,” कंपनीने सांगितले. “वाचकासाठी, वॉटरमार्क केलेला प्रतिसाद हा अनवॉटरमार्क केलेल्या प्रतिसादापेक्षा वेगळा आहे.”

अधिक विशिष्टपणे, एंथ्रोपिकने 2024 मध्ये Google DeepMind टीमने सांगितलेला SynthID-Text दृष्टिकोन वापरला जाईल आणि वॉटरमार्क डिटेक्शन API रिलीझ करण्याची त्यांची योजना आहे. त्यात असेही नमूद केले आहे की वॉटरमार्किंग हे Pangram सारख्या कंपन्यांद्वारे ऑफर केलेल्या AI शोध पद्धतींपेक्षा वेगळे आहे जे लेखनात “सांगते” शोधतात (जसे की बांधकाम “त्याचे नाही (X), ते (Y)”) AI वापर उघड करणे: “या नमुन्यांची निवड करणे वॉटरमार्क तपासण्यापेक्षा मूलभूतपणे वेगळे आहे.”

वॉटरमार्क लपविण्यासाठी कोणीतरी मजकूर पुन्हा लिहू शकेल का? अँथ्रोपिक म्हणाले की हे शक्य आहे, परंतु “हलके संपादन कदाचित वॉटरमार्क पूर्णपणे काढून टाकणार नाही,” तर “एक संपूर्ण पुनर्लेखन जेथे प्रत्येक शब्द बदलला जाईल.”

“नंतरच्या बाबतीत, अर्थातच, मजकूराचे एआय-व्युत्पन्न म्हणून वर्णन केले जाऊ शकते की नाही हे वादातीत आहे,” कंपनी म्हणाली.

क्लॉडने केवळ प्रूफरीड किंवा संपादित केलेल्या मजकुरामध्ये वॉटरमार्क शोधण्यायोग्य असेल की नाही याबद्दल, अँथ्रोपिकने सांगितले की ते “मजकूराची लांबी आणि क्लॉडने किती मोठ्या प्रमाणात संपादित केले आहे” यावर अवलंबून असेल. जर ते फक्त हलके संपादित केले गेले असेल तर, “जवळजवळ सर्व शब्द” मानवी लेखकाने लिहिलेले असतील आणि “वॉटरमार्क जोडण्यासाठी फारच थोडे (काही असल्यास) असेल.”

कोडमध्ये, इतर मजकुरापेक्षा कमी वॉटरमार्क असणे आवश्यक आहे, कारण मॉडेलला कार्यरत कोड तयार करणे आवश्यक असेल आणि विविध समान वैध पर्यायांमधून निवडण्याचे स्वातंत्र्य नसेल.

“असे म्हटल्यावर, कोडमधील विशिष्ट शब्द किंवा संज्ञांमध्ये अनियंत्रित निवड असलेल्या भागात, वॉटरमार्क वापरला जाऊ शकतो, जसे की कोडमधील टिप्पण्या,” अँथ्रोपिक म्हणाले. “परंतु व्याख्येनुसार, तयार केलेल्या वास्तविक कोडवर त्याचा नगण्य प्रभाव पडेल.”

अँथ्रोपिकने असेही म्हटले आहे की वॉटरमार्क केलेला मजकूर व्युत्पन्न करणारा क्लॉड हा एकमेव AI चॅटबॉट नसेल, कारण “इतर प्रमुख मॉडेल डेव्हलपर्सनी समान सराव संहितेवर स्वाक्षरी केली आहे आणि ते त्यांचे स्वतःचे वॉटरमार्क लागू करतील.”