एन्थ्रोपिक एआय मॉडेल्सची ओळख सिद्ध करण्यासाठी सिस्टमवर काम करत आहे

मंगळवारी प्रकाशित झालेल्या ब्लॉग पोस्टनुसार, एआय मॉडेलने दिलेल्या आउटपुटची पडताळणी करण्यासाठी अँथ्रोपिक ओपन सोर्स सिस्टमवर काम करत आहे. यंत्रणा, FlashProve म्हणतातसंशोधक ज्याला “प्रोव्हेबल इन्फरन्स” म्हणतात ते प्रदान करण्यासाठी तयार केले आहे — एक क्रिप्टोग्राफिक पुरावा, मूलत: एक गणितीय हमी, दिलेले आउटपुट विशिष्ट मॉडेलमधून आले आहे. हे वापरकर्त्यांना पुष्टी देण्यासाठी आहे की त्यांना मिळालेले उत्तर खरोखरच ते वापरत असलेल्या मॉडेलमधून आले आहे.

सारखे क्रिप्टोग्राफिक ईमेल स्वाक्षरी प्राप्तकर्त्यांनी दावा केलेल्या प्रेषकाकडून खरोखरच संदेश आला आहे याची पुष्टी करू द्या, फ्लॅशप्रोव्ह हे मॉडेल बनवणारी आणि चालवणारी लॅब असली तरीही, एका मॉडेलला दुसऱ्याचे रूप देण्याचा प्रयत्न करणाऱ्या ढोंगी लोकांविरुद्ध मजबूत असेल. विशेषत:, संशोधकांनी नोंदवले आहे की प्रणालीचा वापर एआय कंपनीला खर्च कमी करण्यासाठी स्वस्त मॉडेलमध्ये गुपचूप अदलाबदल करण्यापासून रोखण्यासाठी किंवा अधिक महाग मॉडेल त्याच्या कामगिरीचे परिणाम वाढवण्यासाठी केला जाऊ शकतो.

फ्लॅशप्रोव्हचा वापर तृतीय पक्षांच्या दाव्याची पडताळणी करण्यासाठी देखील केला जाऊ शकतो की प्रगत मॉडेलद्वारे विशिष्ट कार्य केले गेले होते. “एखादा विकसक दावा करू शकतो की त्यांची सॉफ्टवेअर लायब्ररी फ्रंटियर सायबरसुरक्षा मॉडेलद्वारे असुरक्षिततेसाठी स्कॅन केली गेली आहे किंवा एखादी कंपनी असा दावा करू शकते की तिच्या व्यवसाय योजनेला योग्य मॉडेलद्वारे पुढे जाण्याची परवानगी देण्यात आली होती,” संशोधक लिहितात. “वापरकर्ता हे दावे कसे सत्यापित करू शकतो?”

कार्य करण्यासाठी, सिस्टमला AI लॅब्सने प्रकाशित केलेल्या प्रत्येक मॉडेलचा “फिंगरप्रिंट” प्रकाशित करणे आवश्यक आहे जे नंतर विशिष्ट आउटपुटशी जुळले जाऊ शकते आणि क्रिप्टोग्राफिक पद्धतीने सत्यापित केले जाऊ शकते. निर्णायकपणे, बोटांचे ठसे मॉडेलचे वजन प्रकट करत नाहीत, अंतर्गत संख्या जे ते कसे वागतात आणि कोणते बंद मॉडेल निर्माते जसे की अँथ्रोपिक आणि ओपनएआय खाजगी ठेवतात. याचा अर्थ लॅब त्यांची सर्वात मौल्यवान मालमत्ता न सोडता फिंगरप्रिंट प्रकाशित करू शकतात, ज्यामुळे सिस्टमला व्यावसायिक मॉडेल्ससह देखील कार्य करण्यास सक्षम केले जाऊ शकते. सिस्टीम हलक्या वजनासाठी देखील डिझाइन केलेली आहे, त्यामुळे स्थानिक डिव्हाइसवर पडताळणी केली जाऊ शकते.

घोषणेचा एक भाग म्हणून, संशोधकांनी प्रसिद्ध केले तपशीलवार तांत्रिक तपशील आणि प्रणालीच्या विविध घटकांसाठी कार्यरत कोड, जो सार्वजनिकरित्या उपलब्ध आहे GitHub वर मुक्त स्रोत परवान्या अंतर्गत. सिस्टीममध्ये संशोधन चालू आहे आणि ते एन्थ्रोपिक किंवा इतर कोणत्याही प्रयोगशाळेत तैनात करण्याची कोणतीही योजना नाही.

“हे संशोधन पोस्ट मध्यवर्ती प्रगती सामायिक करण्यासाठी आहे, आणि पूर्ण झालेले संशोधन अजेंडा नाही,” संशोधक घोषणा पोस्टमध्ये स्पष्ट करतात. “आम्ही हे स्पष्टपणे सामायिक करत आहोत की आम्ही काय केले आहे ते इतरांनी पाहावे, ते घ्या आणि त्यात सुधारणा करा.”