एआय मॉडेल्सना इतर AI मॉडेल्ससह प्रशिक्षण देणे हे निओलॅबसाठी अतिशय लोकप्रिय उद्दिष्ट बनले आहे — आणि आता, अँथ्रोपिकच्या फेलो प्रोग्राममधील एका संशोधकाने आम्हाला ते सरावात कसे दिसतील याचे प्रारंभिक स्वरूप दिले आहे.
शुक्रवारी अँथ्रोपिकने “या नावाचा नवीन पेपर प्रकाशित केला.स्वयंचलित संशोधक संरेखन अपयश विश्वसनीयरित्या कमी करू शकतात,” संरेखन बेंचमार्कच्या संचावर AI सिस्टीम मॉडेलचे कार्यप्रदर्शन विश्वसनीयरित्या कसे सुधारू शकतात हे तपशीलवार. विशिष्ट चुकीच्या संरेखित वर्तणुकीसाठी 10 बेंचमार्क दिल्यावर, स्वयंचलित प्रणाली संपूर्ण कार्यप्रदर्शन खराब न करता प्रत्येक एकावर कार्यप्रदर्शन सुधारण्यास सक्षम होत्या.
मानववंशीय सहकारी चेन यूह-हान यांच्या नेतृत्वाखाली, ही प्रणाली संशोधनासाठी पारंपारिक दृष्टिकोनाची प्रतिकृती बनवते. प्रत्येक स्वयंचलित प्रणाली उपलब्ध साहित्य शोधते, एक पद्धत प्रस्तावित करते आणि 30 मिनिटांसाठी त्या पद्धतीचा वापर करून मॉडेलला प्रशिक्षण देते, हळूहळू अनेक पुनरावृत्तींवर बेंचमार्क वाढवते. प्रभावी पद्धती जतन केल्या जातात तर अप्रभावी त्या टाकून दिल्या जातात, ज्यामुळे प्रणाली द्रुतपणे आणि मोठ्या प्रमाणात कार्य करू शकते.
“एकंदरीत, हे परिणाम लवकर पुरावे देतात की स्वयंचलित संरेखन पोस्ट-ट्रेनिंग नजीकच्या काळात व्यावहारिक होऊ शकते,” पेपर वाचतो.
पेपर हे पुनरावृत्ती होणाऱ्या आत्म-सुधारणेच्या दिशेने एक पाऊल आहे, जे अनेकांना AI प्रगतीमधील पुढील महत्त्वपूर्ण पाऊल म्हणून दिसते. जर मॉडेल्स त्यांचे स्वतःचे संरेखन प्रशिक्षण सुधारू शकतील, तर ते प्रशंसनीय आहे की ते प्रशिक्षण पद्धती अधिक व्यापकपणे सुधारू शकतील – या टप्प्यावर, मानवी एआय संशोधक लवकरच अप्रचलित होऊ शकतात.
ऑटोमेटेड अलाइनमेंट रिसर्चर (AAR) ची त्याच्या मानवी समतुल्यशी स्पष्टपणे तुलना करून, या कल्पनेला संबोधित करण्यात पेपर लाजाळू नाही. “सर्वोत्तम AAR पद्धत अनुभवी मानवांनी सुचवलेल्या गोष्टींवर मात करते, सरासरी सहा तासांत,” पेपर वाचतो. “मानवी मार्गदर्शित संशोधन दिशानिर्देश मजबूत कामगिरीकडे नेत नाहीत.”
कोणालाही खात्री पटली नसेल तर किंमतीची तुलना देखील आहे. “आम्ही आमच्या मानवी संशोधकांना $150 प्रति तास देत असलेल्या एपीआय अनुमानानुसार AAR ची किंमत सुमारे $4 प्रति तास आहे.”
निष्पक्षतेने, पेपर या दृष्टिकोनासाठी काही मर्यादा देखील दर्शवितो. ऑटोमेटेड सिस्टीम फक्त त्या अंतरावर कार्य करते कारण बेंचमार्क वास्तविक संरेखन उद्दिष्टे प्रतिबिंबित करतात आणि तरीही ते बेंचमार्क स्थापित आणि राखण्यासाठी महत्त्वपूर्ण कार्य करणे आवश्यक आहे — स्वयंचलित संशोधक ज्या साहित्यातून काढले आहेत त्या साहित्याची देखभाल आणि विस्तार करण्याचा उल्लेख नाही.
तुम्ही आमच्या लेखांमधील लिंक्सद्वारे खरेदी करता तेव्हा, आम्ही एक लहान कमिशन मिळवू शकतो. याचा आमच्या संपादकीय स्वातंत्र्यावर परिणाम होत नाही.
Comments are closed.