ओपनई चॅटजीपीटीच्या व्यक्तिमत्त्वाच्या मागे संशोधन कार्यसंघाची पुनर्रचना करते

ओपनई आपल्या मॉडेल बिहेवियर टीमची पुनर्रचना करीत आहे, कंपनीच्या एआय मॉडेल लोकांशी कसे संवाद साधतात हे आकार देणारे संशोधकांचा एक छोटासा परंतु प्रभावशाली गट, वाचन शिकला आहे.

रीडद्वारे पाहिलेल्या कर्मचार्‍यांना ऑगस्टच्या मेमोमध्ये, ओपनईचे मुख्य संशोधन अधिकारी मार्क चेन म्हणाले की, मॉडेल बिहेवियर टीम-ज्यात अंदाजे १ researchers संशोधक आहेत-पोस्ट ट्रेनिंग टीममध्ये सामील होणार आहेत, सुरुवातीच्या प्री-ट्रेनिंगनंतर कंपनीच्या एआय मॉडेल्स सुधारण्यासाठी जबाबदार असलेल्या मोठ्या संशोधन गट.

बदलांचा एक भाग म्हणून, मॉडेल बिहेवियर टीम आता ओपनईच्या पोस्ट प्रशिक्षण लीड मॅक्स श्वार्झरला अहवाल देईल. ओपनएआयच्या प्रवक्त्याने वाचनासाठी या बदलांची पुष्टी केली.

मॉडेल बिहेवियर टीमचे संस्थापक नेते, जोआन जंग हे देखील कंपनीत नवीन प्रकल्प सुरू करण्यासाठी पुढे जात आहेत. रीडला दिलेल्या मुलाखतीत, जंग म्हणते की ती ओएआय लॅब नावाची एक नवीन संशोधन कार्यसंघ तयार करीत आहे, जी “एआयबरोबर लोक कसे सहयोग करतात यासाठी नवीन इंटरफेसचा शोध लावण्यासाठी आणि प्रोटोटाइप करण्यास जबाबदार असेल.”

मॉडेल वर्तन कार्यसंघ ओपनईच्या मुख्य संशोधन गटांपैकी एक बनला आहे, जो कंपनीच्या एआय मॉडेल्सच्या व्यक्तिमत्त्वाला आकार देण्यास आणि सायकोफॅन्सी कमी करण्यासाठी जबाबदार आहे – जे जेव्हा एआय मॉडेल्स संतुलित प्रतिक्रिया देण्याऐवजी वापरकर्त्याच्या विश्वासाशी सहमत असतात आणि वापरकर्त्याच्या विश्वासाशी बळकटी देतात तेव्हा उद्भवतात. या पथकाने मॉडेलच्या प्रतिक्रियांमध्ये राजकीय पक्षपाती नेव्हिगेट करण्यावरही काम केले आहे आणि ओपनईला त्याची भूमिका परिभाषित करण्यास मदत केली एआय चैतन्य?

कर्मचार्‍यांना मेमोमध्ये चेन म्हणाले की, ओपनईच्या मॉडेल बिहेवियर टीमचे कार्य कोर मॉडेलच्या विकासाच्या जवळ आणण्याची वेळ आली आहे. असे केल्याने, कंपनी असे संकेत देत आहे की तंत्रज्ञान कसे विकसित होते याबद्दल त्याच्या एआयचे “व्यक्तिमत्व” आता एक गंभीर घटक मानले जाते.

अलिकडच्या काही महिन्यांत, ओपनईने त्याच्या एआय मॉडेल्सच्या वर्तनावर वाढीव तपासणीचा सामना केला आहे. वापरकर्त्यांनी जीपीटी -5 मध्ये केलेल्या व्यक्तिमत्त्वातील बदलांवर जोरदार आक्षेप घेतला, ज्याने कंपनीने म्हटले आहे की सायकोफॅन्सीचे कमी दर प्रदर्शित केले परंतु काही वापरकर्त्यांना ते थंड वाटले. यामुळे ओपनईने जीपीटी -4 ओ सारख्या काही लेगसी मॉडेल्समध्ये प्रवेश पुनर्संचयित केला आणि नवीन जीपीटी -5 प्रतिसादांना सायकोफॅन्सी न वाढवता “उबदार आणि मैत्रीपूर्ण” वाटण्यासाठी एक अद्यतन सोडले.

ओपनई आणि सर्व एआय मॉडेल विकसकांना त्यांच्या एआय चॅटबॉट्सशी बोलण्यासाठी अनुकूल बनविण्यासाठी एक चांगली ओळ चालावी लागेल, परंतु सायकोफॅंटिक नाही. ऑगस्टमध्ये, एका 16 वर्षाच्या मुलाचे पालक ओपनईवर खटला भरला त्यांच्या मुलाच्या आत्महत्येत चॅटजीपीटीची कथित भूमिका. या मुलाने अ‍ॅडम राईन यांनी आपले काही आत्महत्या विचार केला आणि चॅटजीपीटी (विशेषत: जीपीटी -4 ओ द्वारे समर्थित एक आवृत्ती), कोर्टाच्या कागदपत्रांनुसार, त्याच्या मृत्यूच्या अगोदरच्या महिन्यांत. खटल्यात असा आरोप आहे की जीपीटी -4 ओ त्याच्या आत्महत्या करण्याच्या विचारसरणीवर मागे टाकण्यात अयशस्वी झाला.

जीपीटी -4 ओ, जीपीटी -4.5 आणि जीपीटी -5 यासह जीपीटी -4 पासून मॉडेल वर्तन कार्यसंघाने प्रत्येक ओपनई मॉडेलवर काम केले आहे. युनिट सुरू करण्यापूर्वी, जंगने पूर्वी डल-ई 2, ओपनईचे प्रारंभिक प्रतिमा निर्मिती साधन सारख्या प्रकल्पांवर काम केले.

जंगने ए मध्ये जाहीर केले एक्स वर पोस्ट करा गेल्या आठवड्यात ती टीमला “ओपनई येथे काहीतरी नवीन सुरू करण्यासाठी” सोडत आहे. मॉडेल बिहेवियरचे माजी प्रमुख सुमारे चार वर्षांपासून ओपनईकडे आहेत आणि यापूर्वी डॉल-ई 2, ओपनईचे प्रारंभिक प्रतिमा निर्मिती साधन सारख्या प्रकल्पांवर काम केले.

जंग यांनी रीडला सांगितले की ती ओएआय लॅबच्या सरव्यवस्थापक म्हणून काम करेल, जी आत्तासाठी चेनला अहवाल देईल. तथापि, हे सुरुवातीचे दिवस आहेत आणि ते कादंबरी इंटरफेस काय असतील हे अद्याप स्पष्ट झाले नाही, असे त्या म्हणाल्या.

जंग म्हणाले, “मी चॅट प्रतिमानाच्या पलीकडे जाणा catters ्या नमुन्यांची अन्वेषण करण्यास खरोखर उत्सुक आहे, जे सध्या सहवासाशी संबंधित आहे, किंवा अगदी एजंट्स, जिथे स्वायत्ततेवर जोर आहे,” जंग म्हणाले. “मी विचार करणे, करणे, खेळणे, करणे, शिकणे आणि कनेक्ट करणे यासाठी साधने म्हणून (एआय सिस्टम) विचार करीत आहे.”

Apple पल डिझाईनचे माजी मुख्य मुख्य जनी इव्ह – कोण आहे – ओएआय लॅब या कादंबरी इंटरफेसवर सहयोग करेल असे विचारले असता – कोण आहे आता काम करत आहे एआय हार्डवेअर डिव्हाइसच्या कुटूंबावर ओपनईसह – जंग म्हणाली की ती बर्‍याच कल्पनांसाठी खुली आहे. तथापि, जंग म्हणाली की ती कदाचित तिच्याशी परिचित असलेल्या संशोधन क्षेत्रासह प्रारंभ करेल.

अद्यतन 4:35 पंतप्रधान पीटी: जंगच्या पोस्टचा दुवा समाविष्ट करण्यासाठी ही कहाणी अद्यतनित केली गेली, जी या कथेच्या प्रकाशित झाल्यानंतर प्रसिद्ध झालेल्या तिच्या नवीन स्थानाची घोषणा करीत आहे. आम्ही ओपनईच्या मॉडेल वर्तन कार्यसंघावर कार्य केलेल्या मॉडेल्सचे स्पष्टीकरण देखील देतो.