OpenAI तयारीसाठी नवीन प्रमुख शोधत आहे

ओपनएआय संगणक सुरक्षिततेपासून मानसिक आरोग्यापर्यंतच्या क्षेत्रातील उदयोन्मुख AI-संबंधित जोखमींचा अभ्यास करण्यासाठी जबाबदार असलेल्या नवीन कार्यकारी अधिकारी नियुक्त करण्याचा विचार करत आहे.

मध्ये X वर एक पोस्टसीईओ सॅम ऑल्टमन यांनी कबूल केले की AI मॉडेल्स “काही वास्तविक आव्हाने सादर करण्यास सुरुवात करत आहेत,” ज्यात “मानसिक आरोग्यावर मॉडेल्सचा संभाव्य प्रभाव” समाविष्ट आहे, तसेच “संगणक सुरक्षिततेत खूप चांगले असलेले मॉडेल त्यांना गंभीर असुरक्षा सापडू लागले आहेत.”

“जर तुम्हाला सायबरसुरक्षा रक्षकांना अत्याधुनिक क्षमतेसह कसे सक्षम करायचे हे जाणून घेण्यात मदत करायची असेल तर आक्रमणकर्ते त्यांचा वापर हानीसाठी करू शकत नाहीत, आदर्शपणे सर्व सिस्टीम अधिक सुरक्षित करून, आणि त्याचप्रमाणे आम्ही जैविक क्षमता कशा रिलीझ करतो आणि स्वत: ची सुधारणा करू शकणाऱ्या प्रणालींच्या सुरक्षेवर विश्वास कसा मिळवू शकतो याची खात्री करून घ्यायची असल्यास, कृपया अर्ज करण्याचा विचार करा,” अलमनने लिहिले.

OpenAI च्या तयारी प्रमुख भूमिकेसाठी सूची कंपनीच्या सज्जतेच्या फ्रेमवर्कची अंमलबजावणी करण्यासाठी जबाबदार असलेल्या नोकरीचे वर्णन करते, “आमची फ्रेमवर्क ओपनएआयचा ट्रॅकिंग आणि सीमावर्ती क्षमतांसाठी तयार करण्याच्या दृष्टिकोनाचे स्पष्टीकरण देते ज्यामुळे गंभीर हानीचे नवीन धोके निर्माण होतात.”

कंपनीने 2023 मध्ये प्रथम एक सज्जता संघ तयार करण्याची घोषणा केली, ते म्हणाले की ते संभाव्य “आपत्तीजनक जोखीम” चा अभ्यास करण्यासाठी जबाबदार असतील, मग ते अधिक तात्काळ असोत, जसे की फिशिंग आक्रमणे किंवा अधिक सट्टा, जसे की आण्विक धोके.

एका वर्षापेक्षा कमी कालावधीनंतर, ओपनएआयने पूर्वतयारीचे प्रमुख अलेक्झांडर मॅड्रि यांना पुन्हा नियुक्त केले एआय तर्कावर लक्ष केंद्रित केलेल्या नोकरीसाठी. OpenAI मधील इतर सुरक्षा अधिकारी देखील कंपनी सोडले आहेत किंवा नवीन भूमिका घेतल्या तयारी आणि सुरक्षिततेच्या बाहेर.

कंपनीने अलीकडेच त्याची तयारी फ्रेमवर्क देखील अद्ययावत केले आहे, असे सांगून की स्पर्धात्मक AI लॅबने समान संरक्षणाशिवाय “उच्च-जोखीम” मॉडेल जारी केल्यास ते त्याच्या सुरक्षा आवश्यकता “समायोजित” करू शकते.

ऑल्टमॅनने त्याच्या पोस्टमध्ये सूचित केल्याप्रमाणे, जनरेटिव्ह एआय चॅटबॉट्सना मानसिक आरोग्यावरील त्यांच्या प्रभावाभोवती वाढत्या छाननीचा सामना करावा लागला आहे. अलीकडील खटले आरोप करतात की ओपनएआयच्या चॅटजीपीटीने वापरकर्त्यांच्या भ्रमांना बळकटी दिली, त्यांचे सामाजिक अलगाव वाढवला आणि काहींना आत्महत्या करण्यास प्रवृत्त केले. (कंपनीने म्हटले आहे की ती ChatGPT ची भावनिक त्रासाची चिन्हे ओळखण्याची क्षमता सुधारण्यासाठी आणि वापरकर्त्यांना वास्तविक-जगातील समर्थनाशी जोडण्यासाठी काम करत आहे.)