ओपनएआयचे मुख्य शास्त्रज्ञ चेतावणी देतात की एआयच्या परिणामांसाठी कोणीही तयार नाही

OpenAI चे मुख्य शास्त्रज्ञ जेकब पाचोकी यांनी AI च्या धावपळीच्या प्रगतीबद्दल “अत्यंत सावधगिरी बाळगण्याचे” आवाहन केले आहे आणि चेतावणी दिली आहे की “मनुष्य भविष्यावर नियंत्रण ठेवतील” याची खात्री करण्यासाठी अधिक हस्तक्षेप आवश्यक असू शकतो.

“मला काळजी वाटते की मशीन इंटेलिजेंसमध्ये सतत वेगाने वाढ होण्याच्या परिणामांसाठी कोणीही तयार नाही,” त्याने एका पत्रात लिहिले. “एलियन माइंड” शीर्षक असलेली ब्लॉग पोस्ट, बाह्य“

ChatGPT-निर्मात्याने त्याचे नवीनतम मॉडेल GPT-6 Astra जारी केल्यानंतर काही दिवसांनी ही पोस्ट आली आहे, ज्याला त्याचे आतापर्यंतचे सर्वात शक्तिशाली उत्पादन म्हटले आहे.

OpenAI आणि Anthropic सारख्या इतर AI कंपन्यांनी त्यांचे AI एजंट स्वायत्तपणे काम करत असल्याबद्दल आणि इतर कंपन्यांवर वास्तविक-जगातील सायबर-हल्ले करत असल्याच्या अहवाल शेअर केले आहेत.

जुलैमध्ये, OpenAI ने एका घटनेला संबोधले ज्यामध्ये त्याच्या AI एजंट्स – AI सिस्टीम जे मानवी निर्देशांनंतर एकट्याने कार्य करू शकतात – हगिंग फेस टेक प्लॅटफॉर्म “अभूतपूर्व” हॅक केले.

दरम्यान सप्टेंबरमध्ये एका अहवालात दावा करण्यात आला होता की काही महिन्यांपूर्वी फर्मच्या एआय एजंट्सनी जर्मन वेबसाइट देखील हायजॅक केली होती.

पाचोकी यांनी नवीनतम ब्लॉग पोस्टमध्ये लिहिले, “आम्ही अविश्वसनीयपणे बुद्धिमान मशीन असलेल्या जगात संक्रमणाचा सामना करत आहोत आणि आम्ही हे सुनिश्चित करणे आवश्यक आहे की संक्रमण मानवतेसाठी चांगले होईल.

ते म्हणाले की ओपनएआय “संरक्षणात्मक प्रणाली तयार करणे” सुरू ठेवेल आणि संरेखनासाठी तांत्रिक उपाय शोधेल – एक शब्द ज्याचा वापर मशीनच्या क्रिया आणि उद्दिष्टे मानवी हेतू आणि सुरक्षा रेलिंगशी पूर्णपणे जुळतात याची खात्री करण्यासाठी वर्णन करतात.

पाचोकी यांनी पुढे जाणाऱ्या फर्मच्या मुख्य प्राधान्यांपैकी एक जोडले की मानवी संशोधक प्रक्रियेचा भाग राहू शकतील याची खात्री करून AI प्रगतीसह गती ठेवण्यासाठी “स्वयंचलित AI संशोधक” तयार करणे असेल.

केंब्रिज विद्यापीठातील मिंडरू सेंटर फॉर टेक्नॉलॉजी अँड डेमोक्रसीच्या प्रमुख प्रोफेसर जीना नेफ म्हणाल्या, “लोकांना सुरक्षित ठेवण्यासाठी उत्तम एआय रेलिंग, नियम किंवा आश्वासन देण्याऐवजी, ते या समस्यांवर संशोधन करण्यासाठी अंतर्गत एआय एजंट विकसित करण्याचा प्रस्ताव देतात.

“OpenAI च्या मॉडेल्समुळे सायबर-सुरक्षा, नोकरी गमावणे, चुका, चुका आणि फसवणूक या समस्यांबद्दल वाढत्या चिंतेची अशी उत्तरे पुरेशी नाहीत.”

एन्कोड एआय या ॲडव्होकसी ग्रुपचे जनरल काउंसिल नॅथन कॅल्विन म्हणाले की, प्रगत AI मॉडेल डेव्हलपमेंटमध्ये असलेल्या धोक्यांवर ते पाचोकीशी सहमत आहेत – परंतु त्यांनी दावा केला की OpenAI पारदर्शक होण्यास तयार नाही आणि याचा अर्थ “फक्त स्वार्थी प्रचार” म्हणून धोक्यात येण्याचा धोका असल्याचे सांगितले.

“OpenAI मधील Jakub आणि इतरांना AI इंडस्ट्रीतील संबंधित लोकांनी गोष्टी चांगल्या प्रकारे घडवून आणण्यासाठी त्यांच्यासोबत एकत्र काम करावे असे वाटत असेल, तर ते करू शकतील सर्वात महत्वाची गोष्ट म्हणजे ते जे पाहत आहेत त्याबद्दल अधिक माहिती शेअर करणे ज्यामुळे त्यांना सावधगिरी बाळगणे आवश्यक आहे,” तो एक्स वर लिहिले, बाह्य.