मानववंशीय सीईओ यांनी 'सीमेवर गती' करण्याची योजना आखली

आम्ही कृत्रिम बुद्धिमत्तेच्या धोक्यांबद्दल AI संशोधकांकडून वाढत्या गंभीर चेतावणी पाहत आहोत आणि ओपनएआयचे सीईओ सॅम ऑल्टमन यांच्या टिप्पण्या देखील पाहत आहोत की AI विकासाला “वेगवान” करण्याची वेळ आली आहे. पण ते प्रत्यक्षात कसे दिसेल?

मध्ये एक नवीन ब्लॉग पोस्टमानववंशीय CEO Dario Amodei यांनी केवळ “सीमेवर गती” या आवाहनाला प्रतिध्वनित केले नाही तर असे करण्यासाठी तीन व्यापक धोरणे देखील सांगितली. आणि तो म्हणाला की अँथ्रोपिक त्यापैकी एकाला “एकतर्फी वचनबद्ध” आहे.

संशोधक जेकब कॉक्सन यांनी या आठवड्यात AI सुरक्षा आणि संरेखन या विषयावरील वादविवाद तीव्र झाले जेव्हा त्यांनी लिहिले की अग्रगण्य AI कंपन्या “आमच्या आयुष्याशी जुगार खेळत आहेत” या चिंतेमुळे तो अँथ्रोपिकचा राजीनामा देत आहे, तर तंत्रज्ञान निर्माण करणारे लोक “दशकाच्या अखेरीस ते आपल्या सर्वांचा जीव घेऊ शकतात,” असा दावा केला आहे. Anthropic येथे इतरांनी पुनरावृत्ती केली.

अमोदेईच्या पोस्टमध्ये कॉक्सनच्या राजीनाम्याचा किंवा त्याच्या चिंतेचा स्पष्टपणे उल्लेख केलेला नाही, परंतु सीईओने लिहिले की दोन गोष्टींमुळे त्यांना खात्री पटली की AI विकासाकडे अधिक सावध दृष्टिकोन बाळगण्याची वेळ आली आहे: OpenAI-HuggingFace हॅक, आणि वस्तुस्थिती ही आहे की अलीकडच्या काही महिन्यांत “AI अत्यंत वेगाने प्रगती करत आहे”, विशेषत: त्याच्या पुढील पिढीच्या AI वाढण्याच्या क्षमतेसह.”

“आम्ही एआय मॉडेल्सच्या क्षमतांमध्ये ज्या गतीने सुधारणा करतो ती गती कमी केली पाहिजे,” अमोडीने लिहिले. “प्रगती अजूनही जलद वाटेल आणि आपल्याला मिळालेल्या वेळेचा आपण सुज्ञपणे उपयोग केला पाहिजे.”

त्याच्या प्रस्तावित पहिल्या चरणात तृतीय-पक्ष संस्थांकडील “एम्बेडेड मूल्यांकनकर्ते” यांचा समावेश असेल मीटर – मूल्यांकनकर्ते जे AI कंपन्या त्यांच्या पेसिंग आणि सुरक्षिततेच्या वचनबद्धतेचे प्रत्यक्षात पालन करत आहेत हे सत्यापित करू शकतात आणि सुरक्षिततेच्या घटना नोंदवल्या जातील याची देखील खात्री करू शकतात. (ओपनएआयच्या एआय एजंट्सनी जर्मन विकी फॉर्म घेतलेल्या घटनेची तक्रार न केल्याबद्दल अलीकडेच टीका झाली.)

अमोदेईने या मूल्यमापनकर्त्यांची तुलना बँक कर्मचाऱ्यांशी एम्बेड केलेल्या नियामकांशी केली आणि त्यांनी सांगितले की त्यांना आमंत्रित करणे म्हणजे “एन्थ्रोपिक एकतर्फी वचनबद्ध आहे (आणि सरकारांना इतर सीमावर्ती कंपन्यांशी जुळवून घेण्याची आवश्यकता आहे) असे म्हणतात.” याचा अर्थ मूल्यमापनकर्त्यांना कंपनीचे बॅज, डेस्क आणि लॅपटॉप देणे आणि कायद्याने किंवा करारांद्वारे आवश्यक असलेल्या अपवादांसह “बहुधा अंतर्गत जोखीम मूल्यांकन संघांकडे असलेल्या तुलनेत” प्रवेश प्रदान करणे.

पुढे, Amodei ने “लोकशाही देशांमधील” अग्रगण्य AI कंपन्यांना “सामान्य सुरक्षा मानके तसेच अनियंत्रित AI प्रगती दरावरील मर्यादा” समन्वयित करण्यासाठी बोलावले.

ऑल्टमन आणि अमोदेई यांच्यातील उघड वैमनस्य आणि त्यांच्या कंपन्या या दोन्ही कारणांमुळे असा समन्वय संभवत नाही. कथितपणे चिंतित आहे की समन्वित विरामामुळे अविश्वास छाननी होऊ शकते. अमोदेईने त्यांच्या पोस्टमध्ये त्या चिंतेचा उल्लेख केला आणि लिहिले की “अविश्वासाच्या कारणास्तव, यूएस सरकारला मध्यस्थी करणे किंवा किमान या चर्चेस सक्षम करणे उपयुक्त आहे – त्यांना भाग घेण्याची आवश्यकता नाही, परंतु विशिष्ट प्रकारच्या सुरक्षा संभाषणांसाठी एक संकीर्ण सूट जारी करणे आवश्यक आहे.”

अमोदेईने चिनी एआय वर्चस्वाची कल्पना देखील मान्य केली ज्यामुळे विकास मंद होण्याविरुद्ध अनेकदा वाद निर्माण केला जातो. परंतु ते म्हणाले की जर यूएस सरकार आणि तंत्रज्ञान कंपन्यांनी चीनी कंपन्यांना शक्तिशाली चिप्स किंवा सेमीकंडक्टर उत्पादन उपकरणे विकण्यास नकार देण्यासारखे पाऊल उचलले तसेच मॉडेल डिस्टिलेशनवर कडक कारवाई केली तर ते “पुढील 3-5 वर्षांमध्ये अमेरिकेची आघाडी लक्षणीयरीत्या विस्तृत करण्यासाठी चीनची प्रगती मंद करू शकतात.”

शेवटी, अमोदेईने “जागतिक समन्वय” ची मागणी केली, जिथे युनायटेड स्टेट्स आणि त्याचे सहयोगी “हे शक्य तितक्या प्रमाणात हुकूमशाही सरकारांशी समन्वय साधण्याचा प्रयत्न करतात.” अमोदेई म्हणाले की याचा अर्थ “चीनशी सहकार्य” असेल आणि त्याने कबूल केले की “काय साध्य केले जाऊ शकते यावर कठोर मर्यादा आहेत,” परंतु तरीही त्यांनी असे सुचवले की कराराच्या संधी असू शकतात, जरी ते फक्त “एआयच्या काही संकुचित आणि स्पष्टपणे धोकादायक वापरांना प्रतिबंधित करते, जसे की जैविक शस्त्रे तयार करण्यासाठी AI वापरणे किंवा वापरकर्त्यांना तसे करण्याची परवानगी देणे.”

AI चे संभाव्य धोके मान्य करण्याच्या अमोदेईच्या पूर्वीच्या इच्छेमुळे आणि कंपनीच्या विशिष्ट प्रकारच्या नियमनांबाबत सापेक्ष मोकळेपणासह, काही AI बूस्टर्सनी त्याच्यावर आधीच टीका केली आहे, ज्यांच्या टिप्पण्यांनी सध्याच्या AI प्रतिक्रियांना तोंड दिले आहे. प्रतिसादात, अमोदेई म्हणाले की त्यांनी “संतुलित” दृष्टीकोन ऑफर करण्याचा प्रयत्न केला आहे आणि असा युक्तिवाद केला की प्रतिक्रिया “मूलभूतपणे विश्वासाचे संकट” आहे कारण लोक टेक कंपन्या, तंत्रज्ञान उद्योग आणि सरकारबद्दल संशयी बनले आहेत.

उद्योग समीक्षक देखील या सर्वनाशिक AI चेतावणींबद्दल साशंक आहेत, असे सुचवतात की ते तंत्रज्ञान आधीच होत असलेल्या हानीपासून विचलित करणारे आहेत.

पत्रकार ब्रायन मर्चंट, उदाहरणार्थ, लिहिले की त्याला अजून पाहायचे आहे “एआय स्वतः-पुन्हा पुनरावृत्ती करून AI सुधारण्यापासून ग्रहावरील प्रत्येक माणसाला मारण्यापर्यंत नेमके कसे पुढे जाऊ शकते याचे एक विश्वासार्ह, चरण-दर-चरण दस्तऐवजीकरण”; त्यांनी असेही सुचवले की अमोदेईच्या सारख्याच प्रस्तावांना “ॲन्थ्रोपिक आणि ओपनएआयची सेवा देणे शक्य आहे; नियामक कॅप्चर कृतीत असे दिसते.”

त्याच्या नवीन पोस्टमध्ये, अमोदेईने लिहिले की “एआय मानवी जीवनाची गुणवत्ता मोठ्या प्रमाणात सुधारू शकते यावर त्यांचा विश्वास आहे.”

“हे फायदे मिळवण्याची माझी इच्छा अपूर्ण आहे,” तो म्हणाला. “परंतु आम्ही तंत्रज्ञान योग्य प्रकारे तयार केले तरच फायदे मिळतील आणि – जोपर्यंत आम्ही वेळ चांगला वापरतो तोपर्यंत – ते योग्य मिळविण्यासाठी असामान्यपणे जाणूनबुजून काळजी घेणे योग्य आहे.”