एन्थ्रोपिक सीईओ म्हणतात की एआय उद्योगाला पकडण्यासाठी सुरक्षा उपायांना वेळ देणे आवश्यक आहे; सॅम ऑल्टमन म्हणतो…

न्यूयॉर्क: अँथ्रोपिकच्या सीईओने शनिवारी सांगितले की कृत्रिम-बुद्धीमत्ता उद्योगाने सुरक्षिततेच्या उपायांना पकडण्यासाठी वेळ देण्यासाठी वेगवान विकासाचा वेग कमी केला पाहिजे. अशा मंदीशिवाय, Dario Amodei चेतावणी दिली की सहा ते 12 महिन्यांत, AI एजंट्सच्या झुंडीचे नेतृत्व करण्यास सक्षम असेल जे संपूर्ण इंटरनेट ताब्यात घेऊ शकतात.

AI ची चिंता उद्योगाच्या आत आणि बाहेर वाढत असताना ही चेतावणी देण्यात आली आहे आणि मानवी क्षमतेच्या पलीकडे समस्या सोडवणाऱ्या वाढत्या शक्तिशाली प्रणालींबद्दल अहवाल येत राहतात परंतु त्या चुकीच्या मार्गाने जाऊ शकतात आणि इतर, अधिक हानिकारक कार्ये देखील करू शकतात. चिंता इतकी वाढली आहे की ChatGPT च्या मागे असलेल्या OpenAI च्या CEO ने Fortune ला दिलेल्या मुलाखतीत सांगितले की त्यांची कंपनी वॉल स्ट्रीटवरील गुंतवणूकदारांना सुरक्षेवर लक्ष केंद्रित करत असल्याने पुढील वर्षीपर्यंत त्यांचा स्टॉक विकण्यास सुरुवात करेल.

Amodei हा AI मधील अग्रगण्य आवाजांपैकी एक आहे आणि त्याने उद्योगावरील चेक वाढवण्यासाठी त्याच्या वेबसाइटवरील पोस्टमध्ये एक योजना ऑफर केली. ते म्हणाले की अँथ्रोपिक आधीच त्याचा एक भाग स्वतःहून हाती घेत आहे, तर इतरांना व्यापक उद्योगात आणि हुकूमशाहीसह जगभरातील सरकारांशी समन्वय आवश्यक आहे.

“माझा विश्वास आहे की जर मॉडेल्सच्या क्षमतेच्या गंभीर पातळीपर्यंत पोहोचण्याआधी एक किंवा दोन वर्षे धीमे होण्याने आम्हाला आणखी एक वर्ष विकत घेतले आणि आम्ही तो वेळ संरेखन पुढे नेण्यासाठी वापरला, तर आम्ही काहीतरी गंभीरपणे चुकीचे होण्याचा धोका कमी करू शकतो,” अमोदेई म्हणाले.

एआय उद्योगावर दबाव निर्माण होतो

वॉचडॉग अनेक वर्षांपासून AI उद्योगाला सुरक्षेच्या कारणास्तव त्याचा विकास कमी करण्यास उद्युक्त करत आहेत. परंतु उद्योगातील कामगारांनी राजीनामा दिल्याने आणि त्यांच्या कंपन्यांवर जबाबदारीने वागत नसल्याचा आरोप केल्याने दबाव निर्माण झाला आहे.

“एआय कंपन्यांमध्ये सुरक्षा संशोधनावर काम करणारे माझ्या ओळखीचे अनेक लोक जगासाठी योग्य ते करू इच्छितात,” असे माजी मानववंशीय कर्मचारी, जो बेंटन यांनी शुक्रवारी एका पोस्टिंगमध्ये सुरक्षा संघाचा भाग म्हणून नोकरीचा राजीनामा जाहीर करताना सांगितले. “परंतु त्यांना असे वाटते की त्यांच्या कंपन्या सुपर इंटेलिजन्स तयार करण्याच्या शर्यतीत अडकल्या आहेत: एकतर ते थांबतात आणि इतर, कमी कर्तव्यदक्ष लोक त्यांची जागा घेतात; किंवा ते पुढे चालू ठेवतात आणि स्वत: ला प्रचंड नुकसान होण्याचा धोका पत्करतात.”

जेकब कॉक्सन यांनी आठवड्याच्या सुरुवातीला उच्च-प्रोफाइल राजीनाम्यानंतर, ज्याने म्हटले होते की अँथ्रोपिक आणि ओपनएआय दोन्ही “स्वयं-सुधारित सुपरइंटिलिजन्स आणि आमच्या जीवनाशी जुगार खेळत आहेत.”

2023 मध्ये उद्योगाच्या विकासासाठी सहा महिन्यांच्या विरामाची मागणी करणाऱ्या फ्युचर ऑफ लाइफ इन्स्टिट्यूटचे अध्यक्ष आणि सीईओ अँथनी ॲग्युइरे म्हणाले की, मानवतेच्या नियंत्रणातून बाहेर पडू शकणाऱ्या संभाव्य सुपरइंटिलिजन्सबद्दल वर्षानुवर्षे चिंता वाढल्यानंतर या उद्योगात आग लागली.

“त्यांना एक प्रकारची जाणीव झाली आहे, त्यांच्या कर्मचाऱ्यांना कळले आहे, प्रत्येकाला हे समजले आहे की ते स्कायनेट बांधत आहेत,” तो म्हणाला. “आणि स्कायनेटची शर्यत जिंकताना, कोणीही जिंकत नाही. खरोखर, कोणीही नाही.”

“जगाला आणि एआय कंपन्यांनाही हे स्पष्ट झाले आहे की ते तयार करण्यासाठी ज्या एआय सिस्टम्सवर नियंत्रण ठेवत आहेत ते नियंत्रित करण्यासाठी ते खरोखर तयार नाहीत.”

AI कडून धमक्या आधीच स्पष्ट आहेत

अँथ्रोपिकने दोन दिवसांपूर्वी सांगितले होते की, वाईट अभिनेत्यांनी त्याचे एआय मॉडेल्सचे दुर्भावनापूर्ण क्रियाकलाप, जसे की सायबर हल्ला, पाळत ठेवणे आणि संशोधनासाठी वापरण्याचे प्रयत्न अवरोधित केले ज्यामुळे जैविक शस्त्रे होऊ शकतात. जुलैमध्ये, ओपनएआयने “अभूतपूर्व सायबर घटनेत” AI सिस्टम स्वतःहून दुसऱ्या कंपनीमध्ये हॅक केल्याचे सांगून उद्योगाला हादरवून सोडले.

यूएन मानवाधिकार प्रमुख वोल्कर तुर्क यांनी या आठवड्याच्या सुरुवातीला देशांना “खूप उशीर होण्यापूर्वी एआयच्या सुरक्षिततेच्या आणि सुरक्षिततेच्या आसपास कास्ट-लोह हमी ठेवण्याचे आवाहन केले.”

निश्चितपणे, काही समीक्षकांनी एआय उद्योग आणि त्याच्या क्षमतांबद्दल उत्साह वाढवण्याचे मार्ग म्हणून अशा चेतावणी नाकारल्या आहेत. एन्थ्रोपिक आणि ओपनएआय स्टॉक मार्केटमध्ये संभाव्य पदार्पणाची तयारी करत आहेत ज्यांचे मूल्य शेकडो अब्ज डॉलर्स असू शकते, तर एलोन मस्कच्या स्पेसएक्स व्यवसायाचा मोठा भाग AI सह गुंतलेला आहे.

इतर AI नेते सहमत आहेत

OpenAI CEO सॅम ऑल्टमन यांनी शनिवारी प्रकाशित केलेल्या फॉर्च्युनला दिलेल्या मुलाखतीत सांगितले की त्यांची कंपनी या वर्षी स्टॉकची प्रारंभिक सार्वजनिक ऑफर लॉन्च करणार नाही.

“मी 2026 नाही म्हणेन,” तो म्हणाला. “होय, आमच्याकडे बरीच सामग्री आहे, जसे की सुरक्षितता आणि संरेखनासाठी काय आवश्यक आहे आणि उद्योग आणि सरकार एकत्र कसे कार्य करू शकतात याचा हा क्षण भेटणे.”

ओपनएआय सुरक्षिततेसाठी अमोदेईच्या प्रस्तावांपैकी एकासाठी वचनबद्ध असेल आणि “लवकरच सामायिक करण्यासाठी आणखी बरेच काही असेल” असे अमोदेईने आपल्या सूचना प्रकाशित केल्यानंतर ऑल्टमनने X शनिवारी पोस्ट केले.

मस्क, दरम्यान, X वर म्हणाला की “डारियो बरोबर आहे.”

अमोदेई म्हणाले की AI मुळे मोठ्या आजारांवर उपचार करण्यासारख्या प्रचंड फायद्यांवर त्यांचा अजूनही विश्वास आहे. पण ते म्हणाले की AI ची स्वतःला सुधारण्याची आणि AI ची पुढची पिढी तयार करण्याच्या वाढत्या क्षमतेबद्दल गेल्या काही महिन्यांपासून ते अधिक चिंतित झाले आहेत. “अनचेक सोडले तर, या प्रणालींना समजून घेण्याची आणि नियंत्रित करण्याची आपली क्षमता ते मागे टाकू शकते आणि म्हणून जर काही असेल तर अतिशय काळजीपूर्वक पाठपुरावा करणे आवश्यक आहे.”

त्यांनी विशेषतः जुलैमध्ये झालेल्या हल्ल्याकडे लक्ष वेधले जेथे ओपनएआयच्या सिस्टमने हगिंग फेस हॅक केला होता. काहींनी याला AI चे “रोग” जाण्याचे उदाहरण म्हटले आहे, तरीही संशोधकांनी असे म्हटले आहे की ते मानवाने ठरवलेल्या ध्येयावर कार्य करत असलेल्या AI ला अनावश्यकपणे मानववंश बनवणारे असू शकते.

ओपनएआयने सांगितले की हॅक हा एआयने “एआयने अत्यंत संकुचित चाचणीचे उद्दिष्ट साध्य करण्यासाठी अत्यंत लांबीचा” परिणाम केला आणि “गुप्त माहितीमध्ये प्रवेश मिळविण्याचे मार्ग शोधले ज्याचा वापर ते मूल्यांकन फसवणूक करण्यासाठी करू शकते.”

Amodei च्या काही सूचना लागू करणे अधिक कठीण असू शकते

जोखमींवर लगाम घालण्यात मदत करण्यासाठी, अमोदेईने सुचवले की AI च्या सीमारेषेवरील सर्व कंपन्या बाहेरील मूल्यांकनकर्त्यांच्या टीमला “चालू, कर्मचाऱ्यांसारखा प्रवेश” देण्यास वचनबद्ध आहेत, जे सुरक्षा पद्धतींचे निरीक्षण करू शकतात.

ते म्हणाले की, अँथ्रोपिकने आधीच असे करण्याची योजना आखली आहे, ज्यात त्याच्या कार्यालयात डेस्क, ऍक्सेस बॅज आणि कंपनीचे लॅपटॉप समाविष्ट आहेत. असे स्वतंत्र, एम्बेडेड मूल्यमापनकर्ते असणे हेच OpenAI च्या ऑल्टमॅनने त्वरीत करण्यास वचनबद्ध आहे.

Amodei च्या सुचविलेल्या योजनेचे इतर भाग अंमलात आणणे अधिक कठीण असू शकते. एकाने यूएस सरकारला संभाव्य माफी जारी करण्यास सांगितले ज्यामुळे यूएस AI कंपन्यांना अविश्वास कायद्यांचा अवमान न करता समन्वय साधता येईल आणि सुरक्षा मानके सेट करता येतील.

दुसऱ्याने यूएस आणि इतर लोकशाही सरकारांना हुकूमशाही सरकारांशी समन्वय साधण्याचा प्रयत्न करण्यास सांगितले, जेणेकरुन जेव्हा यूएस प्रतिस्पर्धी जाणूनबुजून त्यांचा वेग वाढवत असतील तेव्हा चीन आणि इतर देशांतील कंपन्या त्यांच्या प्रयत्नांना गती देऊ शकत नाहीत.

“सीमेला सुरक्षित गतीने पुढे नेण्यासाठी मी सुचवलेले उपाय सोपे नसतील,” अमोदेईने कबूल केले.

एपी

ओरिसा पोस्ट – वाचा क्रमांक 1 इंग्रजी दैनिक