मानवतेच्या भविष्यासाठी एआय कर्मचारी 'खरेच घाबरले', माजी मानववंशीय संशोधक बीबीसीला सांगतात

अँथ्रोपिक सोडलेल्या एका एआय संशोधकाने बीबीसीला सांगितले की तंत्रज्ञानावर काम करणारे लोक त्याच्या प्रगतीच्या गतीबद्दल आणि मानवतेसाठी याचा अर्थ काय असू शकतात याबद्दल “खरेच घाबरलेले” आहेत.

जेकब कॉक्सन यांनी शनिवारी बीबीसीच्या लॉरा कुएन्सबर्गशी त्यांच्या व्हायरल राजीनामा पोस्टबद्दल बोलले जिथे त्यांनी नियंत्रणाबाहेरील कृत्रिम बुद्धिमत्तेबद्दल चिंता व्यक्त केली.

“माझा विश्वास आहे की जर आपण सध्याच्या प्रगतीच्या गतीने मंदावले नाही, तर भविष्यात आपण सर्वांचा मृत्यू होण्याची दाट शक्यता आहे,” तो म्हणाला.

त्याचा राजीनामा उद्योगातील वाढत्या सुरक्षेच्या चिंतेमध्ये आला आहे, ज्यात त्याच्या माजी बॉस, अँथ्रोपिक डारियो अमोदेईचे प्रमुख आहेत, ज्यांनी शनिवारी एका निबंधात विकास मंदावण्याचा युक्तिवाद केला.

तथापि, उद्योगातील काही आकडेवारी सांगतात की, संभाव्यत: दोन मोठ्या एआय कंपन्यांच्या संभाव्य स्टॉक मार्केटमध्ये पदार्पण करण्यापूर्वी त्यांच्याभोवती हायप निर्माण करण्यासाठी किंवा त्यांच्या प्रतिस्पर्ध्यांची गती कमी करणाऱ्या नियमनाला तत्पर करण्यासाठी, धोके ओव्हरब्लो केले जात आहेत.

ब्रिटनमधील 27 वर्षीय कॉक्सन, ज्यांचे संशोधन एआय मॉडेल्सच्या प्रशिक्षणावर केंद्रित आहे, म्हणाले की एलोन मस्क आणि ओपनएआयच्या सॅम ऑल्टमनसह एआय नेत्यांनी अमोदेईला समान चिंता सामायिक केल्या आहेत.

“ते सर्वांनी एआय टेकओव्हरच्या संभाव्यतेबद्दल सावधगिरी बाळगण्याच्या आवश्यकतेबद्दल विधान केले आहे. ते सर्व याबद्दल बोलले आहेत. एआय टेकओव्हर मानवी विलोपन सूचित करते,” कॉक्सन म्हणाले.

कॉक्सनच्या मते, उत्तर देण्यासाठी सर्वात कठीण प्रश्न म्हणजे ते कसे दिसेल.

“कोणत्याही प्रकारची ठोस परिस्थिती तुम्ही मांडू शकता ती विज्ञान कल्पनेसारखी वाटेल,” कॉक्सन म्हणाले, परंतु लक्षात ठेवा की आधीच घडलेल्या प्रगती भूतकाळातील काल्पनिक वाटल्या असत्या.

कॉक्सन म्हणाले की, संभाव्य परिस्थितीमध्ये एआय एजंट्स वैद्यकीय प्रयोगशाळांमध्ये हॅक करून “स्वायत्तपणे प्राणघातक विषाणू तयार करतात”. त्याने सूचीबद्ध केलेले आणखी एक उदाहरण म्हणजे “जग ज्यावर चालते त्या गंभीर पायाभूत सुविधा” मध्ये AI हॅक करणे.

संशोधकाने ओपनएआयच्या अलीकडील अहवालाकडे लक्ष वेधले आहे, ज्यामध्ये हगिंग फेस नावाच्या ऑनलाइन प्लॅटफॉर्मवर स्वतःचे तंत्रज्ञान कसे हॅकिंगमध्ये होते हे तपशीलवार आहे.

“त्यांनी हे स्वायत्तपणे केले, कोणत्याही मानवी प्रोत्साहनाशिवाय. त्यांनी या हॅकिंग स्प्रिवर जाण्याचे निवडले. हे गोष्टी जलद होत आहेत आणि गोष्टी देखील भयानक होत आहेत,” कॉक्सन म्हणाले.

अमोदेईच्या टिप्पण्यांमध्ये वर्णन केलेल्या जोखमींपैकी एक म्हणजे इंटरनेटचा ताबा घेऊ शकणाऱ्या सुपर कॉम्प्युटरप्रमाणे काम करणाऱ्या बॉट्सचा थवा होता.

कॉक्सन म्हणाले की ही परिस्थिती सहा महिने ते वर्षभरात वास्तववादी असू शकते.

एन्थ्रोपिक आणि ओपनएआय संभाव्य रेकॉर्ड-सेटिंग प्रारंभिक सार्वजनिक ऑफरसाठी तयारी करत आहेत. उद्योगाच्या आकडेवारीने धोक्यांबद्दल टिप्पण्या सुचवल्या आहेत आणि AI ची शक्ती हाईप निर्माण करण्यासाठी डिझाइन केली जाऊ शकते. इतर समीक्षकांचे म्हणणे आहे की अँथ्रोपिक स्पर्धा अवरोधित करण्यासाठी नियामक पुश ट्रिगर करण्याचा प्रयत्न करीत आहे, ती सोडून ओपनएआयला डुओपॉलीसह.

कॉक्सनच्या मतांवर एआय प्लॅटफॉर्म हगिंग फेसचे सीईओ क्लेमेंट डेलंग्यू यांनी देखील प्रश्न केला आहे.

“माफ करा, पण जेकबला AI लुप्त होण्याच्या जोखमीबद्दल विचारणे म्हणजे तुमच्या AC माणसाला हवामान बदलाबद्दल विचारण्यासारखे आहे,” त्याने X वर लिहिले. “हे अपरिहार्यपणे रुचणारे किंवा चुकीचे आहे असे म्हणत नाही पण गोष्टी दृष्टीकोनात ठेवूया.”

शनिवारी अमोदेईच्या निबंधानंतर, तथापि, डेलंग्यूने अँथ्रोपिक बॉसने प्रस्तावित केलेल्या संभाव्य उपायांचा एक भाग होण्यासाठी मदत करण्याची ऑफर दिली.

एनव्हीडियाचे बॉस जेन्सेन हुआंग यांनीही गेल्या आठवड्यात गुंतवणूक बँक गोल्डमन सॅक्सने आयोजित केलेल्या परिषदेत जमावासमोर कॉक्सनच्या टिप्पण्यांवर चर्चा केली, असे समूहातील अनेक लोकांनी बीबीसीला सांगितले. ते म्हणाले की त्याने त्यांना खोटे ठरवले.

हुआंगने पूर्वी म्हटले आहे की AI “माणुसकीचा अंत होणार आहे” ही कल्पना “संपूर्ण मूर्खपणा” आहे.

आणि त्याला एआय बूममध्ये व्यवसायात स्वारस्य असू शकते – एनव्हीडिया चिप्स तयार करते जे एआय सिस्टमला सामर्थ्य देते – त्याच्या टिप्पण्या सिलिकॉन व्हॅलीमध्ये सध्याच्या आणि माजी कर्मचाऱ्यांकडून अस्तित्वात असलेल्या इशाऱ्यांबद्दल वाढत्या प्रतिक्रिया दर्शवतात.