एआय कंपन्या आमच्या जीवनाशी जुगार खेळतात: मानववंशीय संशोधकाने बेजबाबदार एआय वापराचा हवाला देऊन सोडले

नवी दिल्ली: अँथ्रोपिकमधील एआय संशोधक जेकब कॉक्सन यांनी बुधवारी आपला राजीनामा जाहीर केला आणि आरोप केला की, ओपनएआयसह आघाडीच्या तंत्रज्ञान कंपन्या, सुपरइंटिलिजन्स विकसित करण्याच्या आणि “आमच्या जीवनाशी जुगार” करण्याच्या अनियंत्रित शर्यतीत बेजबाबदारपणे वागत आहेत.

Coxon, ज्यांनी गेली तीन वर्षे ओपनएआय आणि अँथ्रोपिक या दोन्हींमध्ये पूर्व-प्रशिक्षण संशोधन आयोजित केले, त्यांनी सांगितले की लॅबमधील स्पर्धात्मक गर्दी पुरेशा सुरक्षिततेशिवाय सुरू आहे.

इव्हान हबिंगर, सध्या अँथ्रोपिकमधील अलाइनमेंट सायन्स लीड, कॉक्सनच्या चिंतेची कबुली देत ​​म्हणाले की सॅन फ्रान्सिस्को-आधारित कंपनीकडे सुपरइंटिलिजन्ससाठी संरेखन सोडवण्याची अद्याप योजना नाही.

सोशल मीडिया प्लॅटफॉर्म X वर एका पोस्टमध्ये, त्यांनी चेतावणी दिली की तंत्रज्ञान अतिमानवी प्रणालींकडे वेगाने प्रगती करत आहे जे काहीही हॅक करू शकते, कोणत्याही क्षेत्रात रातोरात क्रांती करू शकते आणि वास्तविक शक्ती आणि संसाधने मिळवू शकते. ते पुढे म्हणाले की इतर कोणत्याही मानवी क्रियाकलापांना तुलनेने धोक्याची पातळी नाही.

“मी आज अँथ्रोपिकमधून राजीनामा दिला आहे. मी गेली तीन वर्षे ओपनएआय आणि अँथ्रोपिक या दोन्ही ठिकाणी पूर्वप्रशिक्षण संशोधनात घालवली आहेत. कोणतीही कंपनी जबाबदारीने वागत नाही. ते थेट आत्म-सुधारणा करण्यासाठी आणि आमच्या जीवनाशी जुगार खेळत आहेत.

“ओपनएआयमध्ये, अनेकांनी सभ्यताविषयक खेळींचा खोलवर अंतर्भाव केला नाही. एन्थ्रोपिकमध्ये, स्टेक्स चांगल्या प्रकारे समजले आहेत, परंतु ते प्रथम तेथे जाण्याच्या शर्यतीत अडकले आहेत, त्यांना विश्वास आहे की इतर कोणीही जबाबदारीने वागणार नाही, म्हणून जोखीम असूनही त्यांनी ते स्वतःच केले पाहिजे. ही शर्यत स्वीकारणे आणि 'एंडगेम' मध्ये प्रवेश करणे ही एक खाजगी कंपनी आहे,” असे तो म्हणाला, “सांगितले. दशकाच्या अखेरीस AI मुळे आपत्तीजनक हानी होऊ शकते असा या क्षेत्रात काम करणाऱ्या अनेकांचा विश्वास आहे.

कॉक्सनने दावा केला की अधिकारी आणि संशोधक अनेकदा सार्वजनिकरित्या मोजलेली भाषा स्वीकारत असताना, अनेक खाजगीरित्या अनियंत्रित कृत्रिम बुद्धिमत्तेमुळे उद्भवलेल्या अस्तित्वाच्या धोक्यांबद्दल खोल चिंता व्यक्त करतात. त्यांनी असेही नमूद केले की अलीकडील हगिंग फेस उल्लंघनासारख्या सुरक्षा घटना प्रमुख यूएस लॅब्समधील पेसिंग करारांची तातडीची आवश्यकता दर्शवतात.

आपल्या समवयस्कांना त्यांच्या गुंतागुंतीचा पुनर्विचार करण्यास उद्युक्त करून, कॉक्सनने लिहिले: “तुम्ही प्रयोगशाळेतील संशोधक असाल, तर मी तुम्हाला पुढील काही वर्षे प्रत्यक्षात कशी वाटेल याचा विचार करण्यास उद्युक्त करतो. तुम्हाला सुपरइंटेलिजंट RL (रीइन्फोर्समेंट लर्निंग) त्याच्या मनाची कठोर समज न घेता चालवायचे आहे का? तुम्ही तुमचे डोके खाली ठेवावे कारण 'हे घडत आहे की कोणत्याही परिस्थितीत – हे घडत आहे का? कॉक्सनच्या विधानाला थेट प्रतिसाद देताना, हबिंगरने अस्तित्वातील चिंता प्रमाणित केल्या.

“येथे जेकब बरोबर आहे एआय सर्व मानवांना मारून टाकू शकते यावर आमचा मनापासून विश्वास आहे! मला वैयक्तिकरित्या असे वाटते की पुढील दशकात ते 10 टक्क्यांपेक्षा जास्त आहे,” हबिंगरने X वर लिहिले.

“माझा विश्वास आहे की अँथ्रोपिक सर्वोत्कृष्ट प्रयत्न करत आहे, परंतु आमच्याकडे अद्याप सुपरइंटिलिजन्ससाठी संरेखन सोडवण्याची योजना नाही आणि ते स्पष्टपणे मार्गावर नाही,” तो पुढे म्हणाला.

हबिंगरने नमूद केले की, सध्याच्या मॉडेल्सद्वारे निर्माण होणारा धोका कमी असला तरी, प्राथमिक धोका पुनरावृत्ती होणाऱ्या आत्म-सुधारणेमुळे पूर्वीच्या अपेक्षेपेक्षा अधिक वेगाने होतो.

ओरिसा पोस्ट – वाचा क्रमांक 1 इंग्रजी दैनिक