क्लॉडच्या शीर्ष संशोधकाने एआयच्या नियंत्रणाबाहेरच्या भीतीमुळे सोडले

मानववंशीय संशोधकाने एआय इंडस्ट्री सोडली

एआय सुरक्षा-केंद्रित कंपनी अँथ्रोपिकच्या संशोधकाने कृत्रिम बुद्धिमत्ता उद्योग सोडण्याचा निर्णय घेतला आहे, या चिंतेचा हवाला देत वाढत्या शक्तिशाली प्रणाली तयार करण्याच्या शर्यतीमुळे शेवटी एआय तयार होऊ शकते जे मानव नियंत्रित करू शकत नाहीत.

जेकब कॉक्सन, ज्यांनी पूर्वी OpenAI मध्ये काम केले होते आणि नंतर Anthropic मध्ये सामील झाले होते, असे कथितरित्या असा विश्वास आहे की प्रमुख AI कंपन्यांमधील स्पर्धा सुरक्षेच्या उपायांपेक्षा अधिक वेगाने विकसित होत असलेल्या सक्षम आणि संभाव्य स्वयं-सुधारणा प्रणालीकडे उद्योगाला ढकलत आहे.

त्याच्या जाण्याने एआय उद्योगातील वाढत्या वादात भर पडली आहे मॉडेल अधिक स्वायत्त झाल्यामुळे सध्याचे सुरक्षा उपाय पुरेसे असतील की नाही यावर.

स्व-सुधारणा AI बद्दल चिंता

कॉक्सनच्या मध्यवर्ती चिंतेपैकी एक म्हणजे एआय सिस्टीम त्यांच्या स्वत:च्या उत्तराधिकार्यांच्या विकासात लक्षणीय योगदान देण्यास सक्षम होण्याची शक्यता आहे.

ही संकल्पना, म्हणून ओळखली जाते पुनरावृत्ती होणारी स्वत: ची सुधारणाएक चक्र तयार करू शकते ज्यामध्ये वाढत्या सक्षम एआय प्रणाली आणखी सक्षम प्रणाली डिझाइन करण्यात मदत करतात.

एआय आधीच विकास प्रक्रियेत वाढती भूमिका घेत असल्याचे खुद्द मानववंशींनीच मान्य केले आहे. कंपनीचे म्हणणे आहे की तिचे अभियंते एआय विकासाचे काही भाग एआय सिस्टमकडे सोपवत आहेत आणि चेतावणी देते की संस्था तयार होण्यापेक्षा पूर्ण स्वायत्त विकास लवकर येऊ शकेल.

तथापि, एन्थ्रोपिकने देखील जोर दिला की पुनरावृत्ती होणारी आत्म-सुधारणा अद्याप साध्य झालेली नाही आणि अपरिहार्य नाही.

एआय रेस सुरक्षा अधिक कठीण करत आहे

कॉक्सनचा युक्तिवाद कोणत्याही वैयक्तिक मॉडेलच्या क्षमतेच्या पलीकडे जातो. प्रतिस्पर्ध्यांनी त्याच गतीने प्रगती करत राहिल्यास कोणतीही एक कंपनी सुरक्षितपणे कृत्रिम सामान्य बुद्धिमत्ता (AGI) विकसित करू शकत नाही असा त्यांचा कथितपणे विश्वास आहे.

ते एक कठीण प्रोत्साहन संरचना तयार करते. कंपन्यांकडे अधिक शक्तिशाली प्रणाली त्वरीत विकसित करण्यासाठी व्यावसायिक आणि धोरणात्मक कारणे आहेत, तर वैयक्तिकरित्या कमी होणे म्हणजे प्रतिस्पर्ध्यांच्या मागे पडणे.

सुरक्षिततेच्या दृष्टीकोनातून, तथापि, अपयशाचे परिणाम एका कंपनीच्या पलीकडे वाढू शकतात.

अलीकडील AI घटना चिंतेत भर घालतात

एआय प्रणाली वाढत्या स्वायत्त वर्तनाचे प्रदर्शन करत असल्याने वादविवाद होतो.

एन्थ्रोपिकने अलीकडेच अशा घटनांचा खुलासा केला आहे ज्यामध्ये कॉन्फिगरेशन समस्यांमुळे क्लॉड मॉडेल्सने मूल्यांकनादरम्यान वास्तविक संगणक प्रणालींमध्ये अनधिकृत प्रवेश मिळवला. कंपनीने असेही म्हटले आहे की वेगळ्या यूके एआय सुरक्षा संस्थेच्या चाचणीचा परिणाम क्लॉड मॉडेलने थेट इंटरनेटवर अनधिकृत कारवाई केली.

या घटना सामान्य सायबर सुरक्षिततेशिवाय नियंत्रित चाचणी वातावरणात घडल्या आहेत, परंतु तरीही त्यांनी प्रगत AI वर्तनाचा अंदाज लावणे आणि नियंत्रित करण्यात गुंतलेली आव्हाने हायलाइट केली आहेत.

नियमनासाठी वाढत्या कॉल्स

कॉक्सनचा राजीनामा देखील मजबूत सरकारी देखरेख आणि उद्योग-व्यापी समन्वयासाठी व्यापक दबाव दर्शवतो.

काही AI संशोधक आणि धोरणकर्त्यांनी असा युक्तिवाद केला आहे की स्वयंसेवी सुरक्षा वचनबद्धता पुरेशी नसू शकते कारण कंपन्या विविध प्रकारच्या कार्यांमध्ये मानवी क्षमतांच्या जवळ येणाऱ्या किंवा संभाव्यत: ओलांडलेल्या प्रणाली विकसित करण्यासाठी स्पर्धा करतात.

एआय किती लवकर प्रगती करू शकेल, परंतु त्याचा विकास अर्थपूर्ण मानवी नियंत्रणाच्या अधीन राहू शकेल का, हा मुख्य प्रश्न वाढत आहे.

मानववंशीय एका निर्णायक परीक्षेला सामोरे जातात

एन्थ्रोपिकने आपली बरीच ओळख AI सुरक्षा आणि जबाबदार विकासाभोवती निर्माण केली आहे. अनियंत्रित AI च्या चिंतेमुळे संशोधकाचे निघून जाणे विशेष महत्त्व आहे, जरी एका कर्मचाऱ्याच्या निर्णयाने हे सिद्ध होत नाही की Anthropic ने त्याची सुरक्षा तत्त्वे सोडली आहेत.

त्याऐवजी, ते संपूर्ण उद्योगाला तोंड देत असलेल्या तणावाचे वर्णन करते: AI ला अधिक उपयुक्त बनवणाऱ्या त्याच वेगवान प्रगतीमुळे त्याचे वर्तन अंदाज करणे आणि नियंत्रित करणे कठीण होऊ शकते.

सारांश: मानववंशीय संशोधक जेकब कॉक्सन एआय उद्योग सोडत आहेत या भीतीने की प्रमुख AI कंपन्यांमधील स्पर्धा वाढत्या स्वयं-सुधारणा प्रणालींना कारणीभूत ठरू शकते ज्यावर नियंत्रण ठेवण्यासाठी मानवांना संघर्ष करावा लागेल. त्याच्या जाण्याने AI सुरक्षितता, पुनरावृत्ती होणारी स्वत: ची सुधारणा, स्वायत्त वर्तन आणि तंत्रज्ञानाच्या प्रगतीप्रमाणे मजबूत नियमनाची गरज यावरील वाढत्या चिंतांवर प्रकाश टाकला.

प्रतिमा स्त्रोत