AI ची सुपरइंटिलिजन्स रेस मानवांसाठी धोकादायक आहे का? मानववंश संशोधकाने एवढा मोठा गजर का दिला?

डिजिटल डेस्क लखनौ: आजच्या काळात आर्टिफिशियल इंटेलिजन्स (AI) हा लोकांच्या जीवनाचा एक महत्त्वाचा भाग बनला आहे. लोकांमध्ये त्याचा वापर जितका वेगाने वाढत आहे, तितक्याच वेगाने त्याच्या नियंत्रण आणि सुरक्षिततेबाबतही प्रश्न उपस्थित होत आहेत. या चर्चेदरम्यान, मानववंशीय संशोधक जेकब कॉक्सन यांच्या राजीनाम्याने एआय उद्योगाच्या सध्याच्या दिशेवर गंभीर चर्चा रंगली आहे.

27 वर्षीय कॉक्सन यांनी सोशल मीडिया प्लॅटफॉर्मवर आपल्या राजीनाम्याची माहिती देताना त्यांनी आरोप केला की, या शर्यतीत कंपन्या AI ची क्षमता वेगाने वाढवत आहेत, त्यामुळेच त्या संबंधित सुरक्षा आणि नियंत्रणाच्या गांभीर्याला पूर्ण महत्त्व देत नाहीत.

कॉक्सनच्या म्हणण्यानुसार, त्यांनी गेल्या तीन वर्षांत ओपनएआय आणि अँथ्रोपिक या दोन्ही ठिकाणी प्रशिक्षणपूर्व संशोधनावर काम केले आहे. दोन्ही कंपन्यांच्या कामकाजाचे बारकाईने निरीक्षण करून एआयच्या सध्याच्या दिशेबद्दल त्यांनी चिंता व्यक्त केली आहे.

राजीनामा देताना जेकब कॉक्सन काय म्हणाले?

अँथ्रोपिकमधून राजीनामा जाहीर करताना, कॉक्सनने एक्स वर लिहिले की दोन्ही कंपन्या जबाबदारीने वागत नाहीत. त्यांचा दावा आहे की कंपन्या थेट सुपरइंटिलिजन्स तयार करण्याच्या शर्यतीत आहेत जे स्वतःला सुधारण्यास सक्षम असतील आणि या प्रक्रियेत मानवांच्या जीवनाला मोठा धोका असू शकतो.

कॉक्सनची चिंता केवळ एआय किती शक्तिशाली आहे यापुरती मर्यादित नाही. त्यांचा मुख्य प्रश्न असा आहे की जर एआय प्रणालींनी स्वत:ला सतत सुधारण्याची क्षमता प्राप्त केली, तर भविष्यात मानव त्यांच्या क्षमता आणि वर्तनावर प्रभावीपणे नियंत्रण ठेवेल का?

भविष्यातील एआय किती शक्तिशाली आहे?

कॉक्सन चेतावणी देतो की भविष्यातील एआय सिस्टम सध्या लोकांच्या कल्पनेपेक्षा अधिक सक्षम असू शकतात. त्यांच्या मते, एक पुरेशी प्रगत प्रणाली संगणक नेटवर्क हॅक करू शकते, विविध क्षेत्रांमध्ये अत्यंत जलद बदल घडवून आणू शकते आणि वास्तविक जगात मोठ्या प्रमाणात शक्ती आणि संसाधने मिळवू शकते.

ते म्हणतात की एआयच्या प्रगतीची चिन्हे आधीच अनेक क्षेत्रांमध्ये दिसत आहेत आणि ती दिवसेंदिवस अधिक शक्तिशाली आणि प्रगत होत आहे.

म्हणूनच कॉक्सनला एआयची क्षमता वाढवण्याच्या सध्याच्या स्पर्धेबद्दल अधिक चिंता आहे. त्यांच्या मते, समस्या केवळ एआय काय करू शकते ही नाही, तर त्याची क्षमता खूप मोठी झाल्यानंतर त्यावर नियंत्रण ठेवणे किती कठीण होईल.

या दशकात AI मानवांसाठी अस्तित्वाचा धोका बनू शकेल का?

कॉक्सनने एआयच्या संभाव्य धोक्याबद्दल कडक इशारा दिला आहे. तो दावा करतो की एआय विकसित करणाऱ्या काही लोकांचा असा विश्वास आहे की या दशकाच्या अखेरीस एआय मानवतेसाठी अत्यंत धोकादायक सिद्ध होऊ शकते. यावर नियंत्रण ठेवणे गरजेचे आहे.

त्यांनी या चिंतेला केवळ सार्वजनिक चर्चा किंवा विपणन धोरणाचा भाग मानण्यास नकार दिला आहे.

कॉक्सन म्हणतात की एआय उद्योगातील अनेक वरिष्ठ संशोधक आणि अधिकारी सार्वजनिक मंचांवर जोखमींबद्दल तुलनेने संतुलित भाषा वापरतात, तर खाजगी संभाषणांमध्ये तेच लोक संभाव्य विनाशकारी परिणामांबद्दल अधिक चिंता व्यक्त करतात आणि लोकांना सतर्क राहण्यास सांगतात.

तथापि, हा कॉक्सनचा दावा आहे आणि त्याला एआय उद्योगाचे एकमत मानले जाऊ शकत नाही.

अँथ्रोपिक आणि ओपनएआय बाबत कोणते दावे करण्यात आले?

कॉक्सनने त्याच्या अनुभवावर आधारित ओपनएआय आणि अँथ्रोपिकमधील फरक देखील स्पष्ट केला.

तो दावा करतो की OpenAI मधील बऱ्याच लोकांना अद्याप AI चे संभाव्य सभ्यताविषयक दावे पूर्णपणे समजलेले नाहीत. अँथ्रोपिकबद्दल ते म्हणतात की एआयचे धोके तिथे चांगले समजले जातात.

परंतु कॉक्सनचा आरोप आहे की जोखीम समजून घेतल्यानंतरही, अँथ्रोपिक एआय कंपन्यांमध्ये सुरू असलेल्या स्पर्धेपासून स्वतःला वेगळे करू शकत नाही.

त्यांच्या मते, कंपनीला काळजी वाटू शकते की जर तिने अत्याधुनिक AI प्रणाली विकसित करण्याचा वेग कमी केला, तर काही इतर संस्था हे तंत्रज्ञान प्रथम विकसित करू शकतात आणि सुरक्षिततेला पुरेसे प्राधान्य देऊ शकत नाहीत.

म्हणजेच, त्यांच्या मते, एआय उद्योगातील एक प्रकारचा “कोण प्रथम पोहोचेल” दबाव कंपन्यांना सतत अधिक शक्तिशाली मॉडेल तयार करण्यास प्रवृत्त करत आहे.

एआय रेसमध्ये कॉक्सनला सर्वात जास्त कशाची भीती वाटते?

कॉक्सनचे आक्षेप पाच मुख्य मुद्द्यांमध्ये सारांशित केले जाऊ शकतात:

-स्वयं-सुधारित AI जोखीम नियंत्रित करणे कठीण होते.
-एआय क्षमता वाढवण्याचा अत्यंत वेगवान वेग.
-ओपनएआय, अँथ्रोपिक आणि इतर कंपन्यांमधील स्पर्धा.
-सुरक्षेपेक्षा मॉडेलची कार्यक्षमता वाढवण्यावर अधिक भर.
– संपूर्ण मानवतेला प्रभावित करणारे निर्णय मर्यादित संस्थात्मक चौकटीत घेतले जातात.

कॉक्सन म्हणतात की एआय किती वेगाने विकसित करायचे याचा निर्णय केवळ खाजगी कंपनीच्या अंतर्गत प्लॅटफॉर्मवर किंवा स्लॅक सारख्या प्लॅटफॉर्मवर घेतला जाऊ नये. त्यांच्या मते, असे तंत्रज्ञान संपूर्ण मानवतेवर परिणाम करू शकते.

मानवी हित, दिशा आणि सुरक्षेला अनुसरून काम करणाऱ्या AI प्रणाली विकसित करण्यावर त्यांचा भर आहे.

एआय मॉडेल्सची क्षमता वाढवण्यासाठी तात्पुरता विराम आवश्यक आहे का?

कॉक्सनने केवळ धोक्याचा इशाराच दिला नाही तर एआय विकासाची सध्याची गती थांबवण्याच्या शक्यतेचे समर्थन केले.

जगाला एआयची जागतिक घोडदौड थांबवायची असेल, तर काही महागडे आणि विलक्षण पावले उचलावी लागतील, असे त्यांचे मत आहे. त्यांनी एआय मॉडेल्सच्या क्षमता वाढविण्यावर तात्पुरता विराम देण्याच्या शक्यतेचे समर्थन केले आहे.

तथापि, एआय कंपन्यांमधील समन्वयाची शक्यता अद्याप मावळलेली नाही, असेही कॉक्सनचे मत आहे. हगिंग फेस अटॅक सारख्या घटना त्यांनी एक चेतावणी म्हणून ठेवल्या आणि सूचित केले की अशा घटनांमुळे अमेरिकन AI प्रयोगशाळा विकास आणि सुरक्षिततेच्या गतीशी तडजोड करू शकतात.

पण त्यांच्या मते, सध्या जागतिक एआय शर्यत थांबवण्याच्या दिशेने जगाची वाटचाल होताना दिसत नाही.

कॉक्सनचे एआय संशोधकांना विशेष आवाहन

आपल्या राजीनाम्यासह, कॉक्सन यांनी एआय लॅबमध्ये काम करणाऱ्या इतर संशोधकांना त्यांच्या कामाच्या भविष्याचा गांभीर्याने विचार करण्याचे आवाहन केले.

त्यांनी प्रश्न केला की संशोधकांना सुपरइंटेलिजेंट सिस्टम “विचार” कसा करतात हे पूर्णपणे समजून घेतल्याशिवाय येत्या काही वर्षांत अत्यंत शक्तिशाली रीइन्फोर्समेंट लर्निंग (RL) प्रक्रिया चालवायची आहेत का.

ते म्हणतात की संशोधकांनी केवळ एआयचा विकास याच दिशेने होणार आहे असे मानून गप्प बसू नये. त्याऐवजी त्यांनी अशा परिस्थितीची मागणी केली पाहिजे ज्यामध्ये AI विकास अधिक सुरक्षितपणे करता येईल.

कॉक्सनचा इशारा सोशल मीडियावर व्हायरल झाला

कॉक्सनच्या पोस्टने एआय समुदायात आणि सोशल मीडियावर वेगवेगळ्या प्रतिक्रिया उमटल्या. या धोक्यावर प्रकाश टाकल्याबद्दल काही लोकांनी त्यांचे कौतुक केले, तर काही वापरकर्त्यांनी प्रश्न उपस्थित केला की जर त्यांनी सध्याची व्यवस्था चुकीची मानली असेल तर त्यावर पर्याय म्हणून उपाय काय असावा.

दुसऱ्या प्रतिसादाने AI ची तुलना स्वतःहून विचार करू शकणाऱ्या शस्त्राशी केली. यावरून हे स्पष्ट होते की कॉक्सनच्या पोस्टने एआय सुरक्षा आणि सुपरइंटिलिजन्स संदर्भात सार्वजनिक चर्चा देखील तीव्र केली आहे.

एआय नियमनाबाबत अँथ्रोपिकचे सीईओ डारियो अमोदेई यांची भूमिका काय आहे?

कॉक्सनच्या चिंतेमध्ये, एन्थ्रोपिकचे सीईओ डारियो अमोदेई यांचाही एआय नियमनाबाबत वेगळा दृष्टीकोन आहे.

16 ऑगस्ट रोजी, Amodei च्या दाव्यांविरुद्ध मागे ढकलले की AI चे नियमन केल्याने त्याची शक्ती काही मोठ्या कंपन्या आणि सरकारांपर्यंत मर्यादित होईल.

तो असा युक्तिवाद करतो की जर नियम विचारपूर्वक बनवले गेले तर ते मोठ्या आणि अत्याधुनिक एआय कंपन्यांच्या सामर्थ्यावर नियंत्रण ठेवू शकतात आणि लहान कंपन्यांना वाढण्याची संधी देखील देऊ शकतात.

अमोदेईने याला 'खोटी निवड' का म्हटले?

एआयची शक्ती काही मोठ्या कंपन्यांपर्यंत मर्यादित न ठेवता ती अधिकाधिक लोकांना आणि कंपन्यांना उपलब्ध करून द्यावी, असा युक्तिवाद गुंतवणूकदार गेविन बेकर यांनी केल्यानंतर हा वाद झाला.

अमोदेईने या विचारसरणीचे वर्णन “खोटी निवड” असे केले. ते म्हणतात की एआयची शक्ती नियंत्रित करणे आणि ती प्रत्येकासाठी उपलब्ध करून देणे यामध्ये तिसरा मार्ग आहे.

त्यांच्या मते, न्याय्य नियम आणि संस्था मोठ्या कंपन्यांच्या शक्तीवर नियंत्रण ठेवू शकतात आणि त्याच वेळी लोकांच्या हक्कांचे रक्षण करू शकतात.

AI वर खरा वाद: गती की सुरक्षा?

जेकब कॉक्सनच्या राजीनाम्याने एआय उद्योगाच्या मूलभूत आव्हानावर प्रकाश टाकला आहे, जे एका बाजूला तांत्रिक प्रगती आणि आर्थिक संधी आणि दुसरीकडे सुरक्षा आणि नियंत्रणाचे प्रश्न यांच्यात विभागलेले आहे.

जर एआय मॉडेल्स अधिक सक्षम बनले तर ते औषध, विज्ञान, शिक्षण, व्यवसाय आणि संशोधनात मोठे बदल घडवून आणतील अशी अपेक्षा केली जाऊ शकते. पण दुसरीकडे, हा प्रश्नही तितकाच महत्त्वाचा आहे की या यंत्रणांच्या क्षमतेच्या मर्यादा कोण ठरवणार आणि एआय मानवी क्षमतेच्या पलीकडे गेल्यास त्यांच्यावर कोण नियंत्रण ठेवणार?

कॉक्सन सध्याची एआय शर्यत अत्यंत धोकादायक मानते आणि विकासाची गती किंवा कंपन्यांमधील समन्वय तात्पुरती थांबवण्याचे समर्थन करते. त्याच वेळी, अमोदेईचा भर अशा नियमनावर आहे, जे मोठ्या कंपन्यांच्या सामर्थ्यावर अंकुश ठेवत असताना, लहान कंपन्यांसाठी संधी देखील राखते.

त्यामुळे एआय बद्दलची सर्वात मोठी चर्चा आता मशीन्स किती शक्तिशाली होऊ शकतात यावर नाही. त्या सत्तेवर कोण नियंत्रण ठेवणार, विकासाच्या मर्यादा कोण ठरवणार आणि माणसांच्या सुरक्षिततेची हमी कशी देणार हा खरा प्रश्न आहे.

हे देखील वाचा: आता यूपीच्या आयटीआयमध्ये संशोधनावर भर अलिगंजमध्ये संशोधन विभाग बांधणार; LMS च्या माध्यमातून प्रशिक्षणावर लक्ष ठेवले जाईल