अँथ्रोपिकने स्वतःसाठी तयार केलेला सापळा

शुक्रवारी दुपारी, ही मुलाखत सुरू असतानाच, माझ्या संगणकाच्या स्क्रीनवर एक बातमी अलर्ट चमकली: ट्रम्प प्रशासन अँथ्रोपिकशी संबंध तोडत आहे, सॅन फ्रान्सिस्को एआय कंपनी 2021 मध्ये डारियो अमोदेईने स्थापन केली होती. संरक्षण सचिव पीट हेगसेथ यांनी कंपनीला पेंटागॉनसह व्यवसाय करण्यापासून काळ्या यादीत टाकण्यासाठी राष्ट्रीय सुरक्षा कायद्याची मागणी केली होती, ज्यानंतर अमोदेईने अमेरिकन नागरिकांच्या मोठ्या प्रमाणावर पाळत ठेवण्यासाठी किंवा मानवी इनपुटशिवाय लक्ष्य निवडून आणि मारू शकणाऱ्या स्वायत्त सशस्त्र ड्रोनसाठी अँथ्रोपिकच्या तंत्रज्ञानाचा वापर करण्यास नकार दिला होता.

तो एक जबडा सोडणारा क्रम होता. अँथ्रोपिक $200 दशलक्ष पर्यंतचा करार गमावणार आहे आणि अध्यक्ष ट्रम्प यांनी ट्रुथ सोशलवर पोस्ट केल्यानंतर “अँथ्रोपिक तंत्रज्ञानाचा सर्व वापर तात्काळ थांबवा” असे निर्देश देऊन इतर संरक्षण कंत्राटदारांसोबत काम करण्यापासून प्रतिबंधित केले जाईल. (ॲन्थ्रोपिकने तेव्हापासून असे म्हटले आहे पेंटागॉनला कोर्टात आव्हान द्या.)

मॅक्स टेगमार्कने एक दशकाचा चांगला भाग असा इशारा दिला आहे की अधिक-अधिक-शक्तिशाली AI सिस्टीम तयार करण्याची शर्यत त्यांना नियंत्रित करण्याच्या जगाच्या क्षमतेला मागे टाकत आहे. एमआयटी भौतिकशास्त्रज्ञाने स्थापना केली जीवन संस्थेचे भविष्य 2014 मध्ये आणि एक आयोजित करण्यात मदत केली खुले पत्र — शेवटी इलॉन मस्कसह ३३,००० हून अधिक लोकांनी स्वाक्षरी केली — प्रगत AI विकासाला विराम द्यावा.

मानववंशीय संकटाबद्दलचे त्यांचे मत अतुलनीय आहे: कंपनीने, त्याच्या प्रतिस्पर्ध्यांप्रमाणे, स्वतःच्या संकटाची बीजे पेरली आहेत. टेगमार्कचा युक्तिवाद पेंटागॉनने सुरू होत नाही तर वर्षापूर्वी घेतलेल्या निर्णयाने होतो — बंधनकारक नियमनाला विरोध करण्यासाठी उद्योगात सामायिक केलेली निवड. एन्थ्रोपिक, ओपनएआय, गुगल डीपमाइंड आणि इतरांनी स्वत: ला जबाबदारीने शासन करण्याचे वचन दिले आहे. Anthropic या आठवड्यात अगदी सोडला स्वतःच्या सुरक्षिततेच्या प्रतिज्ञाचा केंद्रीय सिद्धांत — जोपर्यंत कंपनीला विश्वास मिळत नाही तोपर्यंत वाढत्या शक्तिशाली AI सिस्टीम रिलीझ न करण्याचे वचन दिले आहे की ते नुकसान करणार नाहीत.

आता, नियमांच्या अनुपस्थितीत, या खेळाडूंचे संरक्षण करण्यासाठी बरेच काही नाही, टेगमार्क म्हणतात. येथे त्या मुलाखतीतील आणखी काही आहे, लांबी आणि स्पष्टतेसाठी संपादित केले आहे. तुम्ही या येत्या आठवड्यात रीड्सवर संपूर्ण संभाषण ऐकू शकता काटेकोरपणे व्हीसी डाउनलोड करा पॉडकास्ट

जेव्हा तुम्ही आत्ताच अँथ्रोपिकबद्दल ही बातमी पाहिली तेव्हा तुमची पहिली प्रतिक्रिया काय होती?

नरकाचा रस्ता चांगल्या हेतूने मोकळा आहे. एक दशकापूर्वीचा विचार करणे खूप मनोरंजक आहे, जेव्हा लोक इतके उत्सुक होते की आम्ही कर्करोग बरा करण्यासाठी, अमेरिकेत समृद्धी वाढवण्यासाठी आणि अमेरिका मजबूत करण्यासाठी कृत्रिम बुद्धिमत्ता कशी बनवणार आहोत. आणि आता आपण इथे आहोत जिथे अमेरिकन सरकार AI चा वापर अमेरिकन लोकांच्या देशांतर्गत मोठ्या प्रमाणावर पाळत ठेवण्यासाठी होऊ नये आणि स्वायत्तपणे – कोणत्याही मानवी इनपुटशिवाय – कोणाला मारले जाईल हे ठरवू शकणारे किलर रोबोट्स हवे नसल्यामुळे या कंपनीवर नाराज आहे.

एन्थ्रोपिकने सुरक्षितता-प्रथम AI कंपनी म्हणून आपली संपूर्ण ओळख निर्माण केली आहे आणि तरीही ती संरक्षण आणि गुप्तचर संस्थांशी (किमान 2024 पर्यंतची) सहयोग करत होती. तुम्हाला असे वाटते की हे सर्व विरोधाभासी आहे?

ते विरोधाभासी आहे. जर मी यावर थोडेसे निंदक घेऊ शकलो तर – होय, एन्थ्रोपिक सुरक्षिततेबद्दल स्वतःचे विपणन करण्यात खूप चांगले आहे. परंतु तुम्ही दाव्यांऐवजी वस्तुस्थिती पाहिल्यास, तुम्हाला काय दिसते ते म्हणजे Anthropic, OpenAI, Google DeepMind आणि xAI या सर्वांनी सुरक्षेची काळजी कशी घेतली याबद्दल बरेच काही सांगितले आहे. त्यांच्यापैकी कोणीही आमच्या इतर उद्योगांप्रमाणे बंधनकारक सुरक्षा नियमनाचे समर्थन करत नाही. आणि या चारही कंपन्यांनी आता स्वतःची आश्वासने मोडली आहेत. प्रथम आमच्याकडे गुगल होते – ही मोठी घोषणा, 'वाईट होऊ नका.' मग त्यांनी ते वगळले. मग त्यांनी आणखी एक दीर्घ वचनबद्धता सोडली जी मुळात AI ची हानी न करण्याचे वचन दिले होते. त्यांनी ते सोडले जेणेकरून ते पाळत ठेवण्यासाठी आणि शस्त्रास्त्रे विकू शकतील. OpenAI ने त्यांच्या मिशन स्टेटमेंटमधून सुरक्षा हा शब्द नुकताच वगळला. xAI ने त्यांची संपूर्ण सुरक्षा टीम बंद केली. आणि आता अँथ्रोपिकने, आठवड्याच्या सुरुवातीला, त्यांची सर्वात महत्वाची सुरक्षा वचनबद्धता सोडली – जोपर्यंत त्यांना नुकसान होणार नाही याची खात्री होईपर्यंत शक्तिशाली एआय सिस्टम सोडणार नाही असे वचन.

ज्या कंपन्यांनी अशा प्रमुख सुरक्षा वचनबद्धता केल्या त्या या स्थितीत कशा आल्या?

या सर्व कंपन्या, विशेषत: OpenAI आणि Google DeepMind पण काही प्रमाणात Anthropic देखील आहेत, 'फक्त आमच्यावर विश्वास ठेवा, आम्ही स्वतःचे नियमन करणार आहोत' असे म्हणत AI च्या नियमनाविरुद्ध सातत्याने लॉबिंग केले आहे. आणि त्यांनी यशस्वीपणे लॉबिंग केले आहे. त्यामुळे सँडविचच्या तुलनेत अमेरिकेतील एआय सिस्टीमवर सध्या आमच्याकडे कमी नियमन आहेत. तुम्हाला माहीत आहे, जर तुम्हाला सँडविचचे दुकान उघडायचे असेल आणि आरोग्य निरीक्षकाला स्वयंपाकघरात 15 उंदीर दिसले, तर तुम्ही ते दुरुस्त करेपर्यंत तो तुम्हाला एकही सँडविच विकू देणार नाही. पण जर तुम्ही म्हणाल, 'काळजी करू नका, मी सँडविच विकणार नाही, मी 11 वर्षांच्या मुलांसाठी AI गर्लफ्रेंड विकणार आहे, आणि त्या पूर्वी आत्महत्येशी जोडल्या गेल्या आहेत, आणि नंतर मी सुपर इंटेलिजेंस नावाचे काहीतरी प्रसिद्ध करणार आहे जे कदाचित यूएस सरकार उलथून टाकेल, परंतु मला माझ्याबद्दल चांगली भावना आहे' – फक्त एक विक्री करा, 'असे म्हणायचे आहे,' सँडविच.'

अन्न सुरक्षा नियम आहेत आणि एआय नियम नाहीत.

आणि मला असे वाटते की, या सर्व कंपन्या खरोखरच दोष सामायिक करतात. कारण त्यांनी एवढ्या सुरक्षित आणि चांगल्या-चांगल्या कसे राहतील यासाठी त्या दिवशी दिलेली ही सर्व वचने घेतली असती आणि एकत्र जमले असते आणि मग सरकारकडे गेले असते आणि म्हणाले, 'कृपया आमच्या ऐच्छिक वचनबद्धता घ्या आणि आमच्या सर्वात तिरस्करणीय स्पर्धकांनाही बांधून ठेवणाऱ्या यूएस कायद्यात बदल करा' – त्याऐवजी हे घडले असते. आम्ही संपूर्ण नियामक व्हॅक्यूममध्ये आहोत. आणि जेव्हा संपूर्ण कॉर्पोरेट कर्जमाफी असते तेव्हा काय होते हे आम्हाला माहित आहे: तुम्हाला मिळेल थॅलिडोमाइडतुम्हाला तंबाखू कंपन्या मुलांवर सिगारेट ढकलतात, तुम्हाला एस्बेस्टोस फुफ्फुसाचा कर्करोग होतो. त्यामुळे AI बरोबर काय ठीक आहे आणि काय ठीक नाही असे कायदे असण्याला त्यांचा स्वतःचा विरोध आता परत येऊन त्यांना चावत आहे हे एक प्रकारचा उपरोधिक आहे.

अमेरिकन लोकांना मारण्यासाठी एआय तयार करण्याविरूद्ध सध्या कोणताही कायदा नाही, म्हणून सरकार अचानक ते मागू शकते. 'आम्हाला हा कायदा हवा आहे', असे कंपन्यांनीच आधी बाहेर येऊन सांगितले असते, तर ते या लोणात नसतील. त्यांनी खरोखरच स्वतःच्या पायात गोळी झाडली.

कंपन्यांचा प्रतिवाद हा नेहमीच चीनशी शर्यत असतो – जर अमेरिकन कंपन्यांनी असे केले नाही तर बीजिंग करेल. तो युक्तिवाद धरतो का?

याचे विश्लेषण करूया. AI कंपन्यांसाठी लॉबीस्ट्सचा सर्वात सामान्य बोलण्याचा मुद्दा – ते आता चांगले निधी आहेत आणि जीवाश्म इंधन उद्योग, फार्मा उद्योग आणि मिलिटरी-इंडस्ट्रियल कॉम्प्लेक्समधील लॉबीस्टपेक्षा जास्त आहेत – जेव्हा कोणीही कोणत्याही प्रकारचे नियमन प्रस्तावित करते तेव्हा ते म्हणतात, 'पण चीन.' तर ते बघूया. चीन AI गर्लफ्रेंडवर पूर्णपणे बंदी घालण्याच्या प्रक्रियेत आहे. केवळ वयोमर्यादा नाही – ते बंदी घालण्याच्या विचारात आहेत सर्व मानववंशीय AI. का? त्यांना अमेरिकेला खूश करायचे आहे म्हणून नाही तर ते चिनी तरुणांना खिळखिळे करत आहेत आणि चीन कमकुवत करत आहेत असे त्यांना वाटते. साहजिकच, यामुळे अमेरिकन तरुणही कमकुवत होत आहेत.

आणि जेव्हा लोक म्हणतात की आम्हाला सुपर इंटेलिजन्स तयार करण्यासाठी शर्यत करावी लागेल जेणेकरून आम्ही चीनविरुद्ध जिंकू शकू – जेव्हा आम्हाला सुपरइंटिलिजन्सवर नियंत्रण कसे करायचे हे माहित नसते, जेणेकरून डीफॉल्ट परिणाम असा होतो की मानवतेचे पृथ्वीवरील नियंत्रण एलियन मशीन्सकडे गमावते – काय अंदाज लावा? चिनी कम्युनिस्ट पक्षाला खरोखर नियंत्रण आवडते. कोणाला वाटते की शी जिनपिंग काही चिनी एआय कंपनी चिनी सरकारला उलथून टाकणारे काहीतरी बनवत आहे हे सहन करणार आहे? मार्ग नाही. सुपर इंटेलिजन्स तयार करणाऱ्या पहिल्या अमेरिकन कंपनीने सत्तापालट करून सत्ता उलथून टाकली तर अमेरिकन सरकारसाठीही हे स्पष्टपणे वाईट आहे. हा राष्ट्रीय सुरक्षेला धोका आहे.

हे आकर्षक फ्रेमिंग आहे – राष्ट्रीय सुरक्षा धोका म्हणून सुपरइंटिलिजन्स, मालमत्ता नाही. वॉशिंग्टनमध्ये ते दृश्य आकर्षण मिळवत आहे असे तुम्हाला दिसते का?

मला वाटते की जर राष्ट्रीय सुरक्षा समुदायातील लोकांनी दारिओ अमोदेईचे त्याच्या दृष्टीचे वर्णन ऐकले तर – त्याने एक प्रसिद्ध भाषण दिले आहे जिथे तो म्हणतो की आम्ही लवकरच एक डेटा सेंटरमध्ये अलौकिक बुद्धिमत्तेचा देश – ते कदाचित विचार करू लागतील: थांबा, डारियोने फक्त 'देश' हा शब्द वापरला आहे का? कदाचित मी त्या अलौकिक बुद्धिमत्तेचा देश डेटा सेंटरमध्ये ठेवला पाहिजे त्याच धोक्याच्या यादीवर ज्यावर मी टॅब ठेवत आहे, कारण ते यूएस सरकारला धोक्याचे वाटत आहे. आणि मला वाटते की लवकरच, यूएस राष्ट्रीय सुरक्षा समुदायातील पुरेशा लोकांना हे समजेल की अनियंत्रित सुपरइंटिलिजन्स एक धोका आहे, साधन नाही. हे पूर्णपणे शीतयुद्धाशी साधर्म्य साधणारे आहे. सोव्हिएत युनियन विरुद्ध आर्थिक आणि लष्करी वर्चस्वाची शर्यत होती. दुसऱ्या महासत्तेत सर्वात जास्त आण्विक खड्डे कोण टाकू शकतात हे पाहण्यासाठी आम्ही अमेरिकन लोकांनी दुसऱ्या शर्यतीत कधीही न गुंतता ती जिंकली. ही केवळ आत्महत्या असल्याचे लोकांना समजले. कोणीही जिंकत नाही. हेच तर्क इथे लागू होतात.

एआय विकासाच्या गतीसाठी या सर्वांचा अधिक व्यापक अर्थ काय आहे? तुम्ही वर्णन करत असलेल्या सिस्टमच्या आम्ही किती जवळ आहोत असे तुम्हाला वाटते?

सहा वर्षांपूर्वी, मला माहित असलेल्या AI मधील जवळजवळ प्रत्येक तज्ञाने भाकीत केले होते की मानवी स्तरावर भाषा आणि ज्ञानावर प्रभुत्व मिळवू शकणारे AI असण्यापासून आपण अनेक दशके दूर आहोत — कदाचित २०४०, कदाचित २०५०. ते सर्व चुकीचे होते, कारण ते आता आपल्याकडे आहे. हायस्कूल स्तरापासून महाविद्यालयीन स्तरापासून पीएचडी स्तरापासून ते विद्यापीठातील प्राध्यापक स्तरापर्यंत काही भागात एआयची प्रगती झपाट्याने होत असल्याचे आम्ही पाहिले आहे. गेल्या वर्षी, AI ने आंतरराष्ट्रीय गणित ऑलिम्पियाडमध्ये सुवर्णपदक जिंकले, जे मानवी कार्यांइतकेच कठीण आहे. आय एक पेपर लिहिला सह एकत्र जोशुआ बेंगियो, आणि हेन्ड्रिक्सआणि इतर शीर्ष AI संशोधकांनी काही महिन्यांपूर्वी AGI ची कठोर व्याख्या दिली. त्यानुसार तेथे GPT-4 27% होता. तेथे GPT-5 57% होता. म्हणून आम्ही अद्याप तेथे नाही, परंतु 27% वरून 57% वर जात आहोत जे त्वरीत सूचित करते की कदाचित ते इतके लांब नाही.

काल मी एमआयटीमध्ये माझ्या विद्यार्थ्यांना व्याख्यान दिले तेव्हा मी त्यांना सांगितले की यास चार वर्षे लागली तरी, याचा अर्थ ते पदवीधर झाल्यावर त्यांना यापुढे नोकरी मिळू शकणार नाही. त्याची तयारी सुरू करणे नक्कीच फार लवकर नाही.

अँथ्रोपिक आता काळ्या यादीत आहे. पुढे काय होते हे पाहण्यासाठी मी उत्सुक आहे — इतर AI दिग्गज त्यांच्यासोबत उभे राहतील आणि म्हणतील, आम्ही हे देखील करणार नाही? किंवा xAI सारखा कोणी हात वर करून म्हणतो की, अँथ्रोपिकला तो करार नको होता, आम्ही ते घेऊ? (संपादकांची टीप: मुलाखतीनंतर काही तासांनी, OpenAI ने पेंटागॉनशी स्वतःचा करार जाहीर केला.)

काल रात्री, सॅम ऑल्टमन बाहेर आला आणि म्हणाला की तो अँथ्रोपिकसोबत उभा आहे आणि त्याच लाल रेषा आहेत. असे सांगण्याच्या धाडसाचे मी कौतुक करतो. जेव्हा आम्ही ही मुलाखत सुरू केली तेव्हा गुगलने काहीही सांगितले नव्हते. जर ते फक्त शांत राहिले, तर मला वाटते की एक कंपनी म्हणून त्यांच्यासाठी ते आश्चर्यकारकपणे लाजिरवाणे आहे आणि त्यांच्या बऱ्याच कर्मचाऱ्यांना असेच वाटेल. आम्ही अद्याप xAI कडून काहीही ऐकले नाही. त्यामुळे हे पाहणे मनोरंजक असेल. मुळात, असा क्षण आहे जिथे प्रत्येकाला त्यांचे खरे रंग दाखवायचे आहेत.

परिणाम प्रत्यक्षात चांगला आहे जेथे याची आवृत्ती आहे?

होय, आणि म्हणूनच मी विचित्र पद्धतीने आशावादी आहे. येथे एक स्पष्ट पर्याय आहे. जर आम्ही एआय कंपन्यांशी इतर कोणत्याही कंपन्यांप्रमाणे वागण्यास सुरुवात केली – कॉर्पोरेट कर्जमाफी सोडा – त्यांनी इतके शक्तिशाली काहीतरी जारी करण्यापूर्वी त्यांना स्पष्टपणे क्लिनिकल चाचणीसारखे काहीतरी करावे लागेल आणि स्वतंत्र तज्ञांना ते कसे नियंत्रित करावे हे त्यांना कळते. मग आम्हाला AI मधील सर्व चांगल्या गोष्टींसह एक सुवर्णयुग मिळेल, अस्तित्त्वाच्या चिंतेशिवाय. आम्ही सध्या ज्या मार्गावर आहोत तो नाही. पण ते असू शकते.