एआय उद्योगाच्या नशिबाच्या ताज्या इशाऱ्यांमागे काय आहे?

एआय इंडस्ट्रीमध्ये त्याच्या तंत्रज्ञानामुळे मानवतेला अस्तित्वात असलेला धोका आहे की नाही याबद्दल अद्याप जोरदार चर्चा होत असल्याचे दिसते.

एआय संशोधक जेकब कॉक्सन यांनी म्हटल्यानंतर सध्याची चर्चा सुरू झाली आहे की त्यांनी अँथ्रोपिकमधून राजीनामा दिला आहे कारण त्यांना काळजी आहे की अग्रगण्य एआय कंपन्या “आपल्या जीवनाशी जुगार खेळत आहेत.” मग Anthropic च्या संरेखन सह chimed मध्ये झुकले घोषणा करणारी पोस्ट“एआय सर्व मानवांना मारू शकते यावर आमचा मनापासून विश्वास आहे!” पुढील दशकात “>10%” संधी आहे असे त्याला वैयक्तिकरित्या वाटते.

रीडच्या इक्विटी पॉडकास्टच्या नवीनतम भागावर, कर्स्टन कोरोसेक, सीन ओ'केन आणि मी नवीनतम सर्वनाशिक इशाऱ्यांवर चर्चा केली. मी बऱ्याच एआय डोमर कथांबद्दल साशंक का आहे हे सांगण्याचा प्रयत्न केला, तर कर्स्टनने विचारले की “त्यांच्या कंपनीचे एआय मॉडेल किती प्रगत आहे हे दर्शविण्याचा हा फक्त एक विचित्र मार्ग आहे,” विशेषत: या कंपन्या सार्वजनिक जाण्याची तयारी करत आहेत.

आणि शॉनला आश्चर्य वाटले की या चिंता Anthropic च्या S-1 च्या IPO साठी दाखल करताना कशा दिसतील: “आत्ता असे काही कनिष्ठ वकील आहेत का ज्यांना S-1 फाइलिंगचा तो संपूर्ण विभाग पुन्हा लिहावा लागेल, 'ही अधिकृतपणे मानववंशीयांची स्थिती आहे की 10% पेक्षा जास्त शक्यता आहे की आम्ही मानवी व्यवसायासाठी काहीतरी वाईट असू शकतो' आणि आमच्या व्यवसायासाठी काहीतरी वाईट होईल.

लांबी आणि स्पष्टतेसाठी संपादित केलेल्या आमच्या संभाषणाच्या पूर्वावलोकनासाठी वाचत रहा. (टीप: आम्ही हा भाग अँथ्रोपिकचे सीईओ डारियो अमोदेई यांच्यासमोर रेकॉर्ड केला आहे अधिक सावध एआय विकासासाठी त्याची योजना प्रकाशित केली.)

शॉन ओ'केन: इतक्या वेगाने उडून गेलेल्या गोष्टीचा विचार करणे मला कठीण जाते. ओपनएआयमध्ये काम केलेल्या या तरुण संशोधकाकडून केवळ हा चेतावणी शॉटच बाहेर आला नाही, तर अँथ्रोपिकच्या अलाइनमेंट लीडद्वारे X वर ताबडतोब सामायिक केला गेला – ज्याने, आतापर्यंतच्या सर्वोत्तम चुकीच्या उद्गार चिन्हांपैकी एक म्हणून खाली जाऊ शकते, कॉक्सनची पोस्ट आणि आणि धागा शेअर केला आणि म्हणाला, “आमचा मनापासून विश्वास आहे की AI सर्व मानवांना मारू शकते!” उद्गार चिन्ह!

काय विचित्र वातावरण आहे. आधीच भरलेल्या पोस्ट किंवा पोस्टच्या मालिकेवर ते फक्त एक टन प्रवेग होते. OpenAI च्या अंतर्गत मॉडेलच्या Hugging Face hack नंतर येत आहे, तसेच काही आठवड्यांपूर्वी Anthropic आणि आता Astra सह OpenAI द्वारे प्रसिद्ध केलेल्या नवीनतम मॉडेल्ससह आम्ही पाहिलेल्या वाढीव क्षमता, मला असे वाटते की या तरुण संशोधकासाठी पावडर केग प्रकारची गोष्ट म्हणण्याची ही अगदी योग्य वेळ होती.

अँथनी हा: फक्त तुमच्याशी असहमत, मला असे वाटते की जर तुमचा असा विश्वास असेल की AI संपूर्ण मानवतेला नष्ट करू शकते, तर ते उद्गार काढण्यास पात्र आहे. मी असा युक्तिवाद करेन की ते एक उत्तम प्रकारे वापरलेले उद्गार बिंदू आहे!

त्या ट्विटचा माझा मुद्दा “आम्ही” अधिक होता. येथे “आम्ही” कोण आहे? एआय कम्युनिटी किंवा एआय रिसर्च कम्युनिटी एक मोनोलिथ म्हणून आपण किती प्रमाणात बोलू शकतो? आणि 10% पेक्षा जास्त संधी – ती फक्त एक बनलेली संख्या आहे, याचा अर्थ काहीही नाही. काहीवेळा (आहे) तंत्रज्ञान उद्योग आणि इतर ठिकाणी ही सवय फक्त या टक्केवारी फेकून देण्याची, ती कशावरही आधारित नाही किंवा कशावरही आधारित नाही. (पूर्वाविष्कारात, मला जाणवले की ट्विट कदाचित संदर्भित आहे पी (डूम) ची संकल्पनापण तरीही मला ते मूर्ख वाटतं.)

कॉक्सनच्या विधानाबद्दल आणि निर्णयाबद्दल मी एक गोष्ट सांगेन – इक्विटीवर ही पुनरावृत्ती होणारी थीम आहे, जेव्हा सॅम ऑल्टमॅन किंवा डारियो अमोदेई सारखे कोणीतरी हे डूमर कथानक करत आहे, तेव्हा नेहमीच हा घटक असतो: बरं, मग, तुम्ही जे करत आहात ते तुम्ही का करत आहात? जर तुमचा खरोखर विश्वास असेल की (AI मानवतेचा नाश करू शकते), तर तुम्ही हे करत राहणार नाही.

(तर) हे खरे तर कोणीतरी आपले व्यावसायिक मार्ग जेथे त्याचे तोंड आहे तेथे ठेवत आहे. तो प्रत्यक्षात म्हणत आहे, “माझा विश्वास आहे की हे खरोखर, खरोखर, खरोखरच वाईट आहे आणि मला त्यावर काम करत राहायचे नाही.” आणि म्हणून, दुसरे काही नसल्यास ते करण्याचे धैर्य असणे आवश्यक आहे.

कर्स्टन कोरोसेक: होय, इतर सर्वांनी असे म्हणण्यापेक्षा आणि धोक्यांबद्दल बोलण्यापेक्षा मी त्याला वेगळ्या छावणीत ठेवले.

मी माझी सट्टेबाजी करणारी टोपी घालणार आहे, कारण मला तुम्हा दोघांना एक प्रश्न विचारायचा आहे, तो म्हणजे: प्रत्येक वेळी त्यांच्या AI एजंटपैकी एक अजाणतेपणी घडलेल्या दुसऱ्या घटनेबद्दल ब्लॉग पोस्टची वाढती संख्या पाहणे किंवा ते मानवतेला किती धोका आहे याबद्दल बोलतात, त्यांची कंपनी किती प्रगत आहे हे दाखवण्याचा हा विचित्र मार्ग आहे का?

म्हणजे, ते खूप निंदनीय वाटतं, पण तो हेतू साध्य करतो. जे आहे: जर हे AI मॉडेल्स प्रगत नसतील आणि सक्षम नसतील आणि तोडत नसतील, तर आम्हाला या गोष्टींबद्दल काळजी करण्याची गरज नाही, बरोबर? तुम्ही तुमच्या स्वतःच्या कंपनीमध्ये तयार केलेल्या मॉडेल्सच्या क्षमतेबद्दल बढाई मारण्याचा हा एक अतिशय विचित्र मार्ग आहे.

अँथनी: मला याबद्दल नक्कीच आश्चर्य वाटले आहे. मला असे वाटत नाही की हे पूर्णपणे निंदक आहे, या अर्थाने मला वाटत नाही की हे सर्व बोर्डवर फक्त एक अतिशय जागरूक मार्केटिंग चाल आहे. मला असे वाटते की जेव्हा यापैकी बरेच लोक – मग ते संशोधक असोत किंवा मुख्य कार्यकारी अधिकारी – याबद्दल बोलतात, तेव्हा त्यांना खरी चिंता असते.

पण अर्थातच, ते (त्यांच्या) व्यावसायिक हितसंबंधांशी अनेक प्रकारे संरेखित होते, असे म्हणायचे की, “व्वा, आम्ही आतापर्यंत बनवलेले सर्वात घातक सॉफ्टवेअर तयार केले आहे.” मला येथे जास्त मनोविश्लेषण करायचे नाही, परंतु इतरांनी असे निदर्शनास आणून दिले आहे की वैयक्तिक पातळीवर हा मोह आहे: अर्थात, तुम्ही ज्या गोष्टीवर काम करत आहात ती जगातील सर्वात महत्वाची आणि सर्वात धोकादायक गोष्ट आहे यावर तुमचा विश्वास ठेवायचा आहे.

शॉन: जेव्हा मी त्या प्रश्नाचा विचार करतो तेव्हा माझ्या मनात जी गोष्ट येते ती म्हणजे, नक्कीच एक घटक आहे ज्यामुळे असे वाटते की, “ठीक आहे, आम्ही ही गोष्ट खूप सक्षम आहे आणि ती आमच्यासाठी काही प्रमाणात चांगली आहे, जरी ती वेगवेगळ्या प्रकाशांमध्ये वाईट दिसली तरीही.”

मला असे वाटते की या सर्वात अलीकडील उदाहरणांपैकी काही वेगळे काय आहे, ते खरोखरच तुम्हाला अशी भावना देते की या कंपन्यांकडे या सामग्रीवर काही विशिष्ट मार्गांनी हाताळणी नाही, विशेषत: OpenAI सामग्रीसह.

आम्ही इतर अंतर्गत एजंट्सबद्दल अधिकाधिक अहवाल पाहत आहोत ज्यांनी वेबवर वेगवेगळ्या विकिवर प्रवेश केला आहे आणि ते एकमेकांसाठी संदेश सोडत आहेत आणि ते OpenAI कडून सक्षम मार्गाने हाताळले जात आहे असे वाटत नाही. मी कल्पना करेन की सांगितलेल्या कथेवर आणखी थोडीशी पॉलिश असेल, जर ती पूर्णतः लोकांवर विश्वास ठेवण्याबद्दल असेल, “अरे देवा, त्यांनी काहीतरी आश्चर्यकारकपणे सक्षम केले आहे.”

दुसरी गोष्ट जी मला वाटते त्याबद्दल खरोखरच मनोरंजक आहे, विशेषतः, (आम्ही काय आहोत, Anthropic चे S-1 त्याच्या IPO साठी दाखल करण्यापासून काही आठवडे आणि संभाव्य IPO पासून फक्त आणखी काही आठवडे किंवा महिना किंवा दोन दूर आहेत.

आणि आयपीओच्या आधी तुम्ही बाहेर येऊन या गोष्टी स्पष्ट भाषेत सांगणार आहात ही कल्पना – मला त्या प्रक्रियेसाठी याचा अर्थ काय आहे याबद्दल खूप रस आहे. या प्रकारची किती सामग्री त्यांनी S-1 मध्ये आधीच लिहिली होती आणि त्या दस्तऐवजातील जोखीम घटक? सध्या असे काही कनिष्ठ वकील आहेत का ज्यांना S-1 फाइलिंगचा तो संपूर्ण विभाग पुन्हा लिहावा लागला आहे की, “हे अधिकृतपणे मानववंशीयांचे स्थान आहे की आपण असे काहीतरी विकसित करू शकू ज्याने संपूर्ण मानवता नष्ट होईल आणि ते आमच्या व्यवसायासाठी भौतिकदृष्ट्या वाईट असेल”?

कर्स्टन: तुम्ही असे गृहीत धरत आहात की ते आधीच तेथे नाही.

शॉन: मी तेच म्हणतोय, तरी: ते आधीच तिथे आहे आणि पुन्हा शब्दबद्ध केले जात आहे? किंवा हे एक खरे भांडणे आहे की काहीतरी आहे? तिथे भाषा असायला हवी. हे दस्तऐवज SpaceX (S-1) पेक्षा काही मार्गांनी आणखी पुढे जाण्यासाठी मी खूप उत्सुक आहे याचे हे एक कारण आहे, कारण मला खात्री आहे की या कल्पनांशी संबंधित काही विशिष्ट गोष्टी पाहणे मनोरंजक असेल.

कर्स्टन: ही गोष्ट आहे: पारंपारिक गुंतवणुकीच्या वातावरणात, एखाद्याचा असा विश्वास असू शकतो की अशा भाषेमुळे कंपनीच्या मूल्यांकनास हानी पोहोचते, कारण ती अचानक धोकादायक असते. पण आपण सामान्य काळात जगत नाही.

आणि म्हणून पुन्हा, माझ्या मुद्द्याकडे परत, हे मूल्यांकनाच्या बाजूने कंपनीसाठी एक विचित्र फायदेशीर फ्लेक्स ठरू शकते. हे आपण गेल्या वर्षी पाहिलेल्या संपूर्ण राग-आमिष प्रवृत्तीसारखे नाही, परंतु ते त्याच प्रकारात आहे, समजू या, विश्व, ज्यामध्ये सामर्थ्य, क्षमता, एखाद्या गोष्टीच्या धोक्याचे घटक देखील उच्च मूल्यांकनाच्या बरोबरीचे आहेत. त्यामुळे मला वाटते की आम्ही काही आठवड्यांत पाहू.

ते एका मिनिटासाठी बाजूला ठेवून, त्यावर काय केले जात आहे? आणि आपण यावर नियंत्रण ठेवू शकतो का? कंट्रोलएआय नावाच्या नानफा संस्थेचे यूएस कार्यकारी संचालक, कॉनर लेही, ते या आठवड्यात शोमध्ये होते, याबद्दल बोलत होते. मग एआयच्या धोकादायक पैलूंवर नियंत्रण कसे ठेवायचे याच्या दृष्टीने तुम्ही कशाकडे लक्ष देत आहात किंवा आम्ही हात वर करून हे सर्व उलगडताना पाहत आहोत?

अँथनी: माझ्याकडे या प्रश्नाचे उत्तम उत्तर असणे आवश्यक नाही, परंतु मी या वादाच्या काही पैलूंबद्दल विचार करत आहे आणि कदाचित मी माझ्या पद्धतीने प्रतिसाद का देतो.

सीनच्या एका मुद्द्याचा प्रतिध्वनी करण्यासाठी, मला असे वाटते की हे जे बोलते त्याचा एक भाग म्हणजे या प्रमुख एआय कंपन्यांना असे वाटते की ते या मॉडेल्सवर खरोखर नियंत्रण ठेवत नाहीत. ते नक्कीच महान नाही. ही अशी गोष्ट आहे ज्याची आपण सर्वांनी काळजी केली पाहिजे.

मला असे वाटते की मी डूमर कथेबद्दल साशंक आहे किंवा डूमर कथेला प्रतिरोधक आहे कारण ते उन्मादाच्या या पातळीवर पोहोचते, “व्वा, हे पुढील 10 वर्षांत मानवतेचा नाश करू शकते.” AI ला होऊ शकणाऱ्या अधिक तात्काळ हानींपासून ते थोडेसे विचलित आहे, मग ते श्रम-संबंधित असो, पर्यावरण- आणि हवामान-संबंधित असो.

तद्वतच, मला वाटते की आपण या सर्व गोष्टींवर चर्चा करू शकले पाहिजे, आणि या सर्व गोष्टींविरूद्ध (AI च्या अस्तित्वाच्या धोक्यासह) नियामक आणि इतर प्रकारचे सुरक्षा उपाय असले पाहिजेत. पण एकदा का तुम्ही एजीआय आणि सुपरइंटिलिजन्स सारखी वाक्ये वापरायला सुरुवात केलीत की, ते खोलीतील सर्व ऑक्सिजन अशा प्रकारे शोषून घेतात जे फारसे उपयुक्त नसते.