मोठ्या टेक बनवण्याच्या त्याच्या लढाईवर स्कॉट वियनर एआयच्या धोक्यांचा खुलासा करा

कॅलिफोर्नियाचे राज्य सिनेटचा सदस्य स्कॉट वियनरचा एआयच्या धोक्यांकडे लक्ष देण्याचा पहिला प्रयत्न नाही.

२०२24 मध्ये, सिलिकॉन व्हॅलीने त्याच्या वादग्रस्त एआय सेफ्टी बिल, एसबी 1047 च्या विरोधात तीव्र मोहीम राबविली, ज्यामुळे टेक कंपन्यांना त्यांच्या एआय सिस्टमच्या संभाव्य हानीसाठी जबाबदार धरले गेले असते. टेक नेत्यांनी असा इशारा दिला की ते अमेरिकेच्या एआय बूमला त्रास देईल. राज्यपाल गॅव्हिन न्यूजमने शेवटी या विधेयकाचे व्हेटो केले, अशाच प्रकारच्या चिंतेचा प्रतिबिंबित केला आणि एक लोकप्रिय एआय हॅकर हाऊस त्वरित फेकले एक “एसबी 1047 व्हेटो पार्टी.” एका उपस्थितांनी मला सांगितले, “देवाचे आभार, एआय अजूनही कायदेशीर आहे.”

आता वियनर एसबी 53, नवीन एआय सेफ्टी बिलसह परत आला आहे, जो पुढील काही आठवड्यांत कधीतरी त्याच्या स्वाक्षरी किंवा व्हेटोच्या प्रतीक्षेत राज्यपाल न्यूजमच्या डेस्कवर बसला आहे. यावेळी, हे बिल अधिक लोकप्रिय आहे किंवा कमीतकमी, सिलिकॉन व्हॅली त्याच्याशी युद्धात असल्याचे दिसत नाही.

या महिन्याच्या सुरूवातीस मानववंशित पूर्णपणे एसबी 53 चे समर्थन केले. मेटाचे प्रवक्ते जिम कुलिनन वाचले की कंपनी एआय नियमनास समर्थन देते जे इनोव्हेशनसह रेलिंगला संतुलित करते आणि म्हणतात “एसबी 53 त्या दिशेने एक पाऊल आहे,” जरी काही सुधारण्याचे क्षेत्र आहेत.

माजी व्हाइट हाऊस एआय पॉलिसी अ‍ॅडव्हायझर डीन बॉल वाचतो की एसबी 53 हा “वाजवी आवाजांसाठी विजय” आहे आणि असे वाटते की राज्यपाल न्यूजमवर एक जोरदार संधी आहे.

स्वाक्षरीकृत असल्यास, एसबी 53 ओपनई, मानववंश, झई आणि गूगल सारख्या एआय दिग्गजांवर देशातील काही सुरक्षा अहवालाची आवश्यकता लागू करेल – ज्या कंपन्यांना आज त्यांच्या एआय सिस्टमची चाचणी कशी होईल हे उघड करण्याचे कोणतेही बंधन आहे. बरेच एआय लॅब स्वेच्छेने त्यांच्या एआय मॉडेल्सचा वापर बायोएपन्स आणि इतर धोके तयार करण्यासाठी कसा केला जाऊ शकतो हे स्पष्ट करणारे सुरक्षा अहवाल प्रकाशित करतात, परंतु ते इच्छेनुसार हे करतात आणि ते नेहमीच सुसंगत नसतात.

द विपत्र आघाडीच्या एआय लॅबची आवश्यकता आहे – विशेषत: त्यांच्या सर्वात सक्षम एआय मॉडेल्ससाठी सुरक्षा अहवाल प्रकाशित करण्यासाठी – विशेषत: $ 500 दशलक्षाहून अधिक कमाई करणार्‍यांना. एसबी 1047 प्रमाणेच, विधेयक विशेषत: एआयच्या सर्वात वाईट प्रकारच्या जोखमीवर लक्ष केंद्रित करते: मानवी मृत्यू, सायबरॅटॅक आणि रासायनिक शस्त्रास्त्रांमध्ये योगदान देण्याची त्यांची क्षमता. गव्हर्नर न्यूजम एआय साथीदारांमधील गुंतवणूकी-ऑप्टिमायझेशन तंत्र यासारख्या इतर प्रकारच्या एआय जोखमीकडे लक्ष देणारी इतर अनेक बिले विचारात घेत आहे.

एसबी 53 देखील एआय लॅबमध्ये काम करणा employees ्या कर्मचार्‍यांसाठी सरकारी अधिका to ्यांना सुरक्षाविषयक समस्येचा अहवाल देण्यासाठी संरक्षित वाहिन्या तयार करते आणि मोठ्या टेक कंपन्यांच्या पलीकडे एआय संशोधन संसाधने प्रदान करण्यासाठी राज्य-संचालित क्लाउड कंप्यूटिंग क्लस्टर, कॅलॉम्पुट स्थापित करते.

एसबी 53 एक कारण एसबी 1047 पेक्षा अधिक लोकप्रिय असू शकते ते ते कमी तीव्र आहे. एसबी 1047 ने एआय कंपन्यांना त्यांच्या एआय मॉडेल्समुळे होणा any ्या कोणत्याही हानीसाठी जबाबदार केले असते, तर एसबी 53 मध्ये स्वत: ची नोंद आणि पारदर्शकता आवश्यक आहे. एसबी 53 स्टार्टअप्सऐवजी जगातील सर्वात मोठ्या टेक कंपन्यांवर देखील लागू होते.

परंतु तंत्रज्ञान उद्योगातील बर्‍याच जणांचा असा विश्वास आहे की राज्यांनी एआय नियमन फेडरल सरकारपर्यंत सोडले पाहिजे. मध्ये मध्ये अलीकडील पत्र गव्हर्नर न्यूजमला, ओपनई यांनी असा युक्तिवाद केला की एआय लॅबना केवळ फेडरल मानकांचे पालन करावे लागेल – जे राज्यपालांना म्हणणे ही एक मजेदार गोष्ट आहे. व्हेंचर फर्म अँड्रिसन होरोविट्झ यांनी अलीकडील लिहिले ब्लॉग पोस्ट अस्पष्टपणे असे सुचवितो की कॅलिफोर्नियामधील काही बिले घटनेच्या सुप्त वाणिज्य कलमाचे उल्लंघन करू शकतात, ज्यामुळे राज्यांना आंतरराज्यीय वाणिज्य अन्यायकारकपणे मर्यादित ठेवण्यास मनाई आहे.

सिनेटचा सदस्य व्हिएनर या समस्यांकडे लक्ष वेधतात: अर्थपूर्ण एआय सुरक्षा नियमन पास करण्यासाठी फेडरल सरकारवर त्यांचा विश्वास नसतो, म्हणून राज्यांना पाऊल उचलण्याची गरज आहे. खरं तर, वियनरचे मत आहे की ट्रम्प प्रशासन टेक उद्योगाने पकडले आहे आणि सर्व राज्य एआय कायदे रोखण्यासाठी अलीकडील फेडरल प्रयत्न ट्रम्प यांचे एक प्रकार आहेत “त्यांच्या वित्तपुरवठ्यांना बक्षीस देतात.”

ट्रम्प प्रशासनाने एआयच्या सुरक्षिततेवर बायडेन प्रशासनाच्या लक्ष केंद्रित करण्यापासून लक्षणीय बदल केला आहे आणि त्याऐवजी वाढीवर जोर दिला आहे. पदभार स्वीकारल्यानंतर लवकरच, उपाध्यक्ष जेडी व्हान्स एक येथे हजर झाले एआय परिषद पॅरिसमध्ये आणि म्हणाले: “मी आज सकाळी एआय सेफ्टीबद्दल बोलण्यासाठी येथे नाही, जे काही वर्षांपूर्वी या परिषदेचे शीर्षक होते. मी येथे एआय संधीबद्दल बोलण्यासाठी येथे आहे.”

सिलिकॉन व्हॅलीने या शिफ्टचे कौतुक केले आहे, ट्रम्प यांच्या एआय कृती योजनेचे उदाहरण दिले आहे, ज्याने एआय मॉडेल्सना प्रशिक्षण देण्यासाठी आणि सेवा देण्यासाठी आवश्यक पायाभूत सुविधा तयार करण्यात अडथळे दूर केले. आज, बिग टेक सीईओ नियमितपणे पाहिले जातात व्हाइट हाऊस येथे जेवण किंवा घोषित करत आहे शंभर-अब्ज डॉलर्सचा डेटा सेंटर अध्यक्ष ट्रम्प सोबत.

सिनेटचा सदस्य व्हिनरला असे वाटते की कॅलिफोर्नियाने एआयच्या सुरक्षिततेवर देशाला नेतृत्व करणे आवश्यक आहे, परंतु नाविन्यपूर्णपणा न करता.

सिलिकॉन व्हॅलीबरोबर वाटाघाटीच्या टेबलावर आणि एआय सेफ्टी बिल्सवर त्याने इतके लक्ष का केले आहे यावर चर्चा करण्यासाठी मी नुकतीच सिनेटचा सदस्य व्हिनरची मुलाखत घेतली. आमचे संभाषण स्पष्टता आणि ब्रीव्हिटीसाठी हलकेच संपादित केले गेले आहे. माझे प्रश्न ठळक आहेत आणि त्याची उत्तरे नाहीत.

मॅक्सवेल झेफ: एसबी 1047 गव्हर्नर न्यूजमच्या डेस्कवर बसला होता तेव्हा मी सिनेटचा सदस्य व्हिनर, मी तुझी मुलाखत घेतली. गेल्या काही वर्षांत एआय सुरक्षिततेचे नियमन करण्यासाठी आपण ज्या प्रवासात आहात त्याबद्दल माझ्याशी बोला?

स्कॉट वियनर: हा रोलर कोस्टर, एक अविश्वसनीय शिकण्याचा अनुभव आणि खरोखर फायद्याचा आहे. आम्ही केवळ कॅलिफोर्नियामध्येच नव्हे तर राष्ट्रीय आणि आंतरराष्ट्रीय प्रवचनात हा मुद्दा (एआय सेफ्टीचा) उन्नत करण्यात मदत करू शकलो आहोत.

आमच्याकडे हे आश्चर्यकारकपणे शक्तिशाली नवीन तंत्रज्ञान आहे जे जग बदलत आहे. आपण जोखीम कमी करतो अशा प्रकारे मानवतेला त्याचा फायदा होतो हे आपण कसे सुनिश्चित करू? सार्वजनिक आरोग्य आणि सार्वजनिक सुरक्षेबद्दल देखील आम्ही नवनिर्मितीला कसे प्रोत्साहन देऊ शकतो. हे एक महत्वाचे आहे – आणि काही मार्गांनी, अस्तित्वातील – भविष्याबद्दल संभाषण. एसबी 1047 आणि आता एसबी 53 ने सुरक्षित नाविन्यपूर्णतेबद्दल ते संभाषण वाढविण्यास मदत केली आहे.

तंत्रज्ञानाच्या शेवटच्या 20 वर्षात, सिलिकॉन व्हॅलीला जबाबदार धरू शकणार्‍या कायद्यांच्या महत्त्वबद्दल आपण काय शिकलात?

मी एक माणूस आहे जो सॅन फ्रान्सिस्कोचे प्रतिनिधित्व करतो, एआय इनोव्हेशनचा मारहाण करणारा हृदय. मी ताबडतोब सिलिकॉन व्हॅलीच्या उत्तरेस आहे, म्हणून आम्ही या सर्वांच्या मध्यभागी येथे आहोत. परंतु आम्ही हे देखील पाहिले आहे की मोठ्या टेक कंपन्या – जागतिक इतिहासातील काही श्रीमंत कंपन्या – फेडरल रेग्युलेशन थांबविण्यास सक्षम आहेत.

प्रत्येक वेळी मी टेकचे मुख्य कार्यकारी अधिकारी व्हाइट हाऊसमध्ये इच्छुक फॅसिस्ट हुकूमशहाबरोबर रात्रीचे जेवण करताना पाहतो तेव्हा मला एक दीर्घ श्वास घ्यावा लागेल. हे सर्व खरोखरच हुशार लोक आहेत ज्यांनी प्रचंड संपत्ती निर्माण केली आहे. मी त्यांच्यासाठी कामाचे प्रतिनिधित्व करतो. जेव्हा सौदी अरेबिया आणि संयुक्त अरब अमिरातीशी झालेल्या सौदे आणि ते पैसे कसे पाहतात तेव्हा मला खरोखर त्रास होतो ट्रम्पच्या मेम नाणे मध्ये फनेल होते? यामुळे मला काळजी वाटते.

मी टेकविरोधी कोण नाही. मला टेक इनोव्हेशन व्हायचे आहे. हे आश्चर्यकारकपणे महत्वाचे आहे. परंतु हा एक उद्योग आहे ज्याचा आपण स्वतःचे नियमन करण्यास किंवा ऐच्छिक वचनबद्धतेवर विश्वास ठेवू नये. आणि हे कोणावरही भडकवत नाही. हे भांडवलशाही आहे आणि यामुळे प्रचंड समृद्धी निर्माण होऊ शकते परंतु लोकांच्या हिताचे रक्षण करण्यासाठी शहाणपणाचे नियम नसल्यास हानी देखील होऊ शकते. जेव्हा एआय सुरक्षिततेचा विचार केला जातो तेव्हा आम्ही त्या सुईचा धागा घालण्याचा प्रयत्न करीत आहोत.

एसबी 53 हे एआय कल्पनारम्य कारणीभूत असलेल्या सर्वात वाईट हानीवर लक्ष केंद्रित करते – मृत्यू, भव्य सायबर हल्ले आणि बायोएपन्सची निर्मिती. तेथे लक्ष का?

एआयचे जोखीम भिन्न आहेत. तेथे अल्गोरिदम भेदभाव, नोकरी कमी होणे, खोल बनावट आणि घोटाळे आहेत. कॅलिफोर्निया आणि इतरत्र त्या जोखमींवर लक्ष ठेवण्यासाठी विविध बिले आहेत. एसबी 53 चा हेतू कधीही फील्ड कव्हर करण्याचा आणि एआयने तयार केलेल्या प्रत्येक जोखमीकडे लक्ष देण्याचा हेतू नव्हता. आम्ही आपत्तीजनक जोखमीच्या बाबतीत एका विशिष्ट श्रेणी जोखमीवर लक्ष केंद्रित केले आहे.

हा मुद्दा सॅन फ्रान्सिस्कोमधील एआय स्पेसमधील लोकांना – स्टार्टअप संस्थापक, फ्रंटलाइन एआय तंत्रज्ञ आणि हे मॉडेल तयार करणारे लोकांकडून सेंद्रियपणे माझ्याकडे आले. ते माझ्याकडे आले आणि म्हणाले, 'हा एक मुद्दा आहे ज्याकडे विचारशील मार्गाने लक्ष देणे आवश्यक आहे.'

आपणास असे वाटते की एआय सिस्टम मूळतः असुरक्षित आहेत, किंवा मृत्यू आणि मोठ्या प्रमाणात सायबरॅटॅक होण्याची क्षमता आहे?

मला वाटत नाही की ते मूळतः सुरक्षित आहेत. मला माहित आहे की या लॅबमध्ये बरेच लोक काम करतात जे जोखीम कमी करण्याचा प्रयत्न करण्याबद्दल खूप काळजी घेतात. आणि पुन्हा, हे जोखीम दूर करण्याबद्दल नाही. आयुष्य जोखीम आहे, जोपर्यंत आपण आपल्या तळघरात राहणार नाही आणि कधीही सोडत नाही तोपर्यंत आपल्याला आपल्या जीवनात धोका असेल. जरी आपल्या तळघरात, कमाल मर्यादा खाली पडू शकते.

काही एआय मॉडेल्सचा उपयोग समाजाचे महत्त्वपूर्ण नुकसान करण्यासाठी वापरला जाऊ शकतो? होय, आणि आम्हाला माहित आहे की असे लोक आहेत ज्यांना असे करायला आवडेल. वाईट कलाकारांना या गंभीर हानीस कारणीभूत ठरण्यासाठी आपण हे अधिक कठीण करण्याचा प्रयत्न केला पाहिजे आणि म्हणूनच लोकांनी या मॉडेल्सचा विकास केला पाहिजे.

अँथ्रॉपिकने एसबी 53 साठी आपला पाठिंबा दिला. इतर उद्योग खेळाडूंशी आपली संभाषणे काय आहेत?

आम्ही प्रत्येकाशी बोललो आहे: मोठ्या कंपन्या, लहान स्टार्टअप्स, गुंतवणूकदार आणि शैक्षणिक. मानववंश खरोखर रचनात्मक आहे. गेल्या वर्षी, त्यांनी कधीही औपचारिकपणे समर्थन दिले नाही (एसबी 1047) परंतु त्यांच्याकडे बिलाच्या पैलूंबद्दल सकारात्मक गोष्टी सांगायच्या. मला वाटत नाही (मानववंश} एसबी 53 च्या प्रत्येक बाबी आवडतात, परंतु मला असे वाटते की त्यांनी असा निष्कर्ष काढला की शिल्लक केल्यावर बिल समर्थन देण्यासारखे आहे.

मी मोठ्या एआय लॅबशी संभाषणे केली आहेत जे या विधेयकास पाठिंबा देत नाहीत, परंतु एसबी 1047 च्या मार्गाने त्या मार्गाने युद्धात नाहीत. हे आश्चर्यकारक नाही. एसबी 1047 हे एक उत्तरदायित्व बिल होते, एसबी 53 हे एक पारदर्शकता बिल आहे. यावर्षी स्टार्टअप्स कमी गुंतले आहेत कारण विधेयक खरोखरच सर्वात मोठ्या कंपन्यांवर लक्ष केंद्रित करते.

अलिकडच्या काही महिन्यांत तयार झालेल्या मोठ्या एआय पीएसीचा दबाव तुम्हाला वाटतो काय?

सिटीझन युनायटेडचे ​​हे आणखी एक लक्षण आहे. जगातील सर्वात श्रीमंत कंपन्या निवडून आलेल्या अधिका officials ्यांना धमकावण्याचा प्रयत्न करण्यासाठी या पीएसीमध्ये अंतहीन संसाधने ओतू शकतात. आमच्याकडे असलेल्या नियमांनुसार, त्यांना ते करण्याचा सर्व हक्क आहे. मी धोरणाकडे कसे संपर्क साधतो यावर खरोखर परिणाम झाला नाही. जोपर्यंत मी निवडून आलो तोपर्यंत मला नष्ट करण्याचा प्रयत्न करीत आहेत. मला उडवून देण्याचा प्रयत्न करण्यासाठी विविध गटांनी लाखो लोक खर्च केले आहेत आणि मी येथे आहे. मी माझ्या घटकांद्वारे योग्य आहे आणि माझा समुदाय, सॅन फ्रान्सिस्को आणि जगाला एक चांगले स्थान बनवण्याचा प्रयत्न करीत आहे.

राज्यपाल न्यूजमला आपला संदेश काय आहे कारण तो या बिलावर स्वाक्षरी करायचा की व्हेटो करायचा की नाही?

माझा संदेश असा आहे की आम्ही तुम्हाला ऐकले आहे. आपण एसबी 1047 व्हेटो केले आणि एक अतिशय व्यापक आणि विचारशील व्हेटो संदेश प्रदान केला. आपण एक कार्यरत गट सुज्ञपणे बोलावले ज्याने एक मजबूत अहवाल तयार केला आणि आम्ही हे बिल तयार करण्याच्या त्या अहवालाकडे खरोखर पाहिले. राज्यपालांनी एक मार्ग तयार केला आणि करारावर येण्यासाठी आम्ही त्या मार्गाचा अवलंब केला आणि मला आशा आहे की आम्ही तिथे पोहोचलो.