एआय कंपेनियन चॅटबॉट्सचे नियमन करणारे कॅलिफोर्निया बिल कायदा होण्याच्या जवळ आहे

कॅलिफोर्निया स्टेट असेंब्लीने बुधवारी रात्री एआयचे नियमन करण्याच्या दिशेने एक मोठे पाऊल उचलले एसबी 243 – एक बिल जे अल्पवयीन आणि असुरक्षित वापरकर्त्यांचे संरक्षण करण्यासाठी एआय कंपेनियन चॅटबॉट्सचे नियमन करते. हा कायदा द्विपक्षीय समर्थनासह मंजूर झाला आणि आता शुक्रवारी अंतिम मतासाठी राज्य सिनेटकडे निघाला.

जर राज्यपाल गॅव्हिन न्यूजमने या विधेयकात कायद्यात स्वाक्षरी केली तर ते 1 जानेवारी, 2026 रोजी लागू होईल, कॅलिफोर्नियाला एआय चॅटबॉट ऑपरेटरला एआय साथीदारांसाठी सुरक्षा प्रोटोकॉल लागू करण्यासाठी आणि कंपन्यांना कायदेशीररित्या जबाबदार धरावे लागेल.

या विधेयकाचे विशेषतः साथीदार चॅटबॉट्स रोखण्याचे उद्दीष्ट आहे, जे कायदे एआय सिस्टम म्हणून परिभाषित करतात जे अनुकूली, मानवी सारखी प्रतिक्रिया प्रदान करतात आणि वापरकर्त्याच्या सामाजिक गरजा भागविण्यास सक्षम आहेत-आत्महत्या करण्याच्या विचारसरणी, स्वत: ची हानिकारक किंवा लैंगिक सुस्पष्ट सामग्रीच्या आसपास संभाषणांमध्ये गुंतून राहतात. या विधेयकात वापरकर्त्यांना आवर्ती सतर्कता प्रदान करण्यासाठी प्लॅटफॉर्मची आवश्यकता आहे – अल्पवयीन मुलांसाठी दर तीन तास – त्यांना आठवण करून देते की ते एआय चॅटबॉटशी बोलत आहेत, वास्तविक व्यक्ती नव्हे तर त्यांनी ब्रेक घ्यावा. हे एआय कंपन्यांसाठी वार्षिक अहवाल आणि पारदर्शकता आवश्यकतेची स्थापना करते जे सहकारी चॅटबॉट्स ऑफर करतात, ज्यात प्रमुख खेळाडू ओपनई, कॅरेक्टर.एआय आणि रिपेरा यांचा समावेश आहे.

कॅलिफोर्नियाच्या विधेयकात असे मानले जाईल की ज्या व्यक्तींना असे वाटते की ते उल्लंघन करून जखमी झाले आहेत, एआय कंपन्यांविरूद्ध हानिकारक मदत, हानी (प्रति उल्लंघन $ 1000 पर्यंत) आणि मुखत्यार फी मिळविणार्‍या एआय कंपन्यांविरूद्ध खटला दाखल करण्यास.

स्टेट सिनेटर्स स्टीव्ह पॅडिला आणि जोश बेकर यांनी जानेवारीत सादर केलेला एसबी 243 शुक्रवारी अंतिम मतासाठी राज्य सिनेटमध्ये जाईल. मंजूर झाल्यास, 1 जानेवारी 2026 रोजी नवीन नियम लागू होतील आणि 1 जुलै 2027 पासून सुरू होणा new ्या नवीन नियमांमुळे कायद्यामध्ये साइन इन केले जाईल.

किशोरवयीन अ‍ॅडम राईन यांच्या निधनानंतर कॅलिफोर्नियाच्या विधिमंडळात या विधेयकाची गती वाढली, ज्याने ओपनईच्या चॅटजीपीटीशी दीर्घकाळ गप्पा मारल्यानंतर आत्महत्या केली ज्यात त्याच्या मृत्यू आणि स्वत: ची हानी पोहोचविण्यात आली. या कायद्यात लीक झालेल्या अंतर्गत कागदपत्रांनाही प्रतिसाद मिळाला आहे ज्यात असे दिसून आले की मेटाच्या चॅटबॉट्सना मुलांबरोबर “रोमँटिक” आणि “कामुक” गप्पांमध्ये गुंतण्याची परवानगी आहे.

अलिकडच्या आठवड्यांत, अमेरिकेचे खासदार आणि नियामकांनी अल्पवयीन मुलांच्या संरक्षणासाठी एआय प्लॅटफॉर्मच्या सेफगार्ड्सच्या तीव्र तपासणीसह प्रतिसाद दिला आहे. द फेडरल ट्रेड कमिशन एआय चॅटबॉट्स मुलांच्या मानसिक आरोग्यावर कसा परिणाम करतात याची तपासणी करण्याची तयारी करत आहे. टेक्सास Attorney टर्नी जनरल केन पॅक्स्टन यांनी मेटा आणि कॅरेक्टर.एआयची तपासणी सुरू केली आहे. दरम्यान, सेन. जोश हॉली (आर-मो) आणि सेन. एड मार्की (डी-एमए) ने मेटामध्ये स्वतंत्र प्रोब सुरू केला आहे.

“मला वाटते की हानी संभाव्यत: उत्कृष्ट आहे, याचा अर्थ असा आहे की आपल्याला द्रुतपणे जावे लागेल,” पॅडिलाने रीडला सांगितले. “विशेषत: अल्पवयीन मुलांना माहित आहे की ते वास्तविक माणसाशी बोलत नाहीत हे सुनिश्चित करण्यासाठी आम्ही वाजवी सेफगार्ड्स ठेवू शकतो, हे प्लॅटफॉर्म लोकांना योग्य संसाधनांशी जोडतात जेव्हा लोक असे म्हणतात की ते स्वत: ला इजा करण्याचा विचार करतात किंवा ते संकटात आहेत, (आणि) अनुचित सामग्रीच्या अयोग्य संपर्कात नसल्याचे सुनिश्चित करण्यासाठी.”

एआय कंपन्यांनी दरवर्षी वापरकर्त्यांना किती वेळा संकट सेवांकडे पाठविले आहे याविषयी डेटा सामायिक करणा The ्या एआय कंपन्यांचे महत्त्व देखील पॅडिलाने यावर जोर दिला, “म्हणून एखाद्याचे नुकसान किंवा वाईट तेव्हाच जागरूक होण्याऐवजी आम्हाला या समस्येच्या वारंवारतेबद्दल अधिक चांगले ज्ञान आहे.”

यापूर्वी एसबी 243 ला मजबूत आवश्यकता होती, परंतु बर्‍याच सुधारणांच्या माध्यमातून बरेच काही खाली आले. उदाहरणार्थ, या विधेयकात एआय चॅटबॉट्सला “व्हेरिएबल रिवॉर्ड” युक्ती किंवा अत्यधिक गुंतवणूकीस प्रोत्साहित करणार्‍या इतर वैशिष्ट्यांचा वापर करण्यापासून रोखण्यासाठी ऑपरेटरची आवश्यकता असते. रिपेरा आणि कॅरेक्टर सारख्या एआय कंपेनियन कंपन्यांद्वारे वापरल्या जाणार्‍या या युक्ती वापरकर्त्यांना विशेष संदेश, आठवणी, कथानक किंवा दुर्मिळ प्रतिसाद किंवा नवीन व्यक्तिमत्त्व अनलॉक करण्याची क्षमता देतात, ज्यामुळे समीक्षकांना संभाव्य व्यसनमुक्ती बक्षीस पळवाट म्हणतात.

सध्याच्या विधेयकात अशा तरतुदी देखील काढून टाकल्या आहेत ज्यात ऑपरेटरला ट्रॅक करणे आवश्यक आहे आणि चॅटबॉट्सने वापरकर्त्यांसह आत्महत्या करण्याच्या विचारसरणीची किंवा क्रियांची चर्चा किती वेळा सुरू केली आहे.

“मला वाटते की कंपन्यांचे पालन करणे अशक्य आहे असे काहीतरी अंमलबजावणी न करता हानी पोहचविण्याच्या योग्य संतुलनावर परिणाम होतो, कारण ते तांत्रिकदृष्ट्या व्यवहार्य नाही किंवा काहीच कागदपत्रे नसतात.”

एसबी 243 अशा वेळी कायदा बनण्याच्या दिशेने वाटचाल करीत आहे जेव्हा सिलिकॉन व्हॅली कंपन्या एआय नियमनासाठी हलके-टच पध्दतीला अनुकूल असलेल्या आगामी मध्यम मुदतीच्या निवडणुकीत उमेदवारांना पाठिंबा देण्यासाठी एआय समर्थक राजकीय कृती समित्यांमध्ये (पीएसी) लाखो डॉलर्स ओतत आहेत.

कॅलिफोर्नियाचे आणखी एक एआय सेफ्टी बिल, एसबी 53 वजनाचेही विधेयक आहे, जे व्यापक पारदर्शकता अहवाल देण्याच्या आवश्यकतेचे आदेश देईल. ओपनईने गव्हर्नर न्यूजमला एक खुले पत्र लिहिले आहे आणि कमी कठोर फेडरल आणि आंतरराष्ट्रीय चौकटींच्या बाजूने ते बिल सोडण्यास सांगितले. मेटा, गूगल आणि Amazon मेझॉन यासारख्या प्रमुख टेक कंपन्यांनी एसबी 53 ला विरोध केला आहे. याउलट, केवळ मानववंशशास्त्राने म्हटले आहे की ते एसबी 53 चे समर्थन करते.

“ही शून्य बेरीज परिस्थिती आहे, ही नवीनता आणि नियमन परस्पर विशेष आहे असा आधार मी नाकारतो,” पॅडिला म्हणाली. “मला सांगू नका की आम्ही चालणे आणि गम च्यु करू शकत नाही. आम्ही निरोगी आहे आणि फायद्याचे आहोत असे आम्हाला नाविन्यपूर्ण आणि विकासास समर्थन देऊ शकतो – आणि या तंत्रज्ञानाचे फायदे आहेत, स्पष्टपणे – आणि त्याच वेळी आम्ही अत्यंत असुरक्षित लोकांसाठी वाजवी सेफगार्ड प्रदान करू शकतो.”

वाचनासाठी वाचनासाठी ओपनई, मानववंश, मेटा, कॅरेक्टर एआय आणि रिपेका येथे वाचले आहे.