कॅलिफोर्निया एआय कंपेनियन चॅटबॉट्सचे नियमन करण्यासाठी प्रथम राज्य बनते

कॅलिफोर्निया गव्हर्नर गॅव्हिन न्यूजम स्वाक्षरीकृत सोमवारी एआय साथीदार चॅटबॉट्सचे नियमन करणारे एक महत्त्वाचे विधेयक, एआय चॅटबॉट ऑपरेटरला एआय साथीदारांसाठी सुरक्षा प्रोटोकॉल अंमलात आणण्याची आवश्यकता असलेल्या देशातील पहिले राज्य बनले.

कायदा, एसबी 243, एआय कंपेनियन चॅटबॉट वापराशी संबंधित काही हानीपासून मुले आणि असुरक्षित वापरकर्त्यांचे संरक्षण करण्यासाठी डिझाइन केलेले आहे. यात कंपन्या आहेत – मेटा आणि ओपनई सारख्या मोठ्या लॅबपासून ते कॅरेक्टर एआय आणि रीप्लिक सारख्या अधिक केंद्रित सहकारी स्टार्टअप्सपर्यंत – जर त्यांचे चॅटबॉट्स कायद्याच्या मानदंडांची पूर्तता करण्यात अयशस्वी झाल्यास कायदेशीररित्या जबाबदार आहेत.

एसबी 243 ची ओळख जानेवारीत राज्य सिनेटर्स स्टीव्ह पॅडिला आणि जोश बेकर यांनी केली होती आणि किशोरवयीन अ‍ॅडम राईन यांच्या मृत्यूनंतर ओपनईच्या चॅटजीपीटीशी आत्महत्या केल्याच्या मालिकेनंतर आत्महत्येने मृत्यू झाला होता. या कायद्यात लीक झालेल्या अंतर्गत कागदपत्रांनाही प्रतिसाद मिळाला आहे ज्यात असे दिसून आले की मेटाच्या चॅटबॉट्सना मुलांबरोबर “रोमँटिक” आणि “कामुक” गप्पांमध्ये गुंतण्याची परवानगी आहे. अलीकडेच, कोलोरॅडो कुटुंबाने खटला दाखल केला आहे कंपनीच्या चॅटबॉट्ससह समस्याप्रधान आणि लैंगिक संभाषणांच्या मालिकेनंतर त्यांच्या 13 वर्षाच्या मुलीने स्वत: चा जीव घेतला.

न्यूजमने एका निवेदनात म्हटले आहे की, “चॅटबॉट्स आणि सोशल मीडिया सारखे उदयोन्मुख तंत्रज्ञान प्रेरणा, शिक्षित आणि कनेक्ट करू शकते – परंतु वास्तविक संरक्षकांशिवाय तंत्रज्ञान देखील आमच्या मुलांना शोषण, दिशाभूल आणि धोक्यात आणू शकते,” न्यूजमने एका निवेदनात म्हटले आहे. “आम्ही अनियमित तंत्रज्ञानाने इजा पोहचवलेल्या तरुण लोकांची काही भयानक आणि दुःखद उदाहरणे पाहिली आहेत आणि कंपन्या आवश्यक मर्यादा आणि उत्तरदायित्वाशिवाय पुढे जात असताना आम्ही उभे राहणार नाही. आम्ही एआय आणि तंत्रज्ञानामध्ये नेतृत्व करू शकतो, परंतु आम्ही ते जबाबदारीने केलेच पाहिजे – आमच्या मुलांना प्रत्येक चरणात संरक्षण देणे. आमच्या मुलांची सुरक्षा विक्रीसाठी नाही.”

एसबी 243 1 जानेवारी, 2026 रोजी अंमलात येईल आणि कंपन्यांना वयाची पडताळणी आणि सोशल मीडिया आणि सोबती चॅटबॉट्सविषयी चेतावणी यासारख्या काही वैशिष्ट्यांची अंमलबजावणी करणे आवश्यक आहे. बेकायदेशीर डीपफेकमधून नफा मिळविणा those ्यांनाही या कायद्यात अधिक दंड आकारला जातो, ज्यात प्रति गुन्हा $ 250,000 पर्यंत आहे. कंपन्यांनी आत्महत्या आणि स्वत: ची हानी पोहोचविण्यासाठी प्रोटोकॉल देखील स्थापित केले पाहिजेत, जे या सेवेने वापरकर्त्यांना संकट केंद्र प्रतिबंध अधिसूचना कशी प्रदान केली या आकडेवारीसह राज्याच्या सार्वजनिक आरोग्य विभागासह सामायिक केले जातील.

बिलाच्या भाषेनुसार, प्लॅटफॉर्मने हे देखील स्पष्ट केले पाहिजे की कोणतेही परस्परसंवाद कृत्रिमरित्या तयार केले जातात आणि चॅटबॉट्सने आरोग्यसेवा व्यावसायिक म्हणून स्वत: चे प्रतिनिधित्व करू नये. कंपन्यांना अल्पवयीन मुलांना ब्रेक स्मरणपत्रे ऑफर करणे आवश्यक आहे आणि चॅटबॉटद्वारे व्युत्पन्न केलेल्या लैंगिक सुस्पष्ट प्रतिमा पाहण्यापासून त्यांना प्रतिबंधित करणे आवश्यक आहे.

काही कंपन्यांनी मुलांच्या उद्देशाने काही सेफगार्ड्सची अंमलबजावणी करण्यास आधीच सुरुवात केली आहे. उदाहरणार्थ, ओपनईने अलीकडेच पालकांची नियंत्रणे, सामग्री संरक्षण आणि चॅटजीपीटी वापरणार्‍या मुलांसाठी स्वत: ची हानिकारक शोध प्रणाली आणण्यास सुरवात केली. 18 वर्षांपेक्षा जास्त वयाच्या प्रौढांसाठी डिझाइन केलेले रिपेरा यांनी वाचन केले की ते सामग्री-फिल्टरिंग सिस्टम आणि संरक्षकांद्वारे सुरक्षिततेसाठी “महत्त्वपूर्ण संसाधने” समर्पित करते जे वापरकर्त्यांना विश्वासार्ह संकट संसाधनांकडे निर्देशित करतात आणि सध्याच्या नियमांचे पालन करण्यास वचनबद्ध आहेत.

कॅरेक्टर एआयने म्हटले आहे की त्याच्या चॅटबॉटमध्ये एक अस्वीकरण समाविष्ट आहे की सर्व गप्पा एआय-व्युत्पन्न आणि काल्पनिक आहेत. एआयच्या एका प्रवक्त्याने वाचले की कंपनीने “नियामक आणि खासदारांसोबत काम करण्याचे स्वागत केले आहे कारण त्यांनी या उदयोन्मुख जागेसाठी नियम व कायदे विकसित केले आणि एसबी २33 सह कायद्यांचे पालन केले जाईल.”

सिनेटचा सदस्य पॅडिलाने सांगितले की, “एक आश्चर्यकारकपणे शक्तिशाली तंत्रज्ञान” वर रेलिंग लावण्याच्या दिशेने बिल “योग्य दिशेने एक पाऊल” आहे.

“अदृश्य होण्यापूर्वी संधीच्या विंडोजला गमावू नये म्हणून आम्हाला द्रुतपणे जावे लागेल,” पॅडिला म्हणाली. “मला आशा आहे की इतर राज्ये जोखीम पाहतील. मला असे वाटते. मला वाटते की हे संपूर्ण देशभरात घडत असलेले संभाषण आहे आणि मला आशा आहे की लोक कारवाई करतील. निश्चितच फेडरल सरकारने नाही आणि मला वाटते की आपल्यातील सर्वात असुरक्षित लोकांचे रक्षण करण्याचे आमचे येथे एक बंधन आहे.”

एसबी 243 हे अलिकडच्या आठवड्यात कॅलिफोर्नियामधून बाहेर येण्याचे दुसरे महत्त्वपूर्ण एआय नियमन आहे. २ September सप्टेंबर रोजी राज्यपाल न्यूजमने एसबी law 53 मध्ये कायद्यात स्वाक्षरी केली आणि मोठ्या एआय कंपन्यांवर नवीन पारदर्शकता आवश्यकता स्थापित केली. ओपनई, मानववंश, मेटा आणि गूगल डीपमाइंड सारख्या मोठ्या एआय लॅबस सेफ्टी प्रोटोकॉलबद्दल पारदर्शक आहेत असे या विधेयकात असे म्हटले आहे. हे त्या कंपन्यांमधील कर्मचार्‍यांसाठी व्हिसल ब्लोअर संरक्षण देखील सुनिश्चित करते.

इलिनॉय, नेवाडा आणि युटा सारख्या इतर राज्यांनी परवानाधारक मानसिक आरोग्य सेवेचा पर्याय म्हणून एआय चॅटबॉट्सच्या वापरास प्रतिबंधित करण्यासाठी किंवा पूर्णपणे बंदी घालण्यासाठी कायदे केले आहेत.

टिप्पणीसाठी रीड मेटा आणि ओपनईकडे पोहोचला आहे.

हा लेख सिनेटचा सदस्य पॅडिला, कॅरेक्टर एआय आणि रिपेरा यांच्या टिप्पण्यांसह अद्यतनित केला गेला आहे.