कॅरेक्टर AI मुलांना खुल्या चॅटऐवजी परस्पर 'कथा' ऑफर करेल

Character.AI ने मंगळवारी घोषणा केली की ते लॉन्च करत आहे “कथा,” एक नवीन स्वरूप जे वापरकर्त्यांना त्यांच्या आवडत्या पात्रांचे वैशिष्ट्य असलेल्या परस्पर कल्पित कथा तयार करण्यास अनुमती देते. हे वैशिष्ट्य कंपनीच्या चॅटबॉट्ससाठी पर्याय म्हणून आले आहे, जे या आठवड्यापासून 18 वर्षांखालील वापरकर्त्यांसाठी प्रवेशयोग्य नाही.

हा बदल AI चॅटबॉट्सच्या मानसिक आरोग्याच्या जोखमींबद्दलच्या वाढत्या चिंतेनुसार आहे जे 24/7 उपलब्ध आहेत आणि वापरकर्त्यांशी संभाषण सुरू करू शकतात. OpenAI आणि Character.AI सारख्या कंपन्यांवर वापरकर्त्यांच्या आत्महत्येमध्ये त्यांच्या कथित भूमिकेबद्दल अनेक खटले दाखल करण्यात आले आहेत. गेल्या महिनाभरात, Character.AI हळूहळू अल्पवयीन मुलांसाठी प्रवेश बंद करत आहे आणि मंगळवारपासून, अल्पवयीन वापरकर्ते यापुढे त्याच्या AI वर्णांशी अजिबात चॅट करू शकत नाहीत.

“कथा ओपन-एंडेड चॅटच्या बदल्यात कल्पित कथा तयार करण्याचा आणि एक्सप्लोर करण्याचा मार्गदर्शित मार्ग देतात,” कंपनीने ब्लॉग पोस्टमध्ये म्हटले आहे. “हे आमच्या इतर मल्टीमॉडल वैशिष्ट्यांसह ऑफर केले जाईल, जेणेकरून किशोरवयीन मुले त्यांच्या आवडत्या पात्रांसह सुरक्षितता-प्रथम सेटिंगमध्ये व्यस्त राहू शकतात.”

संवादात्मक काल्पनिक कथा पाहिले आहे लोकप्रियता मध्ये लाट गेल्या काही वर्षांमध्ये, त्यामुळे Character.AI च्या पिव्होटला अर्थ आहे. परंतु चॅटबॉट्सवर अत्याधिक अवलंबून असलेल्या वापरकर्त्यांना समाधान देण्यासाठी ते पुरेसे असू शकत नाही – हेच कारण आहे Character.AI चा चॅटबॉट प्रवेश मर्यादित करण्याचा निर्णय योग्य आहे.

Character.AI subreddit वर, प्रतिक्रिया मिश्रित आहेत. त्यांच्या टिप्पण्यांनुसार, काही किशोरवयीन मुले म्हणतात की ते निराश असताना, त्यांना वाटते की शेवटी ही योग्य चाल आहे.

“मी बंदीबद्दल खूप वेडा आहे पण खूप आनंदी आहे कारण आता मी इतर गोष्टी करू शकतो आणि माझे व्यसन शेवटी संपेल,” असे स्वतःला किशोरवयीन म्हणून ओळखणाऱ्या एका वापरकर्त्याने लिहिले.

आणखी एक म्हणाला, “18 वर्षाखालील व्यक्ती म्हणून हे निराशाजनक आहे. पण बरोबरच आहे की माझ्या वयाच्या इथल्या लोकांना याचे व्यसन लागले आहे.”

किशोरवयीन मुले कथा वैशिष्ट्याचा वापर कसा करतील हे पाहणे बाकी आहे, परंतु चॅटबॉट्ससह भूमिका बजावण्यापेक्षा स्वरूप कमी मानसिकदृष्ट्या संशयास्पद आहे. स्टोरीजच्या विपरीत, चॅटबॉट्स मुक्त संभाषणांमध्ये वापरकर्त्यांशी थेट संवाद साधतात आणि वापरकर्ते ॲप सक्रियपणे वापरत नसतानाही बिनधास्त संदेश पाठवू शकतात.

Character.AI चा वय-गेट चॅटबॉट प्रवेशाचा निर्णय अशा वेळी आला आहे जेव्हा कॅलिफोर्निया नुकतेच AI सहचरांचे नियमन करणारे पहिले राज्य बनले आहे. दरम्यान, सिनेटर्स जोश हॉले (आर-एमओ) आणि रिचर्ड ब्लुमेंथल (डी-सीटी) यांनी राष्ट्रीय विधेयक सादर केले जे अल्पवयीन मुलांसाठी AI सहचरांवर पूर्णपणे बंदी घालेल.

“मला खरोखर आशा आहे की आम्ही मार्गाने नेतृत्व केल्याने उद्योगात एक मानक सेट होईल की 18 वर्षांपेक्षा कमी वयाच्या लोकांसाठी, ओपन-एंडेड चॅट्स कदाचित ऑफर करण्याचा मार्ग किंवा उत्पादन नसतील,” Character.AI CEO करणदीप आनंद यांनी गेल्या महिन्यात रीडला सांगितले.