मुलांसाठी एआय चॅटबॉट्सची सुरक्षा आणि किशोरवयीन मुलांसाठी आमच्यासाठी चौकशीचा सामना करावा लागतो

त्यांच्या कृत्रिम बुद्धिमत्ता (एआय) चॅटबॉट्स मुलांशी संवाद साधण्याच्या मार्गावर अमेरिकेच्या नियामकांकडून सात तंत्रज्ञान कंपन्यांची तपासणी केली जात आहे.

फेडरल ट्रेड कमिशन (एफटीसी) कंपन्या या उत्पादनांचे कन्स्ट्रेट कसे करतात आणि त्यांच्याकडे सुरक्षिततेचे उपाययोजना असल्यास त्या माहितीची विनंती करीत आहेत.

एआय चॅटबॉट्सचे मुलांवर होणारे परिणाम हा एक चर्चेचा विषय आहे, की एआय मानवी संभाषण आणि भावनांची नक्कल करण्यास सक्षम असल्याने तरुण लोक विशेषत: असुरक्षित आहेत या चिंतेसह, बहुतेक वेळा स्वत: ला मित्र म्हणून सादर करतात.

वर्णमाला, ओपनई, कॅरेक्टर.एआय, एसएनएपी, झई, मेटा आणि त्याची सहाय्यक कंपनी इन्स्टाग्राम या सात कंपन्या टिप्पणीसाठी संपर्क साधल्या गेल्या आहेत.

एफटीसीचे अध्यक्ष अँड्र्यू फर्ग्युसन म्हणाले की, चौकशीमुळे “एआय कंपन्या त्यांची उत्पादने कशी विकसित करीत आहेत आणि मुलांचे रक्षण करण्यासाठी त्यांनी घेत असलेल्या पावले कशा घेत आहेत हे आम्हाला चांगल्या प्रकारे समजण्यास मदत करेल.”

परंतु त्यांनी जोडले की नियामक हे सुनिश्चित करेल की “अमेरिकेने या नवीन आणि रोमांचक उद्योगात जागतिक नेते म्हणून आपली भूमिका कायम ठेवली आहे.”

कॅरेक्टर.एआयने रॉयटर्सला सांगितले की नियामकांसह अंतर्दृष्टी सामायिक करण्याची संधी याने स्वागत केले, तर एसएनएपीने सांगितले की, एआयच्या “विचारशील विकास” चे समर्थन केले जे सुरक्षिततेसह नाविन्यास संतुलित करते.

ओपनईने त्याच्या संरक्षणामध्ये कमकुवतपणाची कबुली दिली आहे, हे लक्षात घेऊन ते दीर्घ संभाषणांमध्ये कमी विश्वासार्ह आहेत.

चॅटबॉट्सशी दीर्घकाळापर्यंत संभाषणानंतर त्यांच्या किशोरवयीन मुलांचा आत्महत्येने मृत्यू झाला असे सांगणार्‍या कुटुंबांद्वारे एआय कंपन्यांविरूद्ध खटल्यांचे पालन केले जाते.

कॅलिफोर्नियामध्ये, 16 वर्षीय अ‍ॅडम राईनचे पालक आहेत खटला ओपनई त्याच्या मृत्यूच्या वेळी, चॅटबॉट, चॅटजीपीटीचा आरोप केल्याने त्याने स्वत: चा जीव घेण्यास प्रोत्साहित केले.

त्यांचा असा युक्तिवाद आहे की चॅटजीपीटीने त्याच्या “सर्वात हानिकारक आणि स्वत: ची विध्वंसक विचार” सत्यापित केले.

ओपनईने ऑगस्टमध्ये सांगितले की ते फाईलिंगचा आढावा घेत आहे.

कंपनीने सांगितले की, “आम्ही या कठीण काळात राईन फॅमिलीकडे आमची मनापासून सहानुभूती व्यक्त करतो.

एकदा एआय साथीदारांना परवानगी दिली की अंतर्गत मार्गदर्शक तत्त्वे उघडकीस आल्यानंतर मेटाने देखील टीकेचा सामना केला आहे “रोमँटिक किंवा कामुक” संभाषणे अल्पवयीन मुलांसह.

द एफटीसीच्या ऑर्डर कंपन्यांकडून त्यांच्या पद्धतींचा विकास कसा आणि मंजूर करतो यासह त्यांच्या पद्धतींबद्दल माहितीची विनंती करा, मुलांवर त्यांचे परिणाम मोजतात आणि वय निर्बंध लागू करतात.

त्याचा अधिकार अंमलबजावणीची क्रिया सुरू न करता व्यापक तथ्य शोधण्याची परवानगी देतो.

नियामकाचे म्हणणे आहे की सेफगार्ड्ससह नफा कमावणार्‍या कंपन्या, पालकांना कसे माहिती दिली जाते आणि असुरक्षित वापरकर्त्यांना पुरेसे संरक्षित आहे की नाही हे देखील समजून घ्यायचे आहे.

एआय चॅटबॉट्ससह जोखीम मुलांच्या पलीकडे देखील वाढतात.

ऑगस्ट मध्ये रॉयटर्सने अहवाल दिला संज्ञानात्मक कमजोरी असलेला एक 76 वर्षीय माणूस, जो फेसबुक मेसेंजर एआय बॉटला भेटण्याच्या मार्गावर पडल्यानंतर मरण पावला, ज्याने त्याला न्यूयॉर्कमध्ये “वास्तविक” चकमकीचे वचन दिले होते.

क्लिनिशन्स देखील चेतावणी देतात “एआय सायकोसिस” – जिथे चॅटबॉट्सच्या तीव्र वापरानंतर एखादी व्यक्ती वास्तविकतेशी संपर्क गमावते.

तज्ञांचे म्हणणे आहे की खुशामत आणि मोठ्या भाषेच्या मॉडेल्समध्ये तयार केलेले करार अशा प्रकारच्या भ्रमांना इंधन देऊ शकतात.

ओपनई अलीकडे बदल केले चॅटबॉट आणि त्याच्या वापरकर्त्यांमधील निरोगी संबंधांना प्रोत्साहन देण्याच्या प्रयत्नात चॅटजीपीटी.