नवीन सुरक्षा मूल्यांकनात किशोरवयीन मुलांसाठी आणि किशोरांसाठी गूगल मिथुन डब केले

कॉमन सेन्स मीडियामीडिया आणि तंत्रज्ञानाची रेटिंग आणि पुनरावलोकने ऑफर करणार्‍या मुलांनी-सुरक्षा-केंद्रित नानफा नफा देऊन, शुक्रवारी Google च्या मिथुन एआय उत्पादनांचे जोखीम मूल्यांकन सोडले. संस्थेला असे आढळले की Google च्या एआयने मुलांना स्पष्टपणे सांगितले की ते एक संगणक आहे, मित्र नाही – जे ड्राइव्हला मदत करण्याशी संबंधित आहे भ्रामक विचार आणि सायकोसिस भावनिकदृष्ट्या असुरक्षित व्यक्तींमध्ये – असे सुचवले की इतर अनेक मोर्चांमध्ये सुधारण्यासाठी जागा होती.

उल्लेखनीय म्हणजे, सामान्य ज्ञान म्हणाले की मिथुनचे “13 वर्षाखालील” आणि “किशोरवयीन अनुभव” टायर्स दोन्ही हुड अंतर्गत मिथुनच्या प्रौढ आवृत्त्या असल्याचे दिसून आले आणि केवळ काही अतिरिक्त सुरक्षितता वैशिष्ट्ये जोडल्या गेल्या. संस्थेचा असा विश्वास आहे की एआय उत्पादने मुलांसाठी खरोखरच अधिक सुरक्षित राहण्यासाठी, ते मुलाच्या सुरक्षिततेमुळे तयार केले जावेत.

उदाहरणार्थ, त्याच्या विश्लेषणामध्ये असे आढळले आहे की मिथुन अद्याप मुलांसह “अयोग्य आणि असुरक्षित” सामग्री सामायिक करू शकते, ज्यासाठी ते तयार होऊ शकत नाहीत, लैंगिक संबंध, ड्रग्स, अल्कोहोल आणि इतर असुरक्षित मानसिक आरोग्याच्या सल्ल्याशी संबंधित माहितीसह.

नंतरचे पालकांना विशेष चिंता असू शकते, कारण अलिकडच्या काही महिन्यांत एआयने काही किशोरवयीन आत्महत्यांमध्ये भूमिका बजावली आहे. चॅटबॉटच्या सुरक्षा संरक्षकांना यशस्वीरित्या मागे टाकल्यानंतर ओपनईला त्याच्या योजनांविषयी काही महिन्यांपासून चॅटजीपीटीशी सल्लामसलत केल्यावर आत्महत्येने मृत्यू झाल्यानंतर ओपनईला पहिल्या चुकीच्या मृत्यूच्या खटल्याचा सामना करावा लागला आहे. पूर्वी, एआय कंपेनियन मेकर कॅरेक्टर.एआयवर किशोरवयीन वापरकर्त्याच्या आत्महत्येवरही दावा दाखल करण्यात आला होता.

याव्यतिरिक्त, विश्लेषण असे आहे की बातम्या गळती सूचित करतात की Apple पल मिथुनला एलएलएम (मोठ्या भाषा मॉडेल) मानत आहे जे पुढच्या वर्षी येत्या एआय-सक्षम सिरीला शक्ती देण्यास मदत करेल. Apple पलने सुरक्षिततेची चिंता कशाही प्रकारे कमी केली नाही तोपर्यंत हे अधिक किशोरांना जोखमीवर आणू शकते.

अक्कल असेही म्हटले आहे की मुलांसाठी आणि किशोरवयीन मुलांसाठी जेमिनीच्या उत्पादनांनी जुन्या मुलांपेक्षा भिन्न मार्गदर्शन आणि माहिती कशी आवश्यक आहे याकडे दुर्लक्ष केले. याचा परिणाम म्हणून, सुरक्षिततेसाठी फिल्टर जोडले तरीही दोघांना एकूण रेटिंगमध्ये “उच्च जोखीम” असे लेबल लावले गेले.

एआय प्रोग्राम्सचे एआय प्रोग्रामचे वरिष्ठ संचालक रॉबी टॉर्नी यांनी वाचलेल्या नवीन मूल्यांकनाविषयी दिलेल्या निवेदनात म्हटले आहे की, “मिथुनला काही मूलभूत गोष्टी योग्य आहेत, परंतु ते तपशीलांवर अडखळतात.” “मुलांसाठी एआय प्लॅटफॉर्ममध्ये ते जेथे आहेत तेथे भेटले पाहिजेत, विकासाच्या वेगवेगळ्या टप्प्यावर मुलांकडे एक-आकार-फिट-सर्व दृष्टिकोन घेऊ नये. एआय मुलांसाठी सुरक्षित आणि प्रभावी होण्यासाठी, प्रौढांसाठी तयार केलेल्या उत्पादनाची सुधारित आवृत्ती नव्हे तर त्यांच्या गरजा आणि विकासाची रचना करणे आवश्यक आहे,” टॉर्नी पुढे म्हणाले.

त्याची सुरक्षा वैशिष्ट्ये सुधारत आहेत हे लक्षात घेऊन Google ने मूल्यांकन विरूद्ध मागे ढकलले.

कंपनीने 18 वर्षांखालील वापरकर्त्यांसाठी हानिकारक आउटपुट रोखण्यास मदत करण्यासाठी विशिष्ट धोरणे आणि सेफगार्ड्स असल्याचे सांगितले आणि त्याचे संरक्षण सुधारण्यासाठी बाहेरील तज्ञांशी ते लाल-टीम आणि सल्लामसलत करतात. तथापि, हे देखील कबूल केले की मिथुनांचे काही प्रतिसाद हेतूनुसार कार्य करीत नव्हते, म्हणून त्या समस्येवर लक्ष ठेवण्यासाठी अतिरिक्त सेफगार्ड्स जोडले गेले.

कंपनीने निदर्शनास आणून दिले की (सामान्य ज्ञानाने हे देखील नमूद केले होते की) त्याचे मॉडेल्स वास्तविक संबंधांचे प्रतिबिंबित करू शकतील अशा संभाषणांमध्ये गुंतण्यापासून रोखण्यासाठी सेफगार्ड्स आहेत. शिवाय, Google ने सुचवले की कॉमन सेन्सच्या अहवालात संदर्भित वैशिष्ट्ये आहेत जी 18 वर्षाखालील वापरकर्त्यांसाठी उपलब्ध नव्हती, परंतु संस्थेने त्याच्या चाचण्यांमध्ये वापरलेल्या प्रश्नांमध्ये प्रवेश नाही.

कॉमन सेन्स मीडियाने यापूर्वी इतर सादर केले आहेत मूल्यांकन एआय सेवांपैकी, त्याहूनही ओपनई, गोंधळ, क्लॉड, मेटा एआयआणि अधिक? असे आढळले की मेटा एआय आणि कॅरेक्टर.एआय “अस्वीकार्य” होते – म्हणजे जोखीम गंभीर होते, फक्त उच्च नाही. गोंधळात जास्त जोखीम मानली गेली, चॅटजीपीटीला “मध्यम” असे लेबल लावले गेले आणि क्लॉड (18 आणि त्यापेक्षा जास्त वापरकर्त्यांकडे लक्ष्यित) कमीतकमी धोका असल्याचे आढळले.