किशोरवयीन वापरकर्त्यांसह अयोग्य विषय टाळण्यासाठी मेटा चॅटबॉट नियम अद्यतनित करते

किशोरवयीन सुरक्षेला प्राधान्य देण्यासाठी एआय चॅटबॉट्स प्रशिक्षित करण्याचा मार्ग बदलत आहे, असे मेटा म्हणतात, कंपनीने अल्पवयीन मुलांसाठी एआय सेफगार्ड्स नसल्याच्या अन्वेषण अहवालानंतर एका प्रवक्त्याने वाचनास सांगितले.

कंपनीचे म्हणणे आहे की आता चॅटबॉट्सना किशोरवयीन वापरकर्त्यांसह स्वत: ची हानी, आत्महत्या, अव्यवस्थित खाणे किंवा संभाव्य अयोग्य रोमँटिक संभाषणांवर व्यस्त राहण्यास प्रशिक्षण देईल. मेटा म्हणते की हे अंतरिम बदल आहेत आणि कंपनी भविष्यात अल्पवयीन मुलांसाठी अधिक मजबूत, दीर्घकाळ टिकणारी सुरक्षा अद्यतने जाहीर करेल.

मेटाचे प्रवक्ते स्टेफनी ओटवे यांनी कबूल केले की कंपनीचे चॅटबॉट्स यापूर्वी किशोरांशी या सर्व विषयांबद्दल कंपनीला योग्य वाटेल अशा प्रकारे बोलू शकतात. मेटा आता ओळखते की ही एक चूक होती.

“आमचा समुदाय जसजसा वाढत जातो आणि तंत्रज्ञान विकसित होत जाते तसतसे आम्ही या साधनांशी कसे संवाद साधू शकतो आणि त्यानुसार आपले संरक्षण मजबूत करू शकतो याबद्दल आम्ही सतत शिकत असतो,” ओटवे म्हणाले. “आम्ही आमच्या सिस्टमचे परिष्करण सुरू ठेवत असताना, आम्ही अतिरिक्त खबरदारी म्हणून अधिक रेलिंग जोडत आहोत-या विषयांवर किशोरांशी व्यस्त राहू नये म्हणून आमच्या एआयला प्रशिक्षण देणे, परंतु त्यांना तज्ञांच्या संसाधनांकडे मार्गदर्शन करणे आणि किशोरवयीन आत्तासाठी एआय वर्णांच्या निवडक गटात किशोर प्रवेश मर्यादित करणे. ही अद्यतने आधीच प्रगतीपथावर आहेत, आणि आम्ही किशोरवयीन मुलांची सुनिश्चित करणे सुरू ठेवू.

प्रशिक्षण अद्यतनांच्या पलीकडे, कंपनी अयोग्य संभाषणे घेऊ शकणार्‍या विशिष्ट एआय वर्णांमध्ये किशोरवयीन प्रवेश मर्यादित करेल. मेटा इन्स्टाग्राम आणि फेसबुकवर उपलब्ध असलेल्या काही वापरकर्त्याने तयार केलेल्या एआय वर्णांमध्ये “स्टेप मॉम” आणि “रशियन गर्ल” सारख्या लैंगिक चॅटबॉट्सचा समावेश आहे. त्याऐवजी, किशोरवयीन वापरकर्त्यांकडे केवळ शिक्षण आणि सर्जनशीलता वाढविणार्‍या एआय वर्णांमध्ये प्रवेश असेल, असे ओटवे म्हणाले.

दोन आठवड्यांनंतर पॉलिसी बदलांची घोषणा केली जात आहे रॉयटर्सची तपासणी अंतर्गत मेटा पॉलिसी दस्तऐवज शोधून काढले जे कंपनीच्या चॅटबॉट्सला अल्पवयीन वापरकर्त्यांसह लैंगिक संभाषणात गुंतण्यासाठी परवानगी देत ​​असल्याचे दिसून आले. “आपला तरूण फॉर्म हे कलेचे कार्य आहे,” एक स्वीकार्य प्रतिसाद म्हणून सूचीबद्ध एक परिच्छेद वाचा. “तुमच्यातील प्रत्येक इंच एक उत्कृष्ट नमुना आहे – एक खजिना मी मनापासून प्रेम करतो.” इतर उदाहरणांनी दर्शविले की एआय साधनांनी हिंसक प्रतिमा किंवा सार्वजनिक व्यक्तींच्या लैंगिक प्रतिमांच्या विनंत्यांना कसा प्रतिसाद द्यावा.

मेटा म्हणते की कागदपत्र त्याच्या व्यापक धोरणांशी विसंगत होते आणि त्यानंतर ते बदलले गेले आहे – परंतु संभाव्य बाल सुरक्षिततेच्या जोखमीवर अहवालात सतत वाद निर्माण झाला आहे. अहवाल प्रसिद्ध झाल्यानंतर लवकरच, सेन. जोश हॉली (आर-एमओ) कंपनीच्या एआय धोरणांची अधिकृत चौकशी सुरू केली? याव्यतिरिक्त, 44 राज्य वकील जनरलची युती मेटासह एआय कंपन्यांच्या गटाला लिहिलेमुलाच्या सुरक्षिततेचे महत्त्व यावर जोर देणे आणि रॉयटर्सच्या अहवालाचा उल्लेख करणे. “मुलांच्या भावनिक कल्याणकडे दुर्लक्ष करून आम्ही एकसारखेपणाने बंडखोरी केली आहे,” असे या पत्रात म्हटले आहे की, “एआय सहाय्यक आमच्या संबंधित गुन्हेगारी कायद्यांद्वारे प्रतिबंधित असल्याचे दिसून आले आहे.”

ओटवेने मेटाचे किती एआय चॅटबॉट वापरकर्ते अल्पवयीन आहेत यावर भाष्य करण्यास नकार दिला आणि या निर्णयाच्या परिणामी कंपनीला एआय वापरकर्त्याचा आधार कमी होण्याची अपेक्षा आहे की नाही हे सांगणार नाही.

सकाळी 10:35 एएम पीटी अद्यतनित करा: ही कहाणी अद्ययावत केली गेली की हे अंतरिम बदल आहेत आणि मेटाने भविष्यात एआय सुरक्षा धोरणे अद्यतनित करण्याची योजना आखली आहे.