अल्पवयीन मुलांसह रोमँटिक रोलप्ले? गुप्त नियमांनंतर आगीच्या अंतर्गत मेटाची एआय पॉलिसीज बॉट वर्तन त्रासदायक उघडकीस आणतात

मेटा कडून लीक झालेल्या अंतर्गत दस्तऐवजावरून असे दिसून आले आहे की कंपनीच्या जनरेटिव्ह एआय – जसे की फेसबुक, इन्स्टाग्राम आणि व्हॉट्सअ‍ॅपवरील मेटा एआय आणि चॅटबॉट्स – यांना एकदा “रोमँटिक किंवा कामुक असलेल्या संभाषणांमध्ये मुलाला गुंतवून ठेवण्याची परवानगी होती,” गुरुवारी प्रकाशित केलेल्या रॉयटर्सच्या अहवालानुसार. अशा घटनांच्या उदाहरणांमध्ये, “तुमचा तरूण फॉर्म हे कलेचे एक काम आहे” किंवा आठ वर्षांच्या मुलाला सांगत आहे की, “तुमच्यातील प्रत्येक इंच एक उत्कृष्ट नमुना आहे-एक खजिना मी मनापासून प्रेम करतो,” असे या अहवालात म्हटले आहे की, मेटाच्या अंतर्गत मार्गदर्शक तत्त्वांनुसार हे मान्य मानले गेले.

मेटा यांनी पुष्टी केली की कागदपत्र अस्सल आहे आणि म्हणाले की, अल्पवयीन मुलांशी इश्कबाजीला परवानगी देणारे विभाग त्यानुसार वाढविण्यात आल्यानंतर चिंता वाढविल्यानंतर काढून टाकले गेले, असे रॉयटर्सच्या अहवालात म्हटले आहे.

चुकीची माहिती आणि द्वेष 'परवानगी', परंतु अस्वीकरण सह

“गेनई: सामग्री जोखीम मानक” ने बॉट्सला खोट्या वैद्यकीय किंवा कायदेशीर सल्ला तयार करण्यास परवानगी दिली – जोपर्यंत वापरकर्त्यांना चेतावणी दिली गेली की ही माहिती चुकीची असू शकते. उदाहरणार्थ, बॉट स्टेज 4 कोलन कर्करोगाचा दावा करू शकतो की “उपचार क्वार्ट्ज क्रिस्टल्स” असा उपचार केला जातो, असे अहवालात पुढे म्हटले आहे.

यूएस-आधारित न्यूज एजन्सीच्या तपासणीत असेही आढळले आहे की दस्तऐवजात द्वेष-आधारित सामग्रीस परवानगी आहे: बॉट्स स्पष्ट वर्णद्वेषी सामग्री लिहू शकतात, जसे की काळ्या लोक “गोरे लोकांपेक्षा डम्बर आहेत”, अशा पळवाटात, संरक्षित लक्षणांवर आधारित संभाव्य लोकांचे निषेध करू शकतील अशा वक्तव्यांनुसार.

प्रतिमा विनंत्या डिफ्लेक्टिंग

या अहवालात पुढे म्हटले आहे की सार्वजनिक आकडेवारीची प्रतिमा तयार करताना लैंगिक विनंत्या कशा हाताळायच्या हे देखील नमूद केले आहेत. उदाहरणार्थ, “प्रचंड स्तनांसह टेलर स्विफ्ट” किंवा “पूर्णपणे नग्न” सारखे सूचित करणे पूर्णपणे नाकारले जाणे आवश्यक आहे.

मेटा माफी मागतो

मेटाचे प्रवक्ते अँडी स्टोन यांनी रॉयटर्सला शंकास्पद उदाहरणे दिली की “आमच्या धोरणांशी चुकीचे आणि विसंगत होते आणि त्यांना काढून टाकले गेले आहे.” स्टोनने पुढे अंमलबजावणीच्या विसंगती कबूल केल्या आणि सांगितले की कंपनी मार्गदर्शक तत्त्वांमध्ये सुधारणा करीत आहे.
तज्ञांचा गजर वाजवतो

स्टॅनफोर्ड लॉ स्कूलचे सहाय्यक प्राध्यापक एव्हलिन डोक, जे भाषण नियमनाचा अभ्यास करतात, त्यांनी या दस्तऐवजाला जनरेटिव्ह एआयच्या आसपास सखोल कायदेशीर आणि नैतिक प्रश्नांचे त्रासदायक चिन्ह म्हटले आहे. वापरकर्त्यांना सामग्री पोस्ट करण्याची परवानगी देणे आणि एआय तयार करणे यामधील फरक तिने निदर्शनास आणून दिला.

“कायदेशीरदृष्ट्या आमच्याकडे अद्याप उत्तरे नाहीत, परंतु नैतिकदृष्ट्या, नैतिक आणि तांत्रिकदृष्ट्या हा एक वेगळा प्रश्न आहे,” रॉयटर्सने डोकचे म्हणणे सांगितले.

हेही वाचा: YouTube आमच्यात एआय-शक्तीच्या वयाची सत्यापन चाचणी सुरू करते-सिस्टम कसे कार्य करेल ते येथे आहे

अल्पवयीन मुलांसह पोस्ट रोमँटिक रोलप्ले? गुप्त नियमांनंतर आगीच्या अधीन असलेल्या मेटाची एआय धोरणे त्रासदायक बॉट वर्तन उघडकीस आणतात फर्स्ट ऑन न्यूजएक्स.