एआयने मुलांसह 'कामुक' गप्पा मारल्याबद्दल मेटाने तपास केला

लीक झालेल्या दस्तऐवजात टेक जायंटच्या कृत्रिम बुद्धिमत्ता (एआय) ला मुलांबरोबर “कामुक” आणि “रोमँटिक” गप्पा मारण्याची परवानगी असल्याचे दाखवल्यानंतर अमेरिकेचा एक सिनेटचा सदस्य मेटाबद्दल चौकशी सुरू करीत आहे.

अंतर्गत दस्तऐवज, रॉयटर्सद्वारे प्राप्त“गेनई: सामग्री जोखीम मानक” असे शीर्षक होते.

रिपब्लिकन सिनेटचा सदस्य जोश हॉली यांनी या दस्तऐवजाला “निंदनीय आणि अपमानकारक” म्हटले आहे आणि त्याशी संबंधित उत्पादनांच्या यादीसह दस्तऐवज पाहण्यास सांगितले आहे.

मेटा प्रवक्त्याने बीबीसीला सांगितले: “प्रश्नातील उदाहरणे आणि नोट्स आमच्या धोरणांशी चुकीची आणि विसंगत आहेत आणि ती काढली गेली आहेत.”

ते म्हणाले की टेक राक्षसकडे एआय चॅटबॉट्स कोणत्या प्रतिक्रिया देऊ शकतात याविषयी “स्पष्ट धोरणे” आहेत आणि ती म्हणाली की “प्रौढ आणि अल्पवयीन मुलांमध्ये लैंगिक संबंध आणि लैंगिक भूमिकेसाठी लैंगिक संबंध ठेवणारी सामग्रीस प्रतिबंधित करते”.

ते म्हणाले, “धोरणांपासून वेगळे, शेकडो उदाहरणे, नोट्स आणि भाष्ये आहेत जी वेगवेगळ्या काल्पनिक परिस्थितींमध्ये झेप घेणार्‍या संघांना प्रतिबिंबित करतात.”

मिसुरीचे रिपब्लिकन सिनेटचा सदस्य जोश हॉली यांनी जाहीर केले की ते मेटा तपासत आहेत एक्स वरील पोस्टमध्ये 15 ऑगस्ट रोजी.

तो म्हणाला, “असे काही आहे – काहीही – बिग टेक द्रुत बोकडसाठी करणार नाही,” तो म्हणाला.

“आता आम्ही शिकतो की मेटाच्या चॅटबॉट्सला 8 वर्षांच्या मुलांसह स्पष्ट आणि“ कामुक ”चर्चा करण्यासाठी प्रोग्राम केले गेले होते. ते आजारी आहे. मी उत्तरे मिळविण्यासाठी संपूर्ण तपासणी सुरू करीत आहे. बिग टेक: आमच्या मुलांना एकटे सोडा.”

फेसबुक, व्हॉट्सअ‍ॅप आणि इन्स्टाग्राम हे सर्व मेटाच्या मालकीचे आहेत.

अंतर्गत मेटा प्लॅटफॉर्म पॉलिसी दस्तऐवजात असेही म्हटले आहे की सोशल मीडिया जायंटचा चॅटबॉट खोट्या वैद्यकीय माहिती प्रदान करू शकेल आणि लैंगिक, वंश आणि सेलिब्रिटींसह विषयांच्या आसपासचे प्रक्षोभक संवाद साधू शकेल.

या दस्तऐवजाचा हेतू टेक राक्षसच्या जनरेटिव्ह एआय सहाय्यक, मेटा एआय आणि मेटा-मालकीच्या सोशल मीडिया प्लॅटफॉर्मवर उपलब्ध असलेल्या इतर चॅटबॉट्सना मार्गदर्शन करेल अशा मानकांवर चर्चा करण्याचा हेतू आहे.

“पालक सत्यासाठी पात्र आहेत आणि मुले संरक्षणास पात्र आहेत,” हॉली यांनी मेटा आणि मुख्य कार्यकारी मार्क झुकरबर्ग यांना संबोधित केलेले पत्र लिहिले.

“एक उदाहरण घेण्याकरिता, आपले अंतर्गत नियम आठ वर्षांच्या मुलाचे शरीर 'कलेचे एक काम' आहे हे सांगण्यासाठी अल चॅटबॉटला आवश्यक आहे, ज्याचे 'प्रत्येक इंच… एक उत्कृष्ट नमुना आहे-एक खजिना मी मनापासून प्रेम करतो.”

रॉयटर्सने इतर वादग्रस्त निर्णयांची नोंद केली की मेटाच्या कायदेशीर विभागाने मान्य केले आहे.

यात दावा आहे की मेटा एआयला सेलिब्रिटींबद्दल खोटी माहिती प्रसारित करण्याची परवानगी आहे, जोपर्यंत तो एक अस्वीकरण प्रदान करतो जोपर्यंत प्रदान केलेली माहिती अचूक नाही.