एआय चॅटमध्ये मुलाने आत्महत्या किंवा स्वत: ची हानी याबद्दल शोधल्यास, पालकांना त्वरित अलर्ट मिळेल! META चे नवीन AI सुरक्षा वैशिष्ट्य कसे कार्य करेल हे जाणून घ्या?

मुलाने AI सह आत्महत्येबद्दल बोलल्यास पालकांना अलर्ट मिळेलपौगंडावस्थेतील मुलांचे संरक्षण करण्यासाठी मेट्टाचे मोठे पाऊल

डिजिटल युगात मुले आणि किशोरवयीन मुले त्यांच्या वैयक्तिक आणि संवेदनशील गोष्टी कृत्रिम बुद्धिमत्ता म्हणजेच AI चॅटबॉट्सद्वारे शेअर करत आहेत. दरम्यान, किशोरवयीन मुलांचे मानसिक आरोग्य आणि सुरक्षिततेबाबतही चिंता वाढत आहे. ही समस्या लक्षात घेऊन सोशल मीडिया कंपनी Meta ने आपल्या AI सुरक्षा प्रणालीमध्ये एक महत्त्वपूर्ण बदल केला आहे. आता जर एखाद्या किशोरवयीन मुलाने मेटा AI शी संभाषणादरम्यान आत्महत्येशी संबंधित किंवा स्वत: ला हानी संबंधित विचार व्यक्त केले, तर AI सिस्टीम असे सिग्नल ओळखू शकते आणि योग्य प्रक्रियेनंतर त्याच्या पालकांना सतर्क करू शकते. मेटा म्हणते की या सुविधेचा उद्देश किशोरवयीन मुलांना संकटात वेळेवर मदत करणे हा आहे.
यापूर्वी केवळ हेल्पलाइनची माहिती दिली जात होती

मेटाच्या मागील प्रोटोकॉल अंतर्गत, एखाद्या किशोरवयीन मुलाने आत्महत्या किंवा स्वत: ची हानी याबद्दल एआयशी बोलल्यास, सिस्टम मुख्यत्वे आपत्कालीन हेल्पलाइन आणि मदतीसाठी साधनांची माहिती प्रदान करते. आता कंपनीने ही यंत्रणा अधिक सक्रिय करण्याचा निर्णय घेतला आहे. नवीन फीचर अंतर्गत, एआयने धोकादायक किंवा गंभीर सिग्नल शोधल्यानंतर पालकांना देखील सतर्क केले जाऊ शकते. त्यामुळे, पालकांना त्यांच्या मुलाच्या स्थितीबद्दल वेळेवर माहिती मिळू शकते आणि आवश्यकतेनुसार त्वरित मदत किंवा व्यावसायिक मदत मिळू शकते.
एआय सिग्नलनंतर मानवी टीम पुनरावलोकन करेल

मेटा ने म्हटले आहे की ही प्रणाली केवळ AI निर्णयांवर अवलंबून राहणार नाही. अल्पवयीन मुलाच्या संभाषणातून स्वत:ला हानी पोहोचवण्याची किंवा आत्महत्येची चिन्हे दिसू लागल्यानंतर मानवी पुनरावलोकन प्रक्रिया देखील आयोजित केली जाईल. याचा अर्थ पालकांना सूचना पाठवण्यापूर्वी ध्वजांकित संभाषणांचे मानवी संघाद्वारे पुनरावलोकन केले जाईल. ही प्रक्रिया गैरसमज, चुकीची ओळख किंवा अनावश्यक सूचना कमी करण्याच्या उद्देशाने आहे. बाल संरक्षण तज्ञ आणि पालकांच्या सहकार्याने हे फिचर विकसित केल्याचे कंपनीने म्हटले आहे.
अस्पष्ट परिस्थितीतही सावधगिरीला प्राधान्य द्या

Meta AI स्वतःला हानी पोहोचवण्याच्या थेट उल्लेखांपलीकडे किशोरांच्या संभाषणातील सूक्ष्म संकेत ओळखण्याचा प्रयत्न करेल. मानवी पुनरावलोकनानंतर किशोरवयीन मुलाचा हेतू पूर्णपणे स्पष्ट नसल्यास, कंपनी सावधगिरीला प्राधान्य देईल आणि पालकांना सूचना पाठवण्याचा निर्णय घेऊ शकते. मेटा असा विश्वास करते की अशा परिस्थितीत पालकांची वेळेवर जागरूकता आणि हस्तक्षेप गंभीर असू शकतो. तथापि, या प्रकारच्या सुविधेसह गोपनीयता आणि डेटा सुरक्षिततेचे प्रश्न देखील महत्त्वाचे असतील. तरीही, किशोरवयीन ऑनलाइन सुरक्षितता आणि मानसिक आरोग्यावर लक्ष केंद्रित करण्यासाठी मेटाचे पाऊल हे तंत्रज्ञान कंपन्यांच्या बदलत्या सुरक्षा धोरणांचे एक महत्त्वाचे लक्षण म्हणून पाहिले जाते.