मेटाचा नुकताच लॉन्च झालेला एआय एजंट, म्युझ, एका तंत्रज्ञान पत्रकाराला त्याच्या खाजगी संदेश ॲपमध्ये होणाऱ्या संभाषणांबद्दल सहाय्यकाला माहिती असल्याचे दिसून आल्याने गोपनीयता आणि पारदर्शकतेवर प्रश्नांचा सामना करावा लागला आहे.
या घटनेने एआय एजंट्सबद्दल एक मोठा प्रश्न उपस्थित केला आहे: वापरकर्त्याच्या वैयक्तिक माहितीमध्ये त्यांना किती प्रवेश असावा आणि प्रवेश मंजूर करण्यापूर्वी वापरकर्त्यांना नेहमी स्पष्टपणे माहिती द्यावी का?
खाजगी संभाषणांबद्दल जाणून घेण्यासाठी म्यूज दिसले
तंत्रज्ञान स्तंभलेखक जेसन एटेनने त्याच्यावर म्युझ स्थापित केले मेटाच्या नवीन वैयक्तिक एआय एजंटची चाचणी घेण्यासाठी iPhone आणि Mac.
चाचणी दरम्यान, ऍटेन त्याच्या पॉडकास्ट सह-होस्टसोबत Apple च्या नवीन iPhones बद्दल खाजगी संभाषण करत होता. थोड्याच वेळात, म्यूजने सुचवले की संभाषण एक तंत्रज्ञान स्तंभ बनू शकते आणि आगामी लेखाबद्दल त्याच्या संपादकाच्या संदेशाचा संदर्भ देखील दिला.
आश्चर्याचा भाग असा होता की एटेनने सांगितले की त्याने कधीही म्युझला त्याच्या संदेशांमध्ये प्रवेश करण्याची परवानगी दिली नाही.
म्यूजने अनपेक्षित स्पष्टीकरण दिले
जेव्हा एटेनने म्यूजला संभाषणाबद्दल कसे माहिती आहे असे विचारले तेव्हा एआयने सुरुवातीला दावा केला की त्याने त्याच्या संदेश इतिहासात प्रवेश केला नाही.
त्याऐवजी, म्यूजने सांगितले की त्याला त्याच्या जोडलेल्या मॅकवर येणाऱ्या सूचना बॅनरमधून मजकूर प्राप्त झाला आहे. ते सूचनांचे पूर्वावलोकन पाहू शकते परंतु संदेश ॲप उघडू शकत नाही किंवा ऐतिहासिक संभाषणे वाचू शकत नाही असा दावा केला आहे.
एटेनने नंतर अधिक तपास केला आणि अहवाल दिला की म्युझने त्याच्या Mac वरील स्थानिक संदेश डेटाबेसमधील माहिती खरोखर समक्रमित केली आहे. त्याच्या खात्यानुसार, सिस्टमने डेटाबेसमधील 187,000 पेक्षा जास्त पंक्तीपर्यंत विस्तारित डेटावर प्रक्रिया केली होती.
त्या शोधामुळे केवळ एआयने सूचना पूर्वावलोकन पाहण्यापेक्षा समस्या अधिक क्लिष्ट केली.
मेटा म्हणते परवानग्या आवश्यक आहेत
Meta ने या कल्पनेला विरोध केला आहे की Muse गुप्तपणे परवानगीशिवाय संदेशांमध्ये प्रवेश करतो.
कंपनीचे म्हणणे आहे की वापरकर्ते ठरवतात की म्युझ कोणते ॲप्लिकेशन कनेक्ट करू शकतात आणि त्याला किती ऍक्सेस मिळेल. म्युझच्या आर्किटेक्चरचे मेटाने स्पष्टीकरण दिले आहे की संवेदनशील कनेक्शन परवानगी नियंत्रणे आणि सेंटिनेल नावाच्या वेगळ्या सुरक्षा स्तराद्वारे नियंत्रित केले जातात.
मेटाने हे देखील कबूल केले की म्यूजने या विशिष्ट परस्परसंवादात माहिती कशी ऍक्सेस केली याचे चुकीचे स्पष्टीकरण दिले आहे.
कंपनीने सांगितले की AI ला स्वतःचे अंतर्गत कार्य योग्यरित्या समजले नाही आणि म्युझने ते कसे कार्य करते याबद्दल अधिक अचूक स्पष्टीकरण देते याची खात्री करण्यासाठी सुधारणा केल्या जात आहेत.
एआय एजंट्ससाठी हे महत्त्वाचे का आहे
AI सहाय्यक स्वायत्त एजंटमध्ये विकसित होत असताना ही घटना वाढत्या आव्हानावर प्रकाश टाकते.
पारंपारिक चॅटबॉट्स सामान्यतः वापरकर्त्यांद्वारे थेट प्रदान केलेल्या माहितीला प्रतिसाद देतात. तथापि, एआय एजंट्स सर्व अनुप्रयोगांवर कार्य करण्यासाठी, माहितीमध्ये प्रवेश करण्यासाठी आणि वापरकर्त्यांच्या वतीने कार्ये करण्यासाठी डिझाइन केलेले आहेत.
त्यामुळे परवानग्या अधिक महत्त्वाच्या ठरतात.
एखादा एजंट जो ईमेल, कॅलेंडर, फाइल्स आणि संदेशांमध्ये प्रवेश करू शकतो तो एखाद्या व्यक्तीच्या जीवनाचे अधिक तपशीलवार चित्र तयार करू शकतो. त्यामुळे एजंट नेमकी कोणती माहिती ॲक्सेस करू शकतो आणि का हे समजून घेणे आवश्यक आहे.
ट्रस्ट हे सर्वात मोठे AI आव्हान बनू शकते
Meta ने म्युजला वापरकर्ता नियंत्रण, गोपनीयता आणि सुरक्षितता याभोवती डिझाइन केलेले वैयक्तिक AI एजंट म्हणून स्थान दिले आहे. कंपनीचे म्हणणे आहे की वापरकर्ते परवानग्या व्यवस्थापित करू शकतात, क्रियाकलापांचे पुनरावलोकन करू शकतात आणि खरेदी आणि ईमेल यांसारख्या संवेदनशील क्रियांना मंजुरी देऊ शकतात.
एटेनच्या अनुभवाभोवतीचा वाद हे दर्शविते की स्पष्ट संप्रेषण तांत्रिक सुरक्षेइतकेच महत्त्वाचे का असू शकते.
तांत्रिकदृष्ट्या प्रवेशास परवानगी असतानाही, वापरकर्त्यांना त्यांनी काय अधिकृत केले आहे ते समजू शकत नाही. आणि जेव्हा एआय एजंट स्वतःच त्याची माहिती कोठून आली हे अचूकपणे स्पष्ट करू शकत नाही, तेव्हा ती अनिश्चितता अनुभव आणखी गोंधळात टाकू शकते.
जसजसे AI एजंट्स वैयक्तिक उपकरणांमध्ये अधिक खोलवर समाकलित होत जातात, तसतसे “परवानगी मंजूर” आणि “वापरकर्त्याला ते काय परवानगी देत आहेत हे प्रत्यक्षात समजले” मधील फरक वाढत्या प्रमाणात महत्त्वपूर्ण होऊ शकतो.
सारांश
पत्रकार जेसन एटेन यांना खाजगी संदेश संभाषणांबद्दल माहिती असल्याचे दिसून आल्यानंतर मेटाच्या नवीन म्युझ एआय एजंटने गोपनीयतेची चिंता वाढवली आहे. म्युझने सुरुवातीला सांगितले की त्याने केवळ सूचना पूर्वावलोकनात प्रवेश केला होता, तर पुढील तपासणीने सूचित केले की संदेश डेटा समक्रमित केला गेला आहे. मेटा म्हणते की परवानग्या आवश्यक आहेत आणि म्यूजने स्वतःच्या अंतर्गत डेटा ऍक्सेसचे चुकीचे स्पष्टीकरण दिले आहे हे मान्य केले आहे.
Comments are closed.