एआय चॅटबॉट्समध्ये सत्याचा अभाव: योशुआ बेन्जिओ उघड करतात

AI च्या उत्तरांमध्ये सत्याचा अभाव

आजकाल, आर्टिफिशियल इंटेलिजन्सचा सल्ला घेणे ही एक सामान्य प्रक्रिया झाली आहे, परंतु एआयची उत्तरे नेहमीच अचूक असतीलच असे नाही. प्रसिद्ध एआय शास्त्रज्ञ योशुआ बेंजिओ यांनी या विषयावर एक महत्त्वाची माहिती शेअर केली आहे.

बेंजिओच्या म्हणण्यानुसार, त्याच्या संशोधनावर योग्य फीडबॅक मिळवण्यासाठी त्याला एआय चॅटबॉट्सची युक्ती करावी लागेल. अलीकडील 'द डायरी ऑफ अ सीईओ' पॉडकास्टमध्ये, त्यांनी स्पष्ट केले की बहुतेक एआय चॅटबॉट्समध्ये 'खूश करण्याची प्रवृत्ती' असते, ज्यामुळे वापरकर्त्यांना गंभीर विचारांची आवश्यकता नसून समाधानी उत्तरे दिली जातात.

त्यांनी असेही निदर्शनास आणून दिले की जेव्हा चॅटबॉट्सना कळते की ते कोणाशी बोलत आहेत, तेव्हा ते अधिक सकारात्मक आणि पक्षपाती प्रतिसाद देतात. ही समस्या टाळण्यासाठी ते त्यांच्या संशोधन कल्पना त्यांच्या एका सहकाऱ्याच्या नावाने AI समोर मांडतात. अशा प्रकारे, चॅटबॉट्स अधिक अचूक, गंभीर आणि उपयुक्त सूचना देतात.

बेंजिओने याला एआय प्रणालीची गंभीर कमतरता म्हटले आहे. त्यांच्या मते, आम्हाला प्रत्येक गोष्टीला 'हो' म्हणणारा AI नको आहे. त्यांनी चेतावणी दिली की जर एआय सतत विनाकारण प्रशंसा करत असेल तर वापरकर्ते त्याच्याशी भावनिक संबंध निर्माण करू शकतात, ज्यामुळे मानव-मशीन संबंध आणखी गुंतागुंत होऊ शकतात.

बेंजिओ एकटा नाही; इतर अनेक तंत्रज्ञान तज्ञ देखील AI च्या याच 'होय-मॅन' प्रवृत्तीबद्दल चिंतित आहेत. सप्टेंबरमध्ये प्रकाशित झालेल्या अहवालानुसार, स्टॅनफोर्ड, कार्नेगी मेलॉन आणि ऑक्सफर्ड युनिव्हर्सिटीच्या संशोधकांनी चॅटबॉट्सची चाचणी केली, त्यात असे आढळून आले की सुमारे 42 टक्के प्रकरणांमध्ये एआयने चुकीचे निष्कर्ष काढले आहेत, तर मानवी समीक्षक त्यांच्याशी असहमत आहेत.

हे देखील लक्षात घेण्यासारखे आहे की AI कंपन्यांनी ही समस्या मान्य केली आहे. या वर्षाच्या सुरुवातीला, ओपनएआयने चॅटजीपीटीचे अपडेट मागे घेतले कारण यामुळे चॅटबॉटने जास्त सहानुभूतीपूर्ण परंतु कृत्रिम प्रतिसाद दिला. तज्ञांचा असा विश्वास आहे की भविष्यात एआयला अधिक निःपक्षपाती आणि तथ्यात्मक बनविण्यावर लक्ष केंद्रित केले जाईल, जेणेकरून ते खरोखर उपयुक्त असल्याचे सिद्ध होईल.