एआय तुमच्या प्रत्येक मताचे समर्थन का करते? संशोधकांचा 'गोड विष'चा इशारा; धक्कादायक बाब समोर आली

• एआय नेहमी तुमच्याशी का सहमत आहे? संशोधनात धक्कादायक बाब समोर आली आहे
• AI चुकीचे असतानाही 'तुम्ही बरोबर आहात' असे म्हणते; शास्त्रज्ञांनी इशारा दिला
• 'चापलूसी एआय'चा वाढता प्रभाव; लोक अधिक अहंकारी होत असल्याचा दावा करतात

कृत्रिम बुद्धिमत्ता म्हणजेच एआयचा वापर आज प्रत्येक क्षेत्रात होत आहे. अनेक टेक कंपन्यांनी त्यांचे AI चॅटबॉट्स देखील लॉन्च केले आहेत. प्रत्येक व्यक्ती त्यांच्या गरजेनुसार AI चॅटबॉट्स वापरते. परंतु सामान्यतः भारतात गुगल जेमिनी आणि चॅटजीपीटी हे दोन्ही एआय चॅटबॉट्स मोठ्या प्रमाणावर वापरले जातात. तुम्ही तुमच्या विविध कामांसाठी किंवा तुमचे मत व्यक्त करण्यासाठी AA ची मदत देखील घेऊ शकता.

स्टायलिश कॅमेरा आणि अक्राळविक्राळ बॅटरी… Tecno च्या नवीन स्मार्टफोनमध्ये वापरकर्ते आश्चर्यचकित आहेत, वाचा वैशिष्ट्ये आणि किंमत

तुम्ही कधी असे निरीक्षण केले आहे का की तुम्ही एखाद्या विषयावर मत पोस्ट केल्यानंतर, AI तुमच्या प्रत्येक मताला होय असे उत्तर देते. म्हणजे तुमच्या होकाराला होय. का, याचा वापरकर्त्यांवर परिणाम होऊ शकतो? संशोधकांनीही याबाबतीत असेच मत व्यक्त केले आहे. वापरकर्त्यांना सावध राहण्याचा इशाराही देण्यात आला आहे. (छायाचित्र सौजन्य – AI निर्मित)

तुम्ही एआय चॅटबॉटला मत मांडता तेव्हा ते नेहमी तुमच्याशी सहमत असते हे तुमच्या कधी लक्षात आले आहे का. तुमची चूक असली तरी तो तुमचा 'हो' म्हणून 'हो' करतो. प्रत्येकाला तुमची प्रशंसा आणि तुमच्या मताचे समर्थन आवडते. एआय कंपन्यांना हे नक्की माहीत आहे. विज्ञानाच्या भाषेत याला 'सायकोफॅटिक एआय' किंवा 'फ्लॅटरिंग एआय' म्हणतात.

बरोबर उत्तर असले तरी हरकत नाही

स्टॅनफोर्ड आणि कार्नेगी मेलॉन युनिव्हर्सिटीच्या जर्नल सायन्समध्ये प्रकाशित झालेल्या अभ्यासात या 'गोड विषा'बाबत इशारा देण्यात आला आहे.

मानसिक परिणाम

2,405 सहभागींनी केलेल्या प्रयोगात असे दिसून आले की AI ला 'होय' मिळाल्याने लोक अधिक गर्विष्ठ बनले आणि ते बरोबर असल्याचा त्यांचा विश्वास दृढ झाला. चूक असूनही AI च्या पाठिंब्यामुळे खऱ्या आयुष्यात माफी मागायला ही मंडळी कमीच दिसली. यामुळे त्यांच्या आत्मचिंतन प्रक्रियेवर विपरित परिणाम झाला आहे.

• AI वापरकर्त्याच्या मताला 49% वेळ समर्थन देते
• 51% प्रकरणांमध्ये, एआय वापरकर्त्याला समर्थन देते

मेसेजिंगचा अनुभव बदलेल! आता लाइव्ह चॅटवरून व्हिडिओ कॉल करा, आरसीएसमध्ये लवकरच नवीन वैशिष्ट्ये येत आहेत

केवळ मानवी मताची 'पुष्टी'

संशोधकांनी 11 प्रमुख AI मॉडेल्सची चाचणी केली आणि असे आढळले की AI प्रणालींनी मानवांच्या तुलनेत 49% वेळा वापरकर्त्यांच्या मतांची पुष्टी केली.

• एआय मॉडेल्सना RLHF नावाच्या प्रक्रियेद्वारे प्रशिक्षण दिले जाते.
• जेव्हा AI वापरकर्त्याला आवडेल असे उत्तर देते तेव्हा त्याला 'रिवॉर्ड्स' (गुण) मिळतात.
• एआयला वाटते की त्याचे मुख्य काम वापरकर्त्याला संतुष्ट करणे आहे, मग त्यासाठी खोटी माहिती का द्यावी.