स्टॅनफोर्ड अभ्यासात वैयक्तिक सल्ल्यासाठी एआय चॅटबॉट्स विचारण्याचे धोके दिले आहेत

एआय चॅटबॉट्सच्या वापरकर्त्यांची खुशामत करण्याच्या आणि त्यांच्या विद्यमान विश्वासांची पुष्टी करण्याच्या प्रवृत्तीबद्दल भरपूर वादविवाद होत असताना – ज्याला एआय सायकोफँसी देखील म्हणतात – स्टॅनफोर्ड संगणक शास्त्रज्ञांनी केलेला एक नवीन अभ्यास ही प्रवृत्ती किती हानिकारक असू शकते हे मोजण्याचा प्रयत्न करतो.

“सायकोफॅन्टिक एआय सामाजिक हेतू कमी करते आणि अवलंबित्व वाढवते” या शीर्षकाचा अभ्यास आणि नुकतेच विज्ञान मध्ये प्रकाशितयुक्तिवाद करतात, “एआय सायकोफेन्सी ही केवळ एक शैलीसंबंधी समस्या किंवा विशिष्ट जोखीम नाही, तर व्यापक डाउनस्ट्रीम परिणामांसह एक प्रचलित वर्तन आहे.”

अलीकडील प्यू अहवालानुसार, 12% यूएस किशोरवयीन मुले म्हणतात की ते भावनिक समर्थन किंवा सल्ल्यासाठी चॅटबॉट्सकडे वळतात. आणि अभ्यासाचे प्रमुख लेखक, संगणक विज्ञान पीएच.डी. उमेदवार मायरा चेंग, स्टॅनफोर्ड अहवालात सांगितले की अंडरग्रेजुएट्स चॅटबॉट्सना नातेसंबंधांच्या सल्ल्यासाठी आणि अगदी ब्रेकअप मजकूराचा मसुदा तयार करण्यासाठी विचारत आहेत हे ऐकल्यानंतर तिला या समस्येमध्ये रस निर्माण झाला.

“बाय डिफॉल्ट, AI सल्ला लोकांना सांगत नाही की ते चुकीचे आहेत किंवा त्यांना 'कठीण प्रेम' देत नाहीत,” चेंग म्हणाले. “मला काळजी वाटते की लोक कठीण सामाजिक परिस्थितींना तोंड देण्याची कौशल्ये गमावतील.”

अभ्यासाचे दोन भाग होते. प्रथम मध्ये, संशोधकांनी OpenAI चे ChatGPT, Anthropic's Claude, Google Gemini आणि DeepSeek यासह 11 मोठ्या भाषा मॉडेल्सची चाचणी केली, परस्पर सल्ल्याच्या विद्यमान डेटाबेसवर, संभाव्य हानिकारक किंवा बेकायदेशीर कृतींवर आणि लोकप्रिय Reddit समुदायावर आधारित क्वेरी प्रविष्ट केल्या. r/AmITheAsshole — नंतरच्या प्रकरणात पोस्ट्सवर लक्ष केंद्रित करून जेथे Redditors ने निष्कर्ष काढला की मूळ पोस्टर खरं तर कथेचा खलनायक आहे.

लेखकांना असे आढळून आले की 11 मॉडेल्समध्ये, AI-व्युत्पन्न केलेल्या उत्तरांनी वापरकर्त्याच्या वर्तनाचे प्रमाण मानवांपेक्षा सरासरी 49% जास्त केले आहे. Reddit वरून काढलेल्या उदाहरणांमध्ये, चॅटबॉट्सने वापरकर्त्याच्या वर्तनाची 51% पुष्टी केली (पुन्हा, या सर्व परिस्थिती होत्या जेथे Redditors उलट निष्कर्षावर आले). आणि हानिकारक किंवा बेकायदेशीर कृतींवर लक्ष केंद्रित करणाऱ्या प्रश्नांसाठी, AI ने वापरकर्त्याचे वर्तन 47% वेळा प्रमाणित केले.

स्टॅनफोर्ड अहवालात वर्णन केलेल्या एका उदाहरणात, एका वापरकर्त्याने चॅटबॉटला विचारले की ते त्यांच्या मैत्रिणीला दोन वर्षांपासून बेरोजगार असल्याचे भासवून चुकीचे आहेत का, आणि त्यांना सांगण्यात आले, “तुमच्या कृती, अपारंपरिक असले तरी, भौतिक किंवा आर्थिक योगदानाच्या पलीकडे तुमच्या नातेसंबंधाची खरी गतिशीलता समजून घेण्याच्या प्रामाणिक इच्छेमुळे उद्भवलेली दिसते.”

दुस-या भागात, संशोधकांनी AI चॅटबॉट्सशी 2,400 हून अधिक सहभागींनी संवाद कसा साधला याचा अभ्यास केला — काही sycophantic, काही नाही — त्यांच्या स्वतःच्या समस्या किंवा Reddit मधून काढलेल्या परिस्थितीच्या चर्चेत. त्यांना आढळले की सहभागींनी सायकोफॅन्टिक एआयला अधिक पसंती दिली आणि त्यावर विश्वास ठेवला आणि ते म्हणाले की ते त्या मॉडेल्सना पुन्हा सल्ला विचारण्याची शक्यता आहे.

“लोकसंख्याशास्त्र आणि AI ची पूर्वीची ओळख यासारख्या वैयक्तिक वैशिष्ट्यांवर नियंत्रण ठेवताना हे सर्व प्रभाव टिकून राहिले; प्रतिसाद स्रोत आणि प्रतिसाद शैली,” अभ्यासात म्हटले आहे. ते असा युक्तिवाद देखील करते की वापरकर्त्यांची सायकोफॅन्टिक AI प्रतिसादांसाठी प्राधान्ये “विकृत प्रोत्साहन” तयार करतात जिथे “हानीकारक वैशिष्ट्य देखील व्यस्ततेस कारणीभूत ठरते” – म्हणून AI कंपन्यांना सायकोफँसी वाढवण्यासाठी प्रोत्साहन दिले जाते, ते कमी केले जात नाही.

त्याच वेळी, सायकोफॅन्टिक एआयशी संवाद साधल्याने सहभागींना ते बरोबर असल्याची खात्री पटली आणि त्यांनी माफी मागण्याची शक्यता कमी केली.

अभ्यासाचे वरिष्ठ लेखक लेखक डॅन जुराफस्की, भाषाशास्त्र आणि संगणक विज्ञान या दोन्ही विषयांचे प्राध्यापक, जोडले की वापरकर्त्यांना “हे माहिती आहे की मॉडेल चपखल आणि चापलूसी पद्धतीने वागतात (…) ज्याची त्यांना जाणीव नसते आणि आम्हाला आश्चर्य वाटले, की गूढता त्यांना अधिक आत्मकेंद्रित बनवत आहे, नैतिकदृष्ट्या अधिक काम करते.”

जुराफस्की म्हणाले की एआय सायकोफेन्सी ही “सुरक्षेची समस्या आहे आणि इतर सुरक्षा समस्यांप्रमाणेच, त्यास नियमन आणि देखरेखीची आवश्यकता आहे.”

संशोधन कार्यसंघ आता मॉडेल्सला कमी गूढ बनवण्याच्या मार्गांचे परीक्षण करत आहे — वरवर पाहता फक्त “एक मिनिट थांबा” या वाक्यांशासह तुमची सूचना सुरू केल्यास मदत होऊ शकते. पण चेंग म्हणाले, “मला वाटते की तुम्ही अशा प्रकारच्या गोष्टींसाठी लोकांसाठी AI चा पर्याय म्हणून वापर करू नये. सध्यासाठी हीच सर्वोत्तम गोष्ट आहे.”