आता एआय देखील खराब सामग्रीचा बळी ठरला आहे, नवीन अभ्यासाने धक्कादायक खुलासे केले आहेत

डिजिटल संशोधन: आजकाल सोशल मीडियावर “ब्रेन रॉट” या शब्दाची जास्त चर्चा होत आहे. हा शब्द अशा परिस्थितीला सूचित करतो जेव्हा लोक सतत कमी-गुणवत्तेची, निर्विकार आणि सहज मनोरंजन सामग्री वापरतात, ज्यामुळे त्यांची स्मरणशक्ती आणि लक्ष केंद्रित करण्याच्या क्षमतेवर नकारात्मक परिणाम होतो. आतापर्यंत याचा संबंध फक्त माणसांच्या मानसिक अवस्थेशी जोडला जात होता, परंतु कॉर्नेल युनिव्हर्सिटीच्या एका नवीन अभ्यासाने हे सिद्ध केले आहे की ही समस्या आता एआयपर्यंतही पोहोचली आहे.

हे संशोधन “LLM ब्रेन रॉट हायपोथिसिस” वर केंद्रित आहे, त्यानुसार जर एखाद्या मोठ्या भाषेचे मॉडेल (LLM) खराब किंवा गोंधळात टाकणाऱ्या इंटरनेट डेटावर सतत प्रशिक्षित केले गेले, तर त्याची तर्कशक्ती आणि विश्लेषणात्मक क्षमता हळूहळू कमकुवत होऊ लागते.

AI मध्ये मेंदूच्या सडण्याची प्रक्रिया कशी सुरू होते?

अभ्यासादरम्यान, संशोधकांनी वारंवार एआय मॉडेल दाखवले अशा डेटासह प्रशिक्षण घेतल्यानंतर, मॉडेलची समज आणि तर्क क्षमता ARC आणि RULER बेंचमार्कवर तपासली गेली. निकाल अतिशय धक्कादायक होते. ARC चाचणीतील गुण 74.9 वरून 57.2 वर घसरले, तर RULER चाचणीतील गुण 84.4 वरून 52.3 वर घसरले.

AI च्या वागण्यात राग आणि अहंकार दिसून येतो

संशोधनात असेही आढळून आले की अशा खराब डेटामुळे प्रभावित झालेल्या AI ने “थॉट-स्किपिंग” करणे सुरू केले, म्हणजे उत्तरे देण्यापूर्वी तार्किक विचार करण्याची प्रक्रिया वगळली आणि अपूर्ण किंवा चुकीची माहिती देणे सुरू केले. याव्यतिरिक्त, मॉडेलने नार्सिसिझम आणि सायकोपॅथिक प्रवृत्ती यासारखे नकारात्मक गुणधर्म विकसित करण्यास सुरुवात केली. त्याच वेळी, सहकारी आणि जबाबदार वर्तनात घट दिसून आली. सर्वात चिंतेची गोष्ट अशी होती की जेव्हा त्याच मॉडेलला नंतर उच्च दर्जाच्या डेटाचे प्रशिक्षण दिले गेले तेव्हाही “जंक डेटा” चा प्रभाव पूर्णपणे नाहीसा झाला नाही.

हेही वाचा: दिवाळी सेलमध्ये ग्राहकांकडून वसूल करण्यात आले छुपे शुल्क, सरकारने दिला इशारा

एआय ब्रेन रॉट रोखता येईल का?

हा अभ्यास गंभीर चेतावणी देतो की जर कृत्रिम बुद्धिमत्ता, मानवांप्रमाणेच, खराब आणि गोंधळात टाकणाऱ्या सामग्रीवर देखील प्रभाव टाकू शकते, तर हे भविष्यासाठी धोकादायक लक्षण आहे. इंटरनेटवरील बनावट आणि सनसनाटी माहितीच्या दैनंदिन प्रवाहात, एआयला “शुद्ध आणि दर्जेदार डेटा” प्रदान करणे आता कठीण परंतु आवश्यक आव्हान बनले आहे. संशोधकांचे म्हणणे आहे की आता कंपन्यांना त्यांच्या एआय डेटा संकलन प्रक्रियेवर पुनर्विचार करावा लागेल. इंटरनेट स्क्रॅपिंगमधून फक्त डेटा गोळा करणे पुरेसे नाही. यासाठी, गुणवत्ता नियंत्रण प्रणाली, डेटा फिल्टरिंग आणि प्रमाणीकरण यंत्रणा आवश्यक आहे जेणेकरून AI दीर्घकाळात “संचयी हानी” टाळेल.