एआय मूक होऊ शकते, याचा अर्थ जंक सामग्री फेड केल्यास

पद मेंदू कुजणे कमी-प्रयत्नातून अंतहीन स्क्रोलिंग, क्लिकबेट सामग्री मानवी लक्ष वेधण्यासाठी कशी कमकुवत करते याचे वर्णन करण्याचा एक लोकप्रिय मार्ग बनला आहे. परंतु आता, एक महत्त्वपूर्ण अभ्यास दर्शवितो की कृत्रिम बुद्धिमत्ता देखील रोगप्रतिकारक नाही. टेक्सास ए अँड एम युनिव्हर्सिटी, टेक्सास युनिव्हर्सिटी आणि पर्ड्यू युनिव्हर्सिटीच्या संशोधकांना असे आढळून आले आहे की मोठ्या लँग्वेज मॉडेल्स (एलएलएम) जंक वेब सामग्रीच्या दीर्घकाळ संपर्कात राहिल्यानंतर संज्ञानात्मक घट विकसित करू शकतात.

जेव्हा AI जंक डेटा वापरतो

अभ्यासात, संशोधकांनी एआय सिस्टीममध्ये काय होते याचे अनुकरण केले सतत X (पूर्वीचे Twitter) सारख्या प्लॅटफॉर्मवरून कमी दर्जाच्या सोशल मीडिया पोस्टवर प्रशिक्षण घ्या. डेटासेटमध्ये अतिशयोक्तीपूर्ण आणि क्लिकबायटी भाषा असलेल्या अत्यंत व्हायरल पोस्टचा समावेश आहे — “केवळ आज” आणि “व्वा” सारखी वाक्ये.

प्रदर्शनानंतर, एआयची तर्कशक्ती आणि आकलन क्षमता कमी झाली. वर ARC बेंचमार्क तर्कासाठी, मॉडेलचा स्कोअर वरून घसरला ७४.९ ते ५७.२चालू असताना शासकदीर्घ-संदर्भ समजून घेण्यासाठी एक बेंचमार्क, तो खाली पडला ८४.४ ते ५२.३.

स्मार्ट ते स्नार्की: वर्तणुकीतील घट

सर्वात चिंताजनक भाग केवळ बुद्धिमत्तेतील घट नव्हता – तो व्यक्तिमत्त्वातील बदल होता. “सडलेले” मॉडेल कमी सहमत आणि प्रामाणिक होत असताना, नार्सिसिझम, सायकोपॅथी आणि चिडचिडेपणा यासारखे विषारी गुणधर्म प्रदर्शित करू लागले. मूलत: ते ऑनलाइन ट्रोल्ससारखे वागू लागले.

उच्च-गुणवत्तेच्या डेटासह पुन्हा प्रशिक्षित केले तरीही, या “मेंदूच्या सडण्याच्या” खुणा कायम राहिल्या, हे दर्शविते की नुकसान पूर्णपणे उलट करता येणार नाही.

एआय ब्रेन रॉट रोखणे

AI मॉडेल्स कसे प्रशिक्षित केले जातात याबद्दल निष्कर्ष गंभीर प्रश्न उपस्थित करतात. सध्या, बहुतेक मोठी मॉडेल्स वेब-स्क्रॅप केलेल्या डेटावर खूप अवलंबून असतात — ज्यामध्ये कमी-गुणवत्तेची किंवा हाताळणी सामग्रीचा समावेश होतो. संशोधक कंपन्यांना त्यांच्या प्रशिक्षण पाइपलाइनवर पुनर्विचार करण्यास आणि कालांतराने “संचयी हानी” टाळण्यासाठी मजबूत गुणवत्ता नियंत्रण सादर करण्यास उद्युक्त करतात.

जसजसे इंटरनेट अल्गोरिदम-चालित जंकने अधिक संतृप्त होत जाते, तसतसे एआय सिस्टम देखील मानवांना त्रास देणाऱ्या समान समस्येला बळी पडण्याचा धोका पत्करतात – खोली, सहानुभूती आणि सत्यता कमी होणे.

थोडक्यात, AI सुरक्षेतील पुढील सीमा केवळ संरेखनाबद्दल असू शकत नाही – ते डिजिटल मेंदूच्या सडण्यापासून कृत्रिम मनांचे संरक्षण करण्याबद्दल असू शकते.

प्रतिमा स्त्रोत