AI तुम्हाला काय सांगते हे कोण ठरवते? कॅम्पबेल ब्राउन, एकेकाळी मेटाचे वृत्त प्रमुख होते, त्यांचे विचार आहेत

कॅम्पबेल ब्राउनने तिची कारकीर्द अचूक माहितीचा पाठलाग करण्यात घालवली आहे, प्रथम एक प्रसिद्ध टीव्ही पत्रकार म्हणून, नंतर फेसबुकचे पहिले आणि एकमेव, समर्पित वृत्त प्रमुख म्हणून. आता, लोक माहितीचा वापर कसा करतात हे एआयला पुन्हा आकार देत असताना, तिला इतिहासाची पुनरावृत्ती होण्याची भीती वाटते. यावेळी, ती दुस-याने दुरुस्त करण्याची वाट पाहत नाही.

तिची कंपनी, एआय फोरम — ज्याची तिने अलीकडेच रीडच्या टिम फर्नहोल्झसोबत सॅन फ्रान्सिस्कोमधील एका स्ट्रिक्टलीव्हीसी संध्याकाळमध्ये चर्चा केली — ती ज्याला “हाय-स्टेक विषय” म्हणतात त्यावर फाउंडेशन मॉडेल्स कशी कामगिरी करतात याचे मूल्यांकन करते — भूराजकीय, मानसिक आरोग्य, वित्त, नोकरी — असे विषय जिथे “होय-किंवा-नाही स्पष्ट उत्तरे नाहीत आणि जिथे ते गुंतागुंतीचे आहेत.”

जगातील आघाडीचे तज्ञ शोधणे, त्यांच्याकडे वास्तुविशारद बेंचमार्क असणे, त्यानंतर मॉडेल्सचे मोठ्या प्रमाणावर मूल्यांकन करण्यासाठी AI न्यायाधीशांना प्रशिक्षण देणे ही कल्पना आहे. फोरम AI च्या भू-राजनीती कार्यासाठी, ब्राऊनने नियाल फर्ग्युसन, फरीद झकारिया, माजी परराष्ट्र सचिव टोनी ब्लिंकन, माजी सभागृहाचे अध्यक्ष केविन मॅककार्थी आणि ओबामा प्रशासनात सायबरसुरक्षिततेचे नेतृत्व करणाऱ्या ॲनी न्यूबर्गर यांची नियुक्ती केली आहे. AI न्यायाधीशांना त्या मानवी तज्ञांशी अंदाजे 90% सहमती मिळवून देणे हे उद्दिष्ट आहे, फोरम AI या थ्रेशोल्डपर्यंत पोहोचू शकले आहे.

ब्राउन 17 महिन्यांपूर्वी न्यूयॉर्कमध्ये स्थापन झालेल्या फोरम AI चे मूळ विशिष्ट क्षणापर्यंत शोधून काढतात. “चॅटजीपीटी पहिल्यांदा सार्वजनिकरीत्या रिलीझ झाले तेव्हा मी मेटामध्ये होतो,” ती आठवते, “आणि मला लक्षात आले की हे एक फनेल आहे ज्याद्वारे सर्व माहिती वाहते. आणि ते फार चांगले नाही.” तिच्या स्वत:च्या मुलांवरील परिणामांमुळे तो क्षण जवळजवळ अस्तित्त्वात असल्याचे जाणवले. “हे कसे सोडवायचे हे आम्हाला समजले नाही तर माझी मुले खरोखरच मुकी होतील,” ती विचार करत असल्याचे आठवते.

तिला सर्वात जास्त निराश केले ते म्हणजे अचूकतेला कोणाचेही प्राधान्य वाटत नव्हते. फाउंडेशन मॉडेल कंपन्या, ती म्हणाली, “कोडिंग आणि गणितावर अत्यंत लक्ष केंद्रित केले आहे,” तर बातम्या आणि माहिती अधिक कठीण आहे. पण कठीण, तिने युक्तिवाद केला, याचा अर्थ पर्यायी नाही.

खरंच, जेव्हा फोरम AI ने अग्रगण्य मॉडेल्सचे मूल्यांकन करण्यास सुरुवात केली, तेव्हा निष्कर्ष नक्कीच उत्साहवर्धक नव्हते. तिने चिनी कम्युनिस्ट पक्षाच्या वेबसाइट्सवरून जेमिनी खेचल्याचा उल्लेख केला “ज्या कथांचा चीनशी काहीही संबंध नाही” आणि जवळजवळ सर्व मॉडेल्समध्ये डावीकडे झुकणारा राजकीय पक्षपात नोंदवला. गहाळ संदर्भ, गहाळ दृष्टीकोन, पोचपावती न करता पेंढा-मॅनिंग युक्तिवाद यासह ती म्हणाली, सूक्ष्म अपयश देखील भरपूर आहेत. ती म्हणाली, “आता खूप मोठा पल्ला गाठायचा आहे. “परंतु मला असेही वाटते की काही अतिशय सोपे निराकरणे आहेत ज्यामुळे परिणाम मोठ्या प्रमाणात सुधारतील.”

जेव्हा एखादा प्लॅटफॉर्म चुकीच्या गोष्टीसाठी अनुकूल होतो तेव्हा काय होते हे पाहण्यासाठी ब्राउनने Facebook वर वर्षे घालवली. “आम्ही प्रयत्न केलेल्या बऱ्याच गोष्टींमध्ये आम्ही अयशस्वी झालो,” तिने फर्नहोल्झला सांगितले. तिने तयार केलेला तथ्य-तपासणी कार्यक्रम यापुढे अस्तित्वात नाही. धडा, जरी सोशल मीडियाने त्याकडे डोळेझाक केली असली तरी, प्रतिबद्धता अनुकूल करणे हे समाजासाठी वाईट आहे आणि अनेकांना कमी माहिती दिली आहे.

तिला आशा आहे की AI ते चक्र खंडित करू शकेल. “सध्या ते कोणत्याही मार्गाने जाऊ शकते,” ती म्हणाली; कंपन्या वापरकर्त्यांना त्यांना पाहिजे ते देऊ शकतात किंवा ते “लोकांना काय खरे आहे आणि काय प्रामाणिक आहे आणि काय सत्य आहे ते देऊ शकतात.” तिने त्या आदर्शवादी आवृत्तीची कबुली दिली — AI सत्यासाठी अनुकूल — कदाचित भोळे वाटेल. परंतु तिला वाटते की एंटरप्राइझ येथे संभाव्य सहयोगी असू शकते. क्रेडिट निर्णय, कर्ज देणे, विमा आणि नोकरभरतीसाठी AI वापरणारे व्यवसाय उत्तरदायित्वाची काळजी घेतात आणि “ते योग्य मिळविण्यासाठी तुम्ही ऑप्टिमाइझ करावे अशी त्यांची इच्छा आहे.”

एंटरप्राइझची मागणी ही फोरम AI आपल्या व्यवसायावर सट्टा लावत आहे, जरी अनुपालन व्याज सातत्यपूर्ण कमाईमध्ये बदलणे हे एक आव्हान आहे, विशेषत: सध्याच्या बाजारपेठेतील बरीचशी चेकबॉक्स ऑडिट आणि ब्राउन अपुरी मानणाऱ्या मानकीकृत बेंचमार्कसह समाधानी आहे.

अनुपालन लँडस्केप, ती म्हणाली, “एक विनोद आहे.” जेव्हा न्यू यॉर्क सिटीने एआय ऑडिटची आवश्यकता असलेला पहिला हायरिंग बायस कायदा पास केला, तेव्हा राज्य नियंत्रकाला आढळले की अर्ध्याहून अधिक उल्लंघने आढळून आलेली नाहीत. वास्तविक मूल्यमापन, ती म्हणाली, केवळ ज्ञात परिस्थितींमध्येच नव्हे तर “लोक ज्यांचा विचार करत नाहीत अशा समस्यांमध्ये तुम्हाला अडचणीत आणू शकतात.” आणि त्या कामाला वेळ लागतो. “स्मार्ट जनरलिस्ट ते कापणार नाहीत.”

तपकिरी — ज्याची कंपनी शेवटच्या पतन उठली $3 दशलक्ष Lerer Hippeau च्या नेतृत्वाखाली — AI उद्योगाची स्व-प्रतिमा आणि बहुतेक वापरकर्त्यांसाठी वास्तविकता यांच्यातील डिस्कनेक्टचे वर्णन करण्यासाठी अद्वितीय स्थानावर आहे. “तुम्ही मोठ्या टेक कंपन्यांच्या नेत्यांकडून ऐकता, 'हे तंत्रज्ञान जग बदलणार आहे,' 'हे तुम्हाला कामापासून दूर ठेवणार आहे,' 'कर्करोग बरा करणार आहे,'” ती म्हणाली. “परंतु नंतर मूलभूत प्रश्न विचारण्यासाठी फक्त चॅटबॉट वापरणाऱ्या सामान्य व्यक्तीला, त्यांना अजूनही खूप कमी आणि चुकीची उत्तरे मिळत आहेत.”

AI वर विश्वास कमालीचा खालच्या पातळीवर बसला आहे आणि तिला वाटते की संशयवाद, बर्याच बाबतीत, न्याय्य आहे. “सिलिकॉन व्हॅलीमध्ये एका गोष्टीभोवती संभाषण घडत आहे आणि ग्राहकांमध्ये पूर्णपणे भिन्न संभाषण होत आहे.”