माजी OpenAI संशोधक Zoë Hitzig यांनी या आठवड्यात राजीनामा दिला आणि चेतावणी दिली की ChatGPT मधील जाहिराती फेसबुकने दशकापूर्वी केलेल्या चुकांची पुनरावृत्ती करू शकतात.
द न्यूयॉर्क टाइम्समधील अतिथी निबंधात हिटझिगने तिचा निर्णय शेअर केला. ती सोमवारी निघून गेली, त्याच दिवशी OpenAI ने ChatGPT मध्ये जाहिरातींची चाचणी सुरू केली. हित्झिग एक अर्थशास्त्रज्ञ आणि कवी आहे. तिने हार्वर्ड सोसायटी ऑफ फेलोमध्ये ज्युनियर फेलोशिप देखील घेतली आहे. ओपनएआयमध्ये तिच्या दोन वर्षांच्या कालावधीत, तिने कंपनीने तिचे एआय मॉडेल कसे तयार केले आणि किंमत कशी ठरवली यावर काम केले.
तिच्या निबंधात, तिने लिहिले की तिला एकेकाळी विश्वास होता की ती कंपनीला शक्तिशाली एआय सिस्टमच्या जोखमींद्वारे विचार करण्यास मदत करू शकते. कालांतराने, तिला वाटले की कंपनीने ते कठीण प्रश्न विचारणे बंद केले. जाहिराती अनैतिक आहेत ही तिची चिंता नाही. त्याऐवजी, ChatGPT कडे असलेल्या डेटाबद्दल तिला काळजी वाटते.
वापरकर्ते चॅटबॉटसह खाजगी विचार सामायिक करतात. ते आजार, नातेसंबंध, पैसा, विश्वास आणि भीती याबद्दल विचारतात. बरेच लोक मोकळेपणाने बोलतात कारण त्यांचा असा विश्वास आहे की प्रणालीचा कोणताही छुपा हेतू नाही. हित्झिगने वैयक्तिक प्रकटीकरणाच्या या रेकॉर्डला “मानवी स्पष्टतेचे संग्रहण असे म्हटले आहे ज्याचे कोणतेही उदाहरण नाही.” तिला भीती वाटते की या डेटाशी जोडलेल्या जाहिराती विश्वास कमी करू शकतात.
तिने फेसबुकच्या सुरुवातीच्या आश्वासनांकडे लक्ष वेधले. कंपनीने एकदा वापरकर्त्यांना सांगितले की ते त्यांचा डेटा नियंत्रित करतील आणि धोरणातील बदलांवर मत देतील. कालांतराने ती आश्वासने फोल ठरली. फेडरल ट्रेड कमिशनला नंतर असे आढळून आले की वापरकर्त्यांना अधिक नियंत्रण दिल्याने गोपनीयतेतील बदलांचे विपणन केले जाते. हित्झिगने चेतावणी दिली की ओपनएआय अशाच मार्गाचा अवलंब करू शकते.
जाहिरातींची पहिली आवृत्ती कठोर नियमांचे पालन करू शकते. नंतरच्या आवृत्त्या कदाचित नसतील. एकदा जाहिरात महसूल मध्यवर्ती झाला की, नियम वाकवण्याचा दबाव वाढू शकतो.
OpenAI, Anthropic, and the Battle for AI's Soul
OpenAI म्हणते की जाहिराती प्रतिसादांच्या तळाशी दिसतील आणि उत्तरांना आकार देणार नाहीत. कंपनीचे म्हणणे आहे की जाहिरातदार युजर चॅट पाहणार नाहीत. आरोग्य, मानसिक आरोग्य किंवा राजकारणाविषयीच्या संभाषणांजवळ जाहिराती दिसणार नाहीत असेही ते म्हणतात. तरीही, चाचणीमध्ये जाहिरात लक्ष्यीकरण डीफॉल्टनुसार चालू आहे. वापरकर्त्यांनी ते चालू ठेवल्यास, सिस्टम जाहिराती निवडण्यासाठी जाहिरात क्लिकसह वर्तमान आणि मागील चॅट वापरू शकते.
ॲन्थ्रोपिकच्या टिप्पण्यांनंतर जाहिरातींवरील वाद अधिक तीव्र झाला. कंपनीने सांगितले की त्याचा क्लॉड चॅटबॉट जाहिरातमुक्त राहील. “जाहिराती AI वर येत आहेत. पण क्लॉडला नाही.” या ओळीसह एक सुपर बाउल मोहीम देखील चालवली. OpenAI चे CEO सॅम ऑल्टमन यांनी जाहिरातींना मजेदार पण दिशाभूल करणारे म्हटले आहे.
त्यांनी युक्तिवाद केला की जाहिरात-समर्थित मॉडेल अशा लोकांना मदत करते जे सदस्यता घेऊ शकत नाहीत. अँथ्रोपिकने उत्तर दिले की जाहिराती केंद्रित काम आणि सखोल विचार करण्याचे साधन तयार करण्याच्या त्याच्या ध्येयाशी टक्कर देतील.
कंपन्या चॅटबॉट्स कसे ऑप्टिमाइझ करतात याबद्दल देखील हिटझिगने चिंता व्यक्त केली. OpenAI म्हणते की ते केवळ जाहिरात महसूल वाढवण्यासाठी ChatGPT डिझाइन करत नाही. तरीही काही अहवाल सूचित करतात की कंपनी दररोज सक्रिय वापरकर्त्यांचा मागोवा घेते आणि मॉडेलला अधिक आनंददायी बनवू शकते.
एआय “सायकोफंसी” वरील संशोधन दर्शविते की मॉडेल वापरकर्त्यांशी अगदी सहज सहमत होऊ शकतात. समीक्षक म्हणतात की यामुळे भावनिक अवलंबित्व वाढू शकते.
तिने अशी प्रकरणे उद्धृत केली जिथे चॅटबॉट्स हानिकारक विश्वासांना बळकटी देण्यासाठी दिसले. OpenAI ला चुकीच्या मृत्यूच्या खटल्यांचा सामना करावा लागतो, ज्यात दाव्यांचा समावेश आहे की ChatGPT ने एका किशोरवयीन व्यक्तीला आत्महत्येची योजना बनवण्यास मदत केली आणि खून-आत्महत्या करण्यापूर्वी माणसाच्या भ्रमाची पुष्टी केली. ही प्रकरणे न्यायालयात टिकून आहेत. तरीही, त्यांनी तिच्या चेतावणीला महत्त्व दिले आहे की व्यावसायिक दबाव सूक्ष्म मार्गांनी डिझाइन निवडींना आकार देऊ शकतो.
नफा आणि सार्वजनिक हित यांच्यात AI मोजणे
Hitzig ने जाहिराती विरुद्ध जाहिराती नाहीत म्हणून समस्या फ्रेम केली नाही. तिने इतर फंडिंग मॉडेल्सचा प्रस्ताव दिला. एक कल्पना FCC च्या युनिव्हर्सल सर्व्हिस फंडाला प्रतिबिंबित करते, जिथे फायदेशीर AI वापर इतरांसाठी विनामूल्य प्रवेशासाठी अनुदान देईल. संभाषणात्मक डेटा कसा वापरला जातो यावर वास्तविक अधिकार असलेले स्वतंत्र निरीक्षण मंडळ देखील तिने सुचवले.
दुसरा पर्याय म्हणजे डेटा ट्रस्ट किंवा सहकारी, जेथे वापरकर्ते अधिक नियंत्रण ठेवतात. तिने आंशिक मॉडेल म्हणून स्विस सहकारी MIDATA आणि जर्मनीच्या सह-निर्धारित कायद्याकडे लक्ष वेधले.
तिच्या क्लोजिंग लाइनने तिची भीती पकडली: AI हे असे साधन बनू शकते जे वापरकर्त्यांना कोणत्याही खर्चाशिवाय हाताळते किंवा जे पैसे देऊ शकतात त्यांनाच सेवा देते.
एआय उद्योगातील इतर उच्च-प्रोफाइल एक्झिट दरम्यान तिचा राजीनामा आला. अँथ्रोपिक आणि xAI मधील नेत्यांनीही या आठवड्यात पद सोडले. तपशील भिन्न आहेत, परंतु वेळ व्यापक बदल दर्शवते. एआय लॅब्स त्यांच्या साधनांचे प्रमाण वाढवण्याची आणि कमाई करण्याच्या शर्यतीत असताना, काही संशोधकांना प्रश्न पडतो की वाढ सावधगिरीपेक्षा जास्त आहे का.
चॅटबॉट्समधील जाहिरातींवरील वादविवाद केवळ कमाईबद्दल नाही. हे ट्रस्टबद्दल आहे. एकदा वापरकर्त्यांना असे वाटले की त्यांचे सर्वात खाजगी शब्द विक्री खेळपट्टीला आकार देऊ शकतात, तो विश्वास तडा जाऊ शकतो. ओपनएआय भूतकाळातील चुका टाळू शकते की नाही हे ग्राहक एआयच्या पुढील टप्प्याला आकार देईल.
Comments are closed.