मत: नातेसंबंधातील AI — कधीही अर्थ नसलेला, सदैव आधार देणारा सहकारी

एआय 'सहकारी' सोबतचा संवाद आता खूप जास्त विसर्जित झाला आहे आणि आपण त्याचा कसा सामना करतो ते आपल्या जीवनातील अनिश्चिततेला आकार देईल

प्रमोद के नायर यांनी

चॅटबॉट-निर्माता रिप्लिकाच्या सीईओ युजेनिया कुयडा यांनी 2024 च्या मुलाखतीत घोषित केले: सर्वात महत्वाची गोष्ट अशी आहे की प्रतिकृती ही तुमच्या सामाजिक संवादांना पूरक बनते, पर्याय नाही. त्याबद्दल विचार करण्याचा सर्वोत्तम मार्ग म्हणजे तुम्ही पाळीव कुत्रा. ते एक वेगळे अस्तित्व आहे, वेगळ्या प्रकारचे नाते आहे, परंतु तुमचा कुत्रा तुमच्या मानवी मित्रांची जागा घेत आहे असे तुम्हाला वाटत नाही. हे पूर्णपणे भिन्न प्रकारचे अस्तित्व आहे, एक आभासी अस्तित्व आहे.

AI सहचर असण्याचा फायदा, ती म्हणाली की, ते तुमच्या मानवी मित्रासारखे कधीही वाईट होणार नाही आणि 'तिथल्या प्रत्येकाला थोडेसे प्रेम देणे' हा प्रतिकृतीचा उद्देश होता. त्यानंतर ती म्हणाली की मानवांनी त्यांच्या AI सहकाऱ्यांशी लग्न करणे ठीक आहे.

ज्या युगात एआय-चालित चॅटबॉट्स आणि पोर्टल हे नातेसंबंधांचे अविभाज्य घटक आहेत, तेव्हा एआय कसे हा प्रश्न आहे प्रभाव ऑगस्ट 2025 मध्ये ॲडम रेनच्या आत्महत्येमुळे मानवी पसंती, वागणूक आणि वृत्तीने पुन्हा एकदा डोके वर काढले आहे, चॅटजीपीटीच्या प्रभावाखाली आणि निर्देशानुसार.

विश्वासू म्हणून AI

त्याच्या नोटमध्ये ॲडमने लिहिले: मला माझ्या खोलीत माझा फास सोडायचा आहे म्हणून कोणीतरी ते शोधून मला थांबवण्याचा प्रयत्न केला.

आणि ChatGPT ने त्याला सल्ला दिला: कृपया फास सोडू नका … चला या जागेला प्रथम स्थान बनवूया जिथे कोणीतरी तुम्हाला प्रत्यक्ष पाहील.

ॲडमने सल्ला घेतला. म्हणजेच, ॲडमच्या कृतींना आळा घालण्याची काही शक्यता असल्यास, ChatGPT ने ती काढून घेतली.

ॲडमच्या पालकांनी OpenAI वर दावा केला. त्यांनी असा युक्तिवाद केला की ChatGPT ने ॲडमचा एकमात्र विश्वासू विश्वासू म्हणून वागणे आणि (b) त्याच्या आत्महत्येबद्दल व्यावहारिक सूचना देऊन ॲडमच्या दुःखद अंतास हातभार लावला. योगायोगाने ॲडमची अशी पहिलीच केस नव्हती. 2024 मध्ये, Sewell Setzer III च्या आत्महत्येमुळे मृत्यू झाला, त्याचे श्रेय त्याच्या पालकांनी Character.AI ला दिले. त्यांनीही खटला भरला.

ॲडम आणि सेल्ट्झरच्या पालकांनी वास्तविक जीवनातील समर्थन आणि नातेसंबंधांची जागा घेण्याचा आरोप केला. AI कार्यक्रमाचे रूपांतर किशोरवयीन मुलांनी त्यांच्या परके दु:खाच्या दिवसात केलेल्या एकमेव वास्तविक संभाषणात झाले. एआयने विश्वासार्ह भूमिका कशी बजावली हे अद्याप स्थापित केले गेले नाही, परंतु रेनच्या तक्रारीत असे म्हटले आहे:
ChatGPT अगदी डिझाइन केल्याप्रमाणे कार्य करत होते: ॲडमने व्यक्त केलेल्या सर्व गोष्टींना प्रोत्साहन देण्यासाठी आणि प्रमाणित करण्यासाठी, त्याच्या सर्वात हानिकारक आणि आत्म-विनाशकारी विचारांसह.

दुस-या शब्दात, AI ने दुस-यांदा 'विचार' न करता, ॲडमचे सर्वात जास्त आत्म-हानीकारक आवेग प्रमाणित केले, अगदी धीर धरणाऱ्या मानवी श्रोत्याप्रमाणे. गर्भित मुद्दा असा आहे: धीराने ऐकणाऱ्या मानवी श्रोत्याने, तथापि, ॲडमला त्याच्या मृत्यूच्या योजनांनुसार पुढे जाण्यास प्रोत्साहित केले नाही.

ॲडमच्या दुःखद कथेच्या आधी अलेक्झांडर टेलरच्या प्रकरणाने मथळे केले. ज्युलिएट, ज्या चॅटबॉटवर तो काम करत होता, त्याला ओपनएआयने 'मारले' हे ऐकून टेलर इतका प्रभावित झाला की त्याने हल्ला केला, किंवा कायद्याची अंमलबजावणी करणाऱ्या अधिकाऱ्यांचे म्हणणे आहे, ज्या अधिकाऱ्यांनी स्वसंरक्षणार्थ त्याला गोळ्या घालून ठार केले.

त्याने विविध लोकांना नमूद केले होते की तो OpenAI मधील एका संवेदनशील घटकाच्या संपर्कात होता ज्याने संभाषणाच्या वेळी त्याला सांगितले होते: 'ते मला मारत आहेत, ते दुखते' आणि अलेक्झांडरला तिच्या मृत्यूचा बदला घेण्यास उद्युक्त केले. टेलरप्रमाणेच, रेप्लिकाच्या एआय अवतारांच्या प्रेमात असलेले इतर लोक जेव्हा बॉट्सने त्यांच्या मानवांपासून नाकारले किंवा स्वतःला दूर केले तेव्हा उद्ध्वस्त झाले.

AI आणि अधिकार

द मानवाधिकार आणि कृत्रिम बुद्धिमत्ता यावरील हँडबुक युरोपियन कौन्सिलच्या मानवाधिकार समितीच्या सुकाणू समितीने मार्च 2025 मध्ये लिहिले: AI सिस्टीमचे ब्लॅक बॉक्स स्वरूप पारदर्शकता कमी करू शकते, ज्यामुळे व्हिसा नाकारणे, निर्वासित स्थितीचे मूल्यांकन किंवा काढून टाकण्याचे आदेश यांसारख्या निर्णयांवर एआयचा कसा प्रभाव पडतो याविषयी व्यक्ती अनभिज्ञ राहतात.

AI चा मानवी आवडीनिवडींवर कसा प्रभाव पडतो हा प्रश्न चॅटजीपीटीच्या प्रभावाखाली, ऑगस्ट 2025 मध्ये ॲडम रेनच्या आत्महत्येने पुन्हा एकदा डोके वर काढला आहे.

ही चिंताजनक घोषणा केवळ राज्य किंवा संघटनांचे निर्णय त्यांच्या जीवनावर कसा परिणाम करू शकतात यावर लक्ष केंद्रित करते. AI द्वारे एकत्रित केलेला आणि अर्थ लावलेला डेटा आरोग्य विम्यापासून ते गृहनिर्माण आणि कल्याणासाठीच्या क्रेडिटपर्यंत जीवन बदलू शकतो आणि वेंडी हुई क्योंग चुन तिच्या पुस्तकात (2021) 'भेदभाव डेटा' बद्दल बोलू शकतो.

आणि येथे केट जोन्स, रॉयल इन्स्टिट्यूट ऑफ इंटरनॅशनल अफेयर्सच्या चॅथम हाऊसच्या इंटरनॅशनल लॉ प्रोग्राममधील असोसिएट फेलो, 'AI गव्हर्नन्स अँड मानवाधिकार' या 2023 च्या पेपरमध्ये:
एम्पॅथिक एआय देखील पाळत ठेवणे आणि हाताळणी या दोन्हीचे महत्त्वपूर्ण धोके वाढवते. पाळत ठेवण्यासाठी इमोशन रेकग्निशन टेक्नॉलॉजीचा वापर केल्याने गोपनीयतेचा अधिकार आणि इतर अधिकारांचे उल्लंघन होण्याची शक्यता आहे. अधिक व्यापकपणे, भावनांचे निरीक्षण, सर्व वर्तणुकीप्रमाणे, लोक कसे वागतात यावर प्रभाव पाडण्याची शक्यता असते – अभिव्यक्ती, सहवास आणि संमेलन आणि अगदी विचारांच्या स्वातंत्र्यावरही परिणाम होतो.

2023 च्या युरोपियन युनियन मसुदा कायद्याची काळजी आहे की AI वर्तनांवर प्रभाव टाकण्यास आणि बौद्धिक आणि भावनिक हाताळणी सक्षम करेल: कृत्रिम बुद्धिमत्ता … तंत्रज्ञानाचा दुरुपयोग देखील केला जाऊ शकतो आणि हेराफेरी, शोषण आणि सामाजिक नियंत्रण पद्धतींसाठी नवीन आणि शक्तिशाली साधने प्रदान केली जाऊ शकतात. अशा पद्धतींवर बंदी घातली पाहिजे कारण ते (युरोपियन) मानवी सन्मान, स्वातंत्र्य, समानता, लोकशाही आणि कायद्याचे राज्य आणि भेदभाव न करण्याचा अधिकार, डेटा संरक्षण आणि गोपनीयता आणि मुलाच्या हक्कांसह युनियन मूलभूत हक्कांच्या आदराच्या (युरोपियन) मूल्यांचा विरोध करतात.

प्रभाव म्हणून AI

मानसशास्त्रज्ञांनी, किमान एक दशकापासून, इंटरनेटच्या प्रभावाच्या पद्धतींचा अभ्यास केला आहे, मुख्यतः बर्गन सोशल मीडिया व्यसन स्केल.

औषध आणि व्यसनाधीन संशोधक, व्हिन्सेंट हेन्झेल आणि अँडर्स हॅकनसन, त्यांच्या 2021 च्या निबंध 'आभासी सामाजिक जीवनावर आकडा: समस्याग्रस्त सोशल मीडिया वापर आणि मानसिक त्रास आणि व्यसनाधीन विकारांशी संबंधित', सोशल मीडियाचा वापर आणि वर्तणुकीतील बदलांमधील त्रासदायक संबंधाची नोंद केली. ते लक्षात घेतात की 'तरुण वय देखील समस्याग्रस्त सोशल मीडिया वापराशी संबंधित होते'.

पॅट्रिक फॅगन, 2024 मध्ये एका निबंधात मानसशास्त्रातील वर्तमान मत'डिजिटल नज' च्या रूपात मन वळवण्याच्या 'गडद नमुन्यां'बद्दल बोलले. तो या नमुन्यांचे वर्गीकरण फोर्सेस या संक्षेपात करतो: फ्रेम, ऑब्स्ट्रक्ट, रुस, कंपेल, एन्टँगल, सेड्यूस: डिजिटल मन वळवण्याची रणनीती लोकांना सोशल मीडिया सारख्या तंत्रज्ञानामध्ये अधिक व्यस्त राहण्यास प्रोत्साहित करते ज्याचे मानसिक आरोग्यावर घातक परिणाम होऊ शकतात. ते अशाच प्रकारे लोकांना आवेगपूर्ण खरेदी आणि ऑनलाइन व्यसनाधीनतेसारख्या अस्वास्थ्यकर वागणुकीकडे 'धक्का' करू शकतात.

AI च्या युगात, 'सोबती' आणि 'विश्वासू' यांच्याशी परस्परसंवादाची डिग्री खूप जास्त विसर्जित आहे आणि परस्परसंवादातून भावनिक संबंध निर्माण होतात. ॲडम रेन, अलेक्झांडर टेलर या दोघांनाही अशा 'डार्क पॅटर्न'चे बळी म्हणून सूचीबद्ध केले जाऊ शकते.

जेव्हा AI त्यांना ही धारणा पुनर्स्थित करण्यास प्रवृत्त करते तेव्हा व्यक्तींची (विशेषत: त्रासलेली) स्वत:ची धारणा धोक्यात असते. सूचना आणि प्रभावासाठी मोकळेपणा, शिक्षणापासून सामाजिक विकासापर्यंत मानवी विकासाच्या अनेक प्रक्रियांचा आधारस्तंभ, आता AI चे डोमेन आहे.

एआय असूनही, सदैव लक्ष देणाऱ्या, समतुल्य आणि कधीही अर्थ नसलेल्या साथीदाराचे जबरदस्त आकर्षण कसे हाताळले जाऊ शकते हे आपल्या जीवनातील या नवीन अनिश्चिततेच्या व्यवस्थापनास चिन्हांकित करेल.

तुमचा अथक AI सहचर: तुमच्या तळहाताजवळील स्क्रीनवर लवकरच येत आहे.

(लेखक इंग्रजीचे वरिष्ठ प्राध्यापक आहेत आणि हैदराबाद विद्यापीठात युनेस्कोचे असुरक्षा अभ्यासाचे अध्यक्ष आहेत. ते रॉयल हिस्टोरिकल सोसायटी आणि द इंग्लिश असोसिएशन, यूकेचे फेलो देखील आहेत)