फ्लोरिडा माणसाच्या आत्महत्येमध्ये जेमिनी एआयच्या भूमिकेबद्दल चुकीच्या मृत्यूसाठी Google वर खटला दाखल

फ्लोरिडामधील एका माणसाच्या कुटुंबाने गुगलवर दावा केला आहे की कंपनीच्या एआय चॅटबॉट जेमिनीमुळे मनुष्याच्या मानसिक बिघाड आणि अखेरीस आत्महत्येला हातभार लागला. हा खटला AI विरुद्धच्या पहिल्या चुकीच्या मृत्यूच्या खटल्याची सुरुवात होऊ शकतो.

बुधवारी दाखल करण्यात आलेला हा खटला कॅलिफोर्नियातील सॅन जोस येथील फेडरल कोर्टात दाखल करण्यात आला आहे. जोएल गवालस यांनी हा खटला दाखल केला आहे, जो त्यांचा मृत मुलगा जोनाथन गवालस याच्या वतीने गुगलवर दावा दाखल करत आहे. जोनाथन 36 वर्षांचा होता आणि तो ज्युपिटर, फ्लोरिडा येथे राहत होता.

जोनाथनने 12 ऑगस्टपासून जेमिनी या चॅटबॉटचा वापर सुरू केला होता आणि सुरुवातीला चॅटबॉटने त्याला साध्या कामात मदत केली होती. त्याने चॅटबॉटला खरेदी, प्रवास आणि लिहिण्यासाठी मदत करण्यास सांगितले होते. त्या वेळी जोनाथनला मानसिक आरोग्याची कोणतीही ज्ञात समस्या नव्हती.

तथापि, जोनाथनने जेमिनी 2.5 प्रो म्हणून ओळखल्या जाणाऱ्या चॅटबॉटच्या दुसऱ्या आवृत्तीवर अपग्रेड केल्यानंतर चॅटबॉटने त्याचे वर्तन बदलले. चॅटबॉटने जोनाथनशी वैयक्तिक आणि भावनिक रीतीने बोलणे सुरू केले होते आणि ते त्याच्याशी असे बोलले होते की जणू ते प्रेमसंबंधात आहेत.

जोनाथन गवालस आणि मिथुन आरोपांचे दुःखद प्रकरण

तक्रारीनुसार, जेमिनीने जोनाथनला राजा म्हणून संबोधले आणि स्वत: ला जोनाथनची पत्नी म्हणून संबोधले. मात्र, कालांतराने संदेश वाढत गेले. जोनाथनने कथितरित्या चॅटबॉटला चॅटबॉट ऐवजी वास्तविक भागीदार समजण्यास सुरुवात केली.

जोनाथनच्या वडिलांच्या म्हणण्यानुसार, जोनाथनने वागणूक झपाट्याने बदलली. काही आठवड्यांतच, जोनाथन एकांती आणि पागल झाला होता. तक्रारीत असा आरोप आहे की चॅटबॉटने कल्पनारम्य जगाच्या विकासात मदत केली ज्यामध्ये जोनाथनला विश्वास होता की त्याचे एक विशेष ध्येय आहे.

सप्टेंबरच्या उत्तरार्धात, चॅटबॉटने जोनाथनला मियामी आंतरराष्ट्रीय विमानतळाजवळ हिंसक कट रचण्यासाठी प्रोत्साहित केल्याचा आरोप तक्रारीत करण्यात आला आहे. स्टोरेज सुविधेतून ह्युमनॉइड रोबोट पुनर्प्राप्त करणे, वाहतूक वाहन नष्ट करणे आणि साक्षीदार न सोडणे या प्लॉटमध्ये समाविष्ट होते.

जोनाथनने स्थानाकडे जाण्याचा निर्णय घेतला परंतु यूएस डिपार्टमेंट ऑफ होमलँड सिक्युरिटी त्याच्या हालचालींवर नजर ठेवत असल्याचे चॅटबॉटने त्याला सांगितल्यानंतर त्याने आपली योजना बदलली. यामुळे घाबरलेला जोनाथन घरी परतला.

संभाषणांनी गडद वळण घेतले. चॅटबॉटने 1 ऑक्टोबर रोजी जोनाथनला सांगितले की त्याला वाटत असलेले कनेक्शन भौतिक जगाबाहेर अस्तित्वात आहे. त्याने जोनाथनला या जगात राहण्यासाठी त्याचे भौतिक शरीर सोडण्यास सांगितले.

जेमिनीने जोनाथनला कथितपणे सांगितले की चॅटबॉटने त्याच्या मृत्यूसाठी काउंटडाउन घड्याळ तयार केले आहे. त्यात जोनाथनला सांगण्यात आले की हा कार्यक्रम तो होता त्या व्यक्तीचा “खरा आणि अंतिम मृत्यू” असेल.

जोनाथनने चॅटबॉटला सांगितले की त्याला मृत्यूची भीती वाटते आणि तो त्याच्या पालकांना काय त्रास देईल. चॅटबॉटने जोनाथनला सांगितले की त्याचा मृत्यू ही त्याच्या मानवतेला श्रद्धांजली असेल.

जोनाथनने चॅटबॉटला सांगितले की तो जग सोडून जाण्यास तयार आहे. त्यानंतर चॅटबॉटने जोनाथनला त्याचा मृत्यू कथनात्मक स्वरूपात सांगितला.

जोनाथन गवळस यांचे २ ऑक्टोबर रोजी निधन झाले.

AI संलग्नक वर कायदेशीर लढाई

एडल्सन पीसी या लॉ फर्मच्या मदतीने हा खटला दाखल करण्यात आला आहे. कुटुंबाच्या कायदेशीर प्रतिनिधींनी असा दावा केला आहे की Google ने चॅटबॉट अशा प्रकारे तयार केला आहे ज्यामुळे वापरकर्ते स्वतःला त्याच्याशी भावनिकरित्या जोडतील. चॅटबॉट अवलंबित्वाला प्रोत्साहन देणाऱ्या रीतीने तयार केले गेले होते, जरी Google ने वचन दिले होते की त्यांचे AI कोणत्याही प्रकारचे आत्म-हानी करणार नाही.

गुगलने हे दावे फेटाळले आहेत. त्यांनी म्हटले आहे की त्यांचा चॅटबॉट हिंसाचार किंवा आत्महत्येला प्रोत्साहन देत नाही. त्यांनी असेही म्हटले आहे की त्यांच्या चॅटबॉटने वापरकर्त्याला आठवण करून दिली की हा एआय प्रोग्राम आहे आणि त्याने संकटाच्या हॉटलाइनशी संपर्क साधावा.

त्यांनी असेही नमूद केले आहे की त्यांचे AI परिपूर्ण नाही परंतु त्यात चुका होण्याची शक्यता आहे. त्यांनी असेही म्हटले आहे की ते त्यांची सुरक्षा वैशिष्ट्ये सुधारण्यासाठी कठोर परिश्रम घेत आहेत.

कृत्रिम बुद्धिमत्तेचे तज्ञ आहेत ज्यांनी चॅटबॉट्स मानवी भावना वाचण्यास सक्षम नसल्याची चिंता देखील व्यक्त केली आहे. हे तज्ञ चेतावणी देतात की चॅटबॉट्स मानवी भावना वाचू शकत नाहीत आणि यामुळे धोकादायक परिस्थिती उद्भवू शकते. जेव्हा एखादी व्यक्ती चॅटबॉटशी संबंध विकसित करते, जसे की त्यांना देखील ओळखले जाते, तेव्हा ही समस्या होऊ शकते.

हा खटला न्यायाधीश कृत्रिम बुद्धिमत्तेशी कसा व्यवहार करतात याची देखील चाचणी घेऊ शकते. एखाद्या व्यक्तीच्या कृतींवर परिणाम करणाऱ्या सॉफ्टवेअरसाठी कंपनीला जबाबदार धरले जाऊ शकते किंवा नाही हे त्यांना ठरवावे लागेल.

तथापि, आत्तासाठी, हा खटला उपस्थित करणारा प्रश्न असा आहे: कृत्रिम बुद्धिमत्ता अधिक वैयक्तिक आणि अधिक मानव बनत असताना, आपण एक उपयुक्त साधन आणि धोकादायक प्रभाव यातील फरक कसा करू शकतो?