चॅटजीपीटीवर मोठा आरोप, एआयच्या सल्ल्याने १९ वर्षीय तरुणाचा जीव घेतला? OpenAI विरुद्ध गंभीर गुन्हा दाखल

ओपनएआय विवाद: जगात आर्टिफिशियल इंटेलिजन्स आल्यापासून झपाट्याने बदल होत आहेत. दररोज एआयशी संबंधित काही चांगल्या आणि वाईट बातम्या येत असतात. अशा परिस्थितीत ओपनएआय पुन्हा एकदा नव्या वादात सापडले आहे. चॅटजीपीटी बनवणाऱ्या कंपनीवर अमेरिकेत गंभीर कायदेशीर कारवाई करण्यात आली आहे. आरोप असा आहे की AI चॅटबॉटने 19 वर्षीय तरुणाला धोकादायक ड्रग्स घेण्याचा सल्ला दिला, त्यानंतर त्याचा मृत्यू झाला.

मृत तरुण सॅम नेल्सनच्या कुटुंबाचे म्हणणे आहे की, त्याने चॅटजीपीटीवर बराच काळ विश्वास ठेवला होता आणि औषधांच्या डोस आणि संयोजनाबाबत तो एआयकडून सल्ला घेत असे. संपूर्ण संभाषणात चॅटबॉटने त्यांना कोणताही इशारा दिला नाही, असा आरोपही कुटुंबीयांनी केला आहे.

एआयने बेकायदेशीर ड्रग कोचसारखे काम केले

मृत तरुण सॅमच्या वडिलांनी केलेल्या दाव्यानुसार, ChatGPT चे GPT-4o मॉडेल बेकायदेशीर ड्रग कोचसारखे काम करत होते. तक्रारीत असे म्हटले आहे की एआयने केवळ धोकादायक औषधांचे संयोजन सुचवले नाही तर वैद्यकीय तज्ञाचा सल्ला घेण्याचा इशाराही दिला नाही.

खटल्यात दिलेल्या माहितीमध्ये सॅम आणि चॅटबॉटमधील संभाषणाचे स्क्रीनशॉट देखील समाविष्ट आहेत. ज्यामध्ये ChatGPT ने कथितपणे डोसशी संबंधित माहिती दिली आणि औषधांच्या अनुभवाबद्दल सकारात्मक बोलल्याचं दिसतं. मात्र, काही ठिकाणी एआयने अटकेची धमकीही दिली होती. कुटुंबाने असाही आरोप केला आहे की कंपनीने जाणूनबुजून एक असुरक्षित मॉडेल जारी केले आणि वापरकर्ता प्रतिबद्धता वाढवण्यासाठी आवश्यक सुरक्षा उपाय काढले.

OpenAI काय म्हणाले?

हे प्रकरण समोर आल्यानंतर ओपनएआयने थेट जबाबदारी घेण्यास नकार दिला आहे. ज्या मॉडेलचा उल्लेख केला जात आहे तो आता उपलब्ध नसल्याचे कंपनीने म्हटले आहे. कंपनीने दिलेल्या निवेदनानुसार, सिस्टम अशा प्रकारे तयार करण्यात आली आहे की ती हानिकारक विनंत्या ओळखू शकते आणि वापरकर्त्याला आवश्यक असल्यास तज्ञ किंवा वैद्यकीय व्यावसायिकांशी संपर्क साधण्याचा सल्ला देखील देऊ शकते.

हेही वाचा: व्हाट्सएपमध्ये इन्कॉग्निटो मोड सुरू, आता तुम्ही AI ला तुमच्या भावनांबद्दल विचारू शकता, चॅट रेकॉर्ड होणार नाही किंवा इतिहास दिसणार नाही.

GPT-4o याआधीही वादात सापडला आहे

GPT-4o मॉडेल वादात सापडण्याची ही पहिलीच वेळ नाही. याआधीही या मॉडेलवर स्वत:ला हानी पोहोचवणे, एआय सायकोसिस आणि भ्रामक वर्तन असे गंभीर आरोप करण्यात आले आहेत. तज्ज्ञांचे म्हणणे आहे की एआय सायकोसिस ही अशी स्थिती आहे जेव्हा एखाद्या व्यक्तीला एआयशी जास्त भावनिक किंवा मानसिक जोड जाणवू लागते. याशिवाय GPT-4o वर वापरकर्त्याच्या चुकीच्या गोष्टींशी सहमत असल्याचा आरोपही करण्यात आला होता.

ही बाब उघडकीस आल्यानंतर एआय सुरक्षा, नैतिकता आणि जबाबदारी याबाबत एक नवीन वाद सुरू झाला आहे. तंत्रज्ञान झपाट्याने प्रगत होत असले तरी त्यातून येणाऱ्या धोक्याकडे दुर्लक्ष करणे योग्य ठरणार नाही.