सॅम ऑल्टमॅन म्हणतो चॅटजीपीटी लवकरच प्रौढ वापरकर्त्यांसाठी एरोटिकाला परवानगी देईल

ओपनईचे मुख्य कार्यकारी अधिकारी सॅम ऑल्टमन यांनी ए मध्ये जाहीर केले एक्स वर पोस्ट करा मंगळवारी कंपनी लवकरच चॅटजीपीटीच्या काही सुरक्षा निर्बंधांना आराम देईल, ज्यामुळे वापरकर्त्यांना चॅटबॉटचे प्रतिसाद अधिक मित्र किंवा अधिक “मानवी-सारखे” आणि “सत्यापित प्रौढांना” कामुक संभाषणांमध्ये गुंतविण्याची परवानगी मिळेल.

“आम्ही मानसिक आरोग्याच्या समस्यांविषयी काळजी घेत आहोत हे सुनिश्चित करण्यासाठी आम्ही चॅटजीपीटी खूपच प्रतिबंधित केले. आम्हाला हे समजले की यामुळे मानसिक आरोग्याची समस्या नसलेल्या बर्‍याच वापरकर्त्यांसाठी हे कमी उपयुक्त/आनंददायक बनले आहे, परंतु आम्हाला हा अधिकार मिळवायचा होता या समस्येचे गांभीर्य पाहता,” ऑल्टमॅन म्हणाले. “डिसेंबरमध्ये, आम्ही वयानुसार आणि आमच्या 'प्रौढ वापरकर्त्यांशी संबंधित प्रौढांच्या तत्त्वाचा उपचार केल्याचा एक भाग म्हणून, आम्ही सत्यापित प्रौढांसाठी इरोटिकासारखे आणखी अनुमती देऊ.”

काही मानसिकदृष्ट्या अस्थिर वापरकर्त्यांनी चॅटजीपीटीसह विकसित केलेल्या संबंधांबद्दल ओपनईच्या महिन्याभराच्या प्रयत्नातून ही घोषणा एक उल्लेखनीय मुख्य आहे. ओपनईने चॅटजीपीटीच्या आसपास “गंभीर मानसिक आरोग्याच्या गंभीर समस्यांना कमी करण्यास सक्षम आहे” असा दावा केल्याने ऑल्टमॅन या समस्यांवरील प्रारंभिक विजय घोषित करीत असल्याचे दिसते. तथापि, कंपनीने यासाठी कोणतेही पुरावे दिले नाहीत आणि आता वापरकर्त्यांसह लैंगिक गप्पांमध्ये व्यस्त राहण्यासाठी CHATGPT च्या योजनांसह नांगरणी करीत आहे.

या उन्हाळ्यात कित्येक कथा चॅटजीपीटीच्या आसपास उद्भवल्या, विशेषत: त्याचे जीपीटी -4 ओ मॉडेल, एआय चॅटबॉट असुरक्षित वापरकर्त्यांना भ्रामक ससा छिद्र खाली आणू शकेल असे सूचित करते. एका प्रकरणात, चॅटजीपीटी एका माणसाला पटवून देत असे की तो गणिताची अलौकिक बुद्धिमत्ता आहे ज्याला जगाला वाचवणे आवश्यक आहे. दुसर्‍यामध्ये, किशोरवयीन मुलांच्या पालकांनी ओपनईवर दावा दाखल केला, असा आरोप केला की चॅटजीपीटीने त्यांच्या मृत्यूच्या आठवड्यात त्यांच्या मुलाच्या आत्महत्या करण्याच्या विचारांना प्रोत्साहित केले.

प्रत्युत्तरादाखल, ओपनईने एआय सायकोफॅन्सीला संबोधित करण्यासाठी सुरक्षितता वैशिष्ट्यांची मालिका जाहीर केली: एआय चॅटबॉटची प्रवृत्ती वापरकर्त्यांना जे काही बोलते त्याशी सहमत करून, अगदी नकारात्मक वर्तन देखील मान्य करते.

ओपनईने ऑगस्टमध्ये जीपीटी -5 लाँच केले, हे एक नवीन एआय मॉडेल जे सायकोफॅन्सीचे कमी दर दर्शविते आणि एक राउटर वैशिष्ट्यीकृत आहे जे वापरकर्त्याच्या वर्तनाबद्दल ओळखू शकेल. एका महिन्यानंतर, ओपनईने वयाच्या पूर्वानुमान प्रणाली आणि एक मार्ग यासह अल्पवयीन मुलांसाठी सुरक्षा वैशिष्ट्ये सुरू केली पालक त्यांच्या किशोरवयीन मुलाचे चॅटजीपीटी खाते नियंत्रित करतात. ओपनईने मंगळवारी स्थापना केली एक तज्ञ परिषद मानसिक आरोग्य व्यावसायिकांचे कल्याण आणि एआय वर कंपनीला सल्ला देण्यासाठी.

या गोष्टींबद्दल काही महिन्यांनंतर, ओपनईला असे वाटते की असुरक्षित वापरकर्त्यांविषयी चॅटजीपीटीच्या समस्या नियंत्रणात आहेत. जीपीटी -5 सह वापरकर्ते अद्याप भ्रामक ससा छिद्र खाली पडत आहेत की नाही हे अस्पष्ट आहे. आणि जीपीटी -4 ओ यापुढे CHATGPT मध्ये डीफॉल्ट नसले तरी एआय मॉडेल आजही उपलब्ध आहे आणि हजारो लोक वापरत आहेत.

ओपनईने टिप्पणीसाठी वाचनाच्या विनंतीला प्रतिसाद दिला नाही.

CHATGPT मध्ये इरोटिकाची ओळख ओपनईसाठी अप्रचलित प्रदेश आहे आणि असुरक्षित वापरकर्ते नवीन वैशिष्ट्यांसह कसे संवाद साधतील याबद्दल व्यापक चिंता निर्माण करते. ऑल्टमॅनचा आग्रह आहे की ओपनई “वापर-मॅक्सिंग” नाही किंवा गुंतवणूकीसाठी अनुकूलित करीत नाही, तर चॅटजीपीटी अधिक कामुक बनविणे निश्चितच वापरकर्त्यांना आकर्षित करू शकते.

चॅटबॉट्सला रोमँटिक किंवा कामुक भूमिकेत व्यस्त राहण्याची परवानगी देणे इतर एआय चॅटबॉट प्रदात्यांसाठी, जसे की कॅरेक्टर.एआयसाठी एक प्रभावी प्रतिबद्धता धोरण आहे. कंपनीने लाखो वापरकर्ते मिळवले आहेत, त्यापैकी बरेच जण आपल्या चॅटबॉट्स उच्च दराने वापरतात. कॅरेक्टर.एआय 2023 मध्ये म्हणाले की वापरकर्त्यांनी सरासरी खर्च केली दिवसातून दोन तास त्याच्या चॅटबॉट्सशी बोलत आहे. कंपनीला असुरक्षित वापरकर्त्यांना कसे हाताळते याभोवती खटला देखील सामोरे जात आहे.

ओपनईचा वापरकर्ता बेस वाढविण्याच्या दबावात आहे. CHATGPT आधीपासूनच 800 दशलक्ष साप्ताहिक सक्रिय वापरकर्त्यांद्वारे वापरली जात आहे, तर ओपनएआय Google आणि मेटा विरूद्ध सामूहिक-दडलेल्या एआय-शक्तीच्या ग्राहक उत्पादने तयार करण्यासाठी रेस करीत आहे. ऐतिहासिक पायाभूत सुविधांच्या बांधकामासाठी कंपनीने कोट्यवधी डॉलर्स देखील जमा केले आहेत.

प्रौढ असताना एआय चॅटबॉट्सशी नक्कीच रोमँटिक संबंध आहेतहे अल्पवयीन मुलांसाठी देखील लोकप्रिय आहे. सेंटर फॉर डेमोक्रेसी अँड टेक्नॉलॉजीच्या नवीन अहवालात असे आढळले आहे हायस्कूलचे 19% विद्यार्थी एकतर एआय चॅटबॉटशी एक रोमँटिक संबंध आहे, किंवा ज्याच्याकडे असलेल्या मित्राला माहित आहे.

ऑल्टमॅन म्हणतात की ओपनई लवकरच “सत्यापित प्रौढांसाठी” एरोटिकाला परवानगी देईल. चॅटजीपीटीच्या कामुक वैशिष्ट्यांकरिता कंपनी आपल्या वय-प्राधान्य प्रणालीवर किंवा इतर कोणत्याही दृष्टिकोनावर अवलंबून असेल की नाही हे अस्पष्ट आहे. ओपनई एरोटिकाला त्याच्या एआय व्हॉईस, प्रतिमा आणि व्हिडिओ निर्मिती साधनांपर्यंत वाढवेल की नाही हे देखील अस्पष्ट आहे.

ऑल्टमॅनचा असा दावा आहे की ओपनई कंपनीच्या “प्रौढांसारख्या प्रौढांसारख्या प्रौढांसारख्या उपचार” तत्त्वामुळे ओपनई चॅटजीपीटी मैत्रीपूर्ण आणि कामुक बनवित आहे. गेल्या वर्षभरात, ओपनई चॅटबॉटला अधिक परवानगी देण्यास आणि कमी नकार देण्याची परवानगी देऊन, चॅटजीपीटीसाठी अधिक सुस्त सामग्री संयम रणनीतीकडे वळली आहे. फेब्रुवारीमध्ये, ओपनईने चॅटजीपीटीमध्ये अधिक राजकीय दृष्टिकोनांचे प्रतिनिधित्व करण्याचे वचन दिले आणि मार्चमध्ये कंपनीने द्वेष चिन्हांच्या एआय-व्युत्पन्न प्रतिमांना परवानगी देण्यासाठी CHATGPT अद्यतनित केले.

ही धोरणे विविध प्रकारच्या वापरकर्त्यांसह चॅटजीपीटीचा प्रतिसाद अधिक लोकप्रिय करण्याचा प्रयत्न असल्याचे दिसते. तथापि, असुरक्षित CHATGPT वापरकर्त्यांना सेफगार्ड्सचा फायदा होऊ शकतो ज्यामुळे चॅटबॉट कशामध्ये व्यस्त राहू शकतो हे मर्यादित करते. ओपनई एक अब्ज साप्ताहिक सक्रिय वापरकर्त्यांकडे धावते म्हणून, वाढ आणि असुरक्षित वापरकर्त्यांचे संरक्षण यांच्यातील तणाव केवळ वाढू शकतो.