ChatGPT लवकरच प्रौढांसाठी 'नॉटी चॅट्स' मोड लाँच करू शकते

अलीकडे, ए ChatGPT आणि तत्सम AI आउटपुट असलेला डेटासेट वापरकर्ते “खट्याळ,” लैंगिक सूचक किंवा कामुक सामग्री तयार करण्यासाठी सिस्टममध्ये गुंतलेले दाखवत असल्याचे ऑनलाइन दिसले. लीक झालेल्या स्निपेट्समध्ये त्या विनंत्यांसोबत संरेखित प्रतिसादांसह, मसालेदार, प्रौढ-थीम असलेले संदेश व्युत्पन्न करण्यासाठी मॉडेलला विनंती करणाऱ्या सूचनांचा समावेश आहे. जरी या चॅट्स अधिकृत OpenAI रिलीझ नसल्या तरी, लोक सहसा सामग्री फिल्टरची चाचणी कशी करतात किंवा बायपास करण्याचा प्रयत्न करतात यावर त्यांनी प्रकाश टाकला.

सार्वजनिकपणे शेअर केलेल्या डेटासेटमध्ये ही उदाहरणे दिसल्याने ChatGPT सारख्या संभाषणात्मक AI सिस्टीम सामग्री नियंत्रण आणि प्रौढ भाषा कशी हाताळतात याबद्दल चर्चा सुरू झाली.

लीक झालेल्या चॅट्स काय दाखवतात

लीक झालेला मजकूर OpenAI च्या अधिकृत डेटा रिलीझमधून आलेला नसून संकलन करणाऱ्या स्त्रोतांकडून आला आहे मोठ्या प्रमाणात सार्वजनिक किंवा स्क्रॅप केलेले AI परस्परसंवाद. यामध्ये वापरकर्त्याच्या सूचनांचा समावेश आहे जसे की नखरा, मोहक परिस्थिती किंवा AI सह रिस्क डायलॉग्स विचारणे आणि प्रौढ भाषा किंवा सूचक टोन असलेले परिणामी प्रतिसाद.

अशी उदाहरणे दोन गोष्टी दर्शवतात:

• अनेक वापरकर्ते जनरेट करण्यासाठी AI सह प्रयोग करतात लैंगिक सूचक किंवा कामुक आउटपुट खाजगी संदर्भात.
• काही एआय मॉडेल्स काहीवेळा प्रॉम्प्ट आणि फिल्टर सेटिंग्जवर अवलंबून ती सामग्री तयार करू शकतात — विशेषत: मजबूत मॉडरेशन लेयर्सशिवाय ॲप्लिकेशन्स किंवा फॉर्क्समध्ये.

तथापि, OpenAI द्वारे लीक औपचारिकपणे प्रकाशित न केल्यामुळे, विशिष्ट प्रतिसादांनी ते डेटासेटमध्ये कसे किंवा का बनवले आणि ते सर्व अधिकृत ChatGPT प्रणालींकडून आले की सुरक्षितता मर्यादा दूर करणाऱ्या तृतीय-पक्षाच्या अंमलबजावणीतून आले हे स्पष्ट नाही.

का मॉडरेशन मॅटर

OpenAI आणि इतर AI विकसक तयार करतात सामग्री नियंत्रण प्रणाली त्यांच्या मॉडेल्समध्ये विशेषत: स्पष्ट लैंगिक सामग्री, विशेषतः ग्राफिक, हानिकारक किंवा असुरक्षित सामग्रीची निर्मिती रोखण्यासाठी. हे रेलिंग सुरक्षेसह वापरकर्त्याच्या स्वातंत्र्याचा समतोल राखण्यासाठी आणि सामान्य प्रेक्षकांसाठी अनुचित आउटपुट कमी करण्यासाठी डिझाइन केलेले आहेत.

जेव्हा मॉडरेशन लेयर अपूर्ण किंवा अक्षम असतात — उदाहरणार्थ, अनधिकृत आवृत्त्यांमध्ये किंवा जेव्हा वापरकर्ते मॉडेल्सना स्पष्टपणे “मसालेदार” सामग्री व्युत्पन्न करण्यासाठी निर्देश देतात — तेव्हा AI असे परिणाम देऊ शकते जे व्यावसायिक तैनाती सामान्यपणे अवरोधित करतात.

लीक केलेली उदाहरणे जनरेटिव्ह एआयशी संवाद साधताना मानवी भाषा आणि हेतूच्या विस्तृत श्रेणीवर नियंत्रण ठेवण्याच्या आव्हानांना अधोरेखित करतात.

AI साधनांचा जबाबदार वापर

या घटनेचे महत्त्व आहे जबाबदार वापर आणि नैतिक उपयोजन AI चे. ChatGPT आणि तत्सम प्रणाली व्यापकपणे उपयुक्त, उपयुक्त आणि सुरक्षित – विशेषत: सार्वजनिक किंवा सामायिक केलेल्या संदर्भांमध्ये डिझाइन केल्या आहेत. प्रौढ वापरकर्ते सूचक सामग्रीसह खाजगीरित्या प्रयोग करू शकतात, परंतु विकासक आणि वापरकर्त्यांनी मॉडरेशन कसे कार्य करते आणि सामान्य-उद्देश AI साधनांसाठी ते का महत्त्वाचे आहे हे समजून घेतले पाहिजे.

जबाबदार एआय वापर म्हणजे मार्गदर्शक तत्त्वांचा आदर करणे, सुरक्षित आउटपुटच्या मर्यादा समजून घेणे आणि ते ओळखणे वापरकर्त्यांच्या परस्परसंवादांची गळती — अगदी निनावी — वास्तविक गोपनीयता आणि नैतिक चिंता वाढवते.

प्रतिमा स्त्रोत