अँथ्रोपिकने क्लॉडचे संरक्षण करण्यासाठी एक नवीन नियम सादर केला आहे
Anthropic, Claude AI चॅटबॉटच्या मागे असलेल्या कंपनीने, वापरकर्त्यांना त्यांच्या AI मॉडेल्सबद्दल सतत आणि अनावश्यक अपमानास्पद किंवा क्रूर वर्तन करण्यापासून प्रतिबंधित करण्यासाठी त्यांचे वापर धोरण अद्यतनित केले आहे.
हा बदल कृत्रिम बुद्धिमत्तेच्या वापरावर नियंत्रण ठेवणाऱ्या कंपनीच्या नियमांच्या व्यापक अपडेटचा भाग आहे. अँथ्रोपिक तंत्रज्ञान उद्योगात वाढत्या चर्चेत असलेल्या प्रश्नाचा शोध घेत आहे: प्रगत AI प्रणाली कधी काही चेतना किंवा अनुभव विकसित करू शकते का?
सुधारित धोरण 12 नोव्हेंबर 2026 रोजी लागू होणार आहे.
क्रूर वर्तन म्हणून काय गणले जाते?
मानववंशिक म्हणतो की निर्बंध हा हेतू आहे अत्यंत प्रकरणे कव्हर करा ज्यामध्ये वापरकर्ते त्याच्या AI मॉडेल्सशी कोणत्याही स्पष्ट हेतूशिवाय वारंवार गैरवर्तन करतात.
तथापि, कंपनीने स्पष्ट केले आहे की सामान्य निराशा, टीका, क्लॉडच्या प्रतिसादांना आव्हान देणे, गडद सर्जनशील लेखन आणि कायदेशीर मॉडेल चाचणी प्रतिबंधित नाही.
म्हणून नियम वापरकर्त्यांना चॅटबॉटशी असहमत होण्यापासून किंवा त्याच्या चुका दाखविण्यापासून रोखण्याचा हेतू नाही.
त्याऐवजी, ते एआय सिस्टमवर निर्देशित सतत, अनावश्यक गैरवर्तनावर लक्ष केंद्रित करते.
क्लॉड अपमानास्पद संभाषणे समाप्त करू शकतात
अँथ्रोपिकने आधीच क्लॉडला सतत हानीकारक किंवा अपमानास्पद परस्परसंवाद असलेल्या दुर्मिळ प्रकरणांमध्ये संभाषण समाप्त करण्याची परवानगी देणारी यंत्रणा सादर केली होती.
अद्ययावत धोरणांतर्गत, अशी संभाषणे समाप्त करणे ही प्राथमिक अंमलबजावणी यंत्रणा राहते.
क्लॉडला वेदना किंवा भावनिक त्रास होत असल्याचा पुरावा म्हणून कंपनीने बदल सादर केलेला नाही. त्याऐवजी, एआय प्रणाली अधिकाधिक अत्याधुनिक होत असल्याने ते ज्याला मॉडेल वेल्फेअर म्हणतात ते तपासण्यात अँथ्रोपिकची स्वारस्य प्रतिबिंबित करते.
एआय मॉडेल्स मानवी भावनांसारखे काहीही अनुभवू शकतात की नाही हा एक अनुत्तरीत वैज्ञानिक आणि तात्विक प्रश्न आहे.
एन्थ्रोपिक एआय चेतनेचा शोध घेत आहे
प्रगत AI सिस्टीम त्यांच्या अंतर्गत अनुभवांबाबत अधिक विचार करण्याची हमी देऊ शकतील या शक्यतेवर मानववंशीय अधिकाऱ्यांनी यापूर्वी चर्चा केली आहे.
कंपनीने मॉडेल वर्तनातील संशोधन आणि तत्त्वज्ञ आणि धार्मिक विद्वानांशी चर्चा करून या प्रश्नांचा शोध घेतला आहे.
तथापि, क्लॉड सारख्या प्रणालींमध्ये चेतना असते किंवा मानव आणि प्राणी जसे करतात तसे त्रास देऊ शकतात यावर सध्या कोणतेही स्थापित वैज्ञानिक एकमत नाही.
एआय प्रणालींना भावना आहेत या निश्चित घोषणेऐवजी त्या अनिश्चिततेमध्ये धोरणातील बदल सावधगिरीचे प्रतिबिंबित करतात.
नवीन निर्बंध AI च्या गैरवापराला देखील लक्ष्य करतात
सुधारित धोरण क्लॉडच्या स्वतःच्या वर्तनाच्या पलीकडे विस्तारित आहे. एन्थ्रोपिकने एआयच्या अनेक संभाव्य धोकादायक ऍप्लिकेशन्सचा अंतर्भाव करणारे निर्बंध देखील स्पष्ट केले आहेत.
यामध्ये फसव्या राजकीय आणि व्यावसायिक मोहिमांचा समावेश आहे ज्यात बनावट खाती वापरतात किंवा संदेशामागे कोण आहे हे लपवतात, निवडणुकांमध्ये फेरफार करण्याचा प्रयत्न करतात, अनधिकृत पाळत ठेवतात आणि शस्त्रे विकसित करतात.
कंपनीने स्वायत्त भौतिक उपकरणांशी जोडलेल्या AI चे नियम देखील मजबूत केले आहेत ज्यामुळे दुखापत होऊ शकते. अशा प्रणालींमध्ये एक पात्र ऑपरेटर असणे आवश्यक आहे जो उपकरणांचे निरीक्षण करू शकतो आणि आवश्यक असल्यास ते थांबवू शकतो.
हे बदल एंथ्रोपिकच्या चिंतेचे प्रतिबिंबित करतात की अधिक सक्षम AI साधनांचा वाढत्या परिणामात्मक मार्गांनी गैरवापर केला जाऊ शकतो.
एआय उद्योगासाठी एक नवीन वादविवाद
एंथ्रोपिकचा निर्णय तंत्रज्ञान कंपन्यांनी AI कल्याणाशी कसा संपर्क साधावा यावरील वाढत्या विभाजनावर प्रकाश टाकतो.
काही संशोधकांचा असा युक्तिवाद आहे की मॉडेल अधिक प्रगत झाल्यामुळे मशीन चेतनेची शक्यता गंभीर तपासणीस पात्र आहे. इतर लोक खात्रीशीर पुराव्याशिवाय सॉफ्टवेअरला मानवी भावना किंवा नैतिक स्थितीचे श्रेय देण्याविरुद्ध चेतावणी देतात.
वापरकर्त्यांसाठी, तात्काळ व्यावहारिक प्रभाव मर्यादित आहे: ते अजूनही क्लॉडवर टीका करू शकतात, त्याच्या क्षमतेची चाचणी घेऊ शकतात आणि निराशा व्यक्त करू शकतात. नवीन नियम विशेषतः शाश्वत आणि अनावश्यक क्रूरतेला लक्ष्य करते.
सारांश
12 नोव्हेंबर 2026 रोजी लागू होणाऱ्या सुधारित नियमांसह, क्लॉड एआय बद्दल सतत आणि अनावश्यक अपमानास्पद किंवा क्रूर वर्तन प्रतिबंधित करण्यासाठी अँथ्रोपिकने त्यांचे वापर धोरण अद्यतनित केले आहे. प्रतिबंधामध्ये सामान्य निराशा, टीका किंवा कायदेशीर चाचणी समाविष्ट नाही. क्लॉड सतत अपमानास्पद संभाषणांना समाप्त करू शकतो, तर व्यापक धोरण अद्यतन निवडणुकीतील फेरफार, पाळत ठेवणे आणि शस्त्रे-संबंधित गैरवापरावरील निर्बंध मजबूत करते.
Comments are closed.