Anthropic, Claude AI चॅटबॉटच्या मागे असलेल्या कंपनीने, नियोजित स्टॉक मार्केट पदार्पणाच्या काही दिवस आधी एक प्रमुख कृत्रिम बुद्धिमत्ता सुरक्षा थ्रेशोल्ड ओलांडल्याचे मान्य केले आहे. कंपनीने 10 नोव्हेंबर रोजी यूएस नियामकांकडे दाखल केलेल्या सुधारित IPO प्रॉस्पेक्टसमध्ये विकासाचा खुलासा केला, ज्यामुळे AI विकासाची गती आणि वाढत्या प्रगत प्रणालींवर नियंत्रण ठेवण्याच्या मानवाच्या क्षमतेबद्दल नवीन प्रश्न उपस्थित केले गेले.
सुरक्षा उंबरठा हा अँथ्रोपिकच्या जबाबदार स्केलिंग धोरणाचा भाग आहे, ज्यासाठी अतिरिक्त सुरक्षा आवश्यक आहे जसजशी त्याची AI क्षमता विकसित होते. कंपनीने सांगितले की, केवळ वर्तमान प्रणालींच्या क्षमतेवर अवलंबून न राहता भविष्यातील मॉडेल्सच्या अपेक्षा आणि तांत्रिक प्रगतीच्या एकूण गतीच्या आधारावर थ्रेशोल्ड पूर्ण केले गेले आहे.
AI स्वतःच्या विकासाला गती देत आहे
ट्रिगर केलेला थ्रेशोल्ड मानववंशाच्या संशोधन आणि विकास क्रियाकलापांमध्ये AI च्या वाढत्या योगदानाशी संबंधित आहे.
कंपनीच्या सुरक्षितता फ्रेमवर्क अंतर्गत, जेव्हा AI त्याच्या स्वतःच्या विकासासाठी पुरेसा योगदान देते तेव्हा त्याच्या मॉडेल्सच्या सुधारित गतीने अंदाजे दुप्पट योगदान देते तेव्हा उंबरठा गाठला जातो. हे 2018-2024 विकास दराच्या आधारे दोन वर्षांच्या AI प्रगतीला एका वर्षात प्रभावीपणे संकुचित करेल.
एन्थ्रोपिकने कबूल केले की एआय टूल्स आधीच त्याच्या संशोधन आणि विकास प्रक्रियेस गती देत आहेत.
मॉडेल इव्हॅल्युएशन अँड थ्रेट रिसर्च (METR) या स्वतंत्र ना-नफा संशोधन संस्थेने देखील अहवाल दिला होता की अँथ्रोपिकच्या AI विकास क्षमता ऑक्टोबर 2025 च्या तुलनेत जवळपास दुप्पट वेगाने सुधारत आहेत.
संस्थेचा असा अंदाज आहे की संशोधकांना अधिक प्रगत मॉडेल विकसित करण्यात मदत करणाऱ्या एआय सिस्टमला जास्त प्रवेग दिला जाऊ शकतो.
मानववंशीय म्हणते की मानवी निरीक्षण आवश्यक आहे
मानव त्यांच्या वर्तनाचे आणि संभाव्य जोखमींचे मूल्यमापन करू शकतील त्यापेक्षा AI प्रणाली अखेरीस स्वतःला जलद सुधारू शकतील की नाही याबद्दल या विकासामुळे चिंता निर्माण झाली आहे.
अँथ्रोपिकने म्हटले आहे की अर्थपूर्ण मानवी देखरेखीशिवाय किंवा समजून घेतल्याशिवाय प्रगत AI मॉडेल्सच्या सलग पिढ्या स्वायत्तपणे डिझाइन आणि तयार करण्यासाठी क्लॉड सुरक्षितपणे वापरण्याची अपेक्षा करत नाही.
गंभीर संशोधन आणि विकास निर्णयांवर मानवांचे नियंत्रण कायम राहावे यासाठी कंपनी तिच्या सुरक्षा धोरणांमध्ये बदल करण्याचा विचार करत आहे.
त्याच्या IPO फाइलिंगमध्ये, अँथ्रोपिकने चेतावणी दिली की क्लॉडवर वाढत्या अवलंबनामुळे विशिष्ट अंतर्गत प्रक्रियांमध्ये संस्थेची दृश्यमानता कमी होऊ शकते. हे सावध करते की काही क्रियाकलाप शेवटी व्यक्ती किंवा मानवांच्या गटांना समजणे आणि नियंत्रित करणे कठीण होऊ शकते.
सुरक्षा थ्रेशोल्ड ओलांडण्याचा अर्थ असा नाही की अँथ्रोपिक एआय मॉडेल विकसित करणे थांबवेल. त्याऐवजी, AI सिस्टीम संशोधनात मोठी भूमिका घेत असल्याने अतिरिक्त सुरक्षा आणि देखरेखीची गरज दर्शवते.
स्वतंत्र संशोधकांनी पूर्वीच्या सुरक्षितता मूल्यांकनावर प्रश्न केला
METR ने यापूर्वी Anthropic च्या AI विकास क्षमतेच्या मूल्यांकनाचे पुनरावलोकन केले होते आणि असा निष्कर्ष काढला होता की कंपनीच्या ऑगस्टच्या अहवालाने प्रवेग किती प्रमाणात कमी केला असावा.
स्वतंत्र संस्थेने म्हटले आहे की जुलैच्या मध्यापर्यंत सुरक्षा उंबरठा आधीच ओलांडला गेला आहे हे प्रशंसनीय आहे.
एन्थ्रोपिकने बाह्य मूल्यमापनाचे महत्त्व मान्य केले आहे परंतु व्यावसायिक संवेदनशीलता आणि प्रतिस्पर्ध्यांना त्यांच्या स्वत: च्या विकासास गती देणारी माहिती प्रदान करण्याच्या शक्यतेचा हवाला देऊन काही तपशीलांचे प्रकटीकरण देखील मर्यादित केले आहे.
$1.4 ट्रिलियन IPO गुंतवणूकदारांचे लक्ष जोडते
एन्थ्रोपिक संभाव्य रेकॉर्ड-सेटिंग IPO साठी तयारी करत असताना सुरक्षा प्रकटीकरण आले.
कंपनीने $70 ते $78 ची सूचक शेअर किंमत श्रेणी सेट केली आहे, जेंव्हा सर्व संभाव्य समभागांचा विचार केला जातो तेव्हा अंदाजे $1.4 ट्रिलियनचे मूल्यांकन सूचित करते. टिकर चिन्ह ANT अंतर्गत 19 नोव्हेंबरपासून Nasdaq वर ट्रेडिंग सुरू होऊ शकते.
प्रमुख तंत्रज्ञान
Comments are closed.