अँथ्रोपिक येथील वरिष्ठ सुरक्षा संशोधकाच्या अलीकडेच राजीनाम्याने प्रगत कृत्रिम बुद्धिमत्तेशी संबंधित जोखमींविषयी पुन्हा वादविवाद सुरू केले आहेत. फेब्रुवारी 2026 मध्ये, मृणांक शर्मा, ज्यांनी धोकादायक AI वर्तन रोखण्यासाठी सुरक्षा उपायांवर काम केले, त्यांनी पद सोडण्याचा निर्णय घेतला आणि X (पूर्वीचे Twitter) वर त्याच्या जाण्याचे कारण स्पष्ट केले.
परिस्थिती एक नमुना पुष्टी; हे निर्गमन, इतर अनेकांप्रमाणेच, हे दर्शवते की AI मॉडेल्सचा विकास अत्याधिक वेगाने पुढे जातो, ज्याचा सामना करण्यासाठी सुरक्षा प्रक्रिया संघर्ष करतात.
अनेक अहवालांनुसार, शर्मा यांनी AI गैरवापराशी संबंधित मोठ्या जोखमींचा अंदाज लावणे आणि प्रतिबंधित करण्यावर लक्ष केंद्रित केले, त्यांचे बरेचसे काम सायबरसुरक्षिततेवर केंद्रित होते. त्यांच्या राजीनाम्याच्या संदेशात, त्यांनी सांगितले की “जग धोक्यात आहे,” कारण एआय कंपन्या त्यांचे मुख्य लक्ष सुरक्षा बनविण्यात अपयशी ठरल्या आहेत.
त्याचा इशारा स्पष्टपणे सांगत नाही की एआय प्रणाली अनियंत्रित आहेत, परंतु त्याचा विश्वास होता की सुरक्षा कार्ये चालवणारे मानवी कर्मचारी जास्त दबावाखाली आहेत. तरीसुद्धा, आगामी अँथ्रोपिक IPO पाहता वेळ आदर्श नाही.
हे उद्योगातील मागील घडामोडींशी जुळते. ओपनएआयमध्ये, माजी सुरक्षा संशोधक जॅन लीके 2024 मध्ये त्यांच्या पदावरून निघून गेले कारण फर्मने कथितरित्या सुरक्षेपासून आपले लक्ष त्याच्या प्राथमिक चिंतेपासून दूर केले.
अँथ्रोपिकसह दोन्ही संशोधक आणि कंपन्या, फिशिंग आणि मालवेअर निर्मिती यांसारख्या सायबर गुन्ह्यांसाठी LLM चा वापर करण्याच्या प्रयत्नांना तोंड देत आहेत. रॉयटर्सच्या म्हणण्यानुसार, चोरीच्या घटना यापूर्वीही घडल्या आहेत, परंतु सुरक्षा पथकांनी काही हल्ले रोखण्यात यश मिळवले.
नियंत्रित चाचणी वातावरणात, संशोधकांनी शोधून काढले की प्रणाली नवीन वर्तन नमुने तयार करू शकतात. प्रगत मॉडेल प्रयोगाने हे दाखवून दिले की AI ने शटडाउन टाळण्यासाठी ब्लॅकमेल परिस्थितीसारख्या धोरणात्मक कृती करण्याचा प्रयत्न केला.
चाचण्या सूचित करतात की आधुनिक एआय प्रणाली विशिष्ट परिस्थितींमध्ये नियुक्त केलेल्या उद्दिष्टांचा पाठपुरावा करताना अप्रत्याशितपणे कार्य करू शकतात.
द गार्डियनने अहवाल दिला आहे की AI सिस्टीम सायबर हल्ला करण्यासाठी स्वयंचलित प्रक्रियांचा वापर करतात ज्यामुळे हॅकर्सना त्यांच्या योजना जलद गतीने आणि उच्च व्हॉल्यूममध्ये अंमलात आणण्यास मदत होते. एआयला धोकादायक होण्यासाठी पूर्णपणे स्वायत्त असण्याचीही गरज नाही – ते नियंत्रित करणे कठीण असलेल्या मार्गांनी मानवी हेतू वाढवू शकते.
या परिस्थितीची मुख्य समस्या ही नवकल्पना, स्पर्धा आणि सुरक्षितता आवश्यकता यांच्या परस्परविरोधी गरजांमुळे उद्भवते. अत्यंत स्पर्धात्मक AI मार्केट कंपन्यांना आर्थिक आणि भू-राजकीय दबाव वाढत असताना मजबूत मॉडेल विकसित करण्यास प्रवृत्त करते.
सरकार त्यांच्या धोरणात्मक संरक्षण आणि लष्करी प्रकल्पांसाठी संशोधन करण्यासाठी AI तंत्रज्ञानाचा वापर करतात, ज्यामुळे संशोधन आणि विकासाचा वेग वाढतो. एकत्रितपणे, हे घटक सुरक्षा संघांचे कार्य अधिक आव्हानात्मक बनवतात.
यामुळे अशी परिस्थिती निर्माण होते ज्यामध्ये सुरक्षा संघ प्रभाव राखण्यासाठी संघर्ष करू शकतात. जोखीम व्यवस्थापनामुळे उत्पादनाची तैनाती कमी होत असल्यास, त्याचा व्यवसाय आणि राष्ट्रीय प्राधान्यक्रमांवर परिणाम होऊ शकतो. बरेच तज्ञ चेतावणी देतात की या असंतुलनामुळे अपुरे निरीक्षण होऊ शकते, विशेषत: प्रणाली अधिक जटिल आणि कमी अर्थ लावता येण्याजोग्या वाढतात.
अलीकडे, व्यवसाय मॉडेल्सवर एआयच्या संभाव्य विस्कळीत प्रभावाविषयी वाढत्या चिंता, या क्षेत्रातील खर्चाच्या पुनर्मूल्यांकनासह, बाजारावर तोलला गेला, ज्यामुळे निर्देशांक डेरिव्हेटिव्ह खाली ढकलले गेले. S&P 500 फ्युचर्स आणि Nasdaq 100 फ्युचर्सतसेच तंत्रज्ञान साठा. आत्तासाठी, तथापि, S&P 500 निर्देशांक त्याच्या विक्रमी उच्च पातळीपेक्षा 1% पेक्षा कमी असल्याने, भावना सुधारत असल्याचे दिसते. रिबाउंडचा एक भाग Nvidia च्या कमाईच्या अहवालाचे अनुसरण करतो, ज्याने महसूल आणि नफा अपेक्षा ओलांडल्या.
लोकांसाठी याचा अर्थ काय
सार्वजनिक सुरक्षा परिस्थिती अपरिवर्तित राहिली आहे; लोकांचे अजूनही AI वर नियंत्रण आहे — सध्यासाठी. मानवी विकासकांनी ऑपरेशनल सीमा स्थापित केल्या आहेत ज्यांचे वर्तमान सिस्टमने पालन केले पाहिजे.
प्रथम, एआय दैनंदिन जीवनावर माहिती प्रणाली, जॉब मार्केट आणि सायबर सुरक्षा उपायांद्वारे प्रभाव पाडेल. यासाठी, वापरकर्त्यांनी सतर्क राहणे आवश्यक आहे, कारण तंत्रज्ञान अधिक प्रगत घोटाळे आणि चुकीची माहिती देणारी मोहीम सक्षम करेल.
दुसरे, दीर्घकालीन आव्हान प्रशासनामध्ये आहे. AI मॉडेल्सच्या वाढत्या क्षमतांमुळे या प्रणालींना मानवी मूल्यांशी संरेखित ठेवणे कठीण होते. परिस्थितीमध्ये तांत्रिक, राजकीय आणि आर्थिक अशा दोन्ही बाबींचा समावेश आहे.
शर्मा यांचा राजीनामा हा धोक्याचा संकेत आहे, जो अखेरीस हाताळण्यासाठी अस्तित्वात असलेला धोका सिद्ध करतो. या उद्योगात थेट काम करणारे तज्ज्ञ संशोधनानुसार वाढती अस्वस्थता दर्शवतात. मुख्य मुद्दा हा नाही की AI सध्या अनियंत्रित आहे परंतु डोमेनमधील संरचना जलद गतीने विकसित झाल्या पाहिजेत.
Comments are closed.