सायबर, जैव धोक्यांसाठी मानववंशीय ब्लॉक्स एआयचा गैरवापर

एआय स्टार्टअप अँथ्रोपिकने दुर्भावनापूर्ण अभिनेत्यांद्वारे सायबर हल्ला, पाळत ठेवणे आणि जैविक शस्त्रे संशोधनासाठी त्याच्या मॉडेल्सचा गैरवापर करण्याच्या प्रयत्नांचा खुलासा केला आहे. कंपनीचे म्हणणे आहे की त्यांनी हे प्रयत्न अवरोधित केले आणि त्यांच्या नवीनतम मॉडेल्समध्ये सुरक्षितता मजबूत केली.

सॅन फ्रान्सिस्को: अँथ्रोपिकने गुरुवारी सांगितले की, वाईट अभिनेत्यांचे कृत्रिम बुद्धिमत्ता मॉडेल्सचा वापर सायबर हल्ला, पाळत ठेवणे आणि संशोधन यासारख्या दुर्भावनापूर्ण क्रियाकलापांसाठी करण्याचे प्रयत्न अवरोधित केले आहेत ज्यामुळे जैविक शस्त्रे होऊ शकतात.

एआय मॉडेल्स अधिक शक्तिशाली होत असताना, विस्तृत सायबर हल्ल्यांना यापुढे अत्याधुनिक कौशल्यांची आवश्यकता नाही आणि एकटे व्यक्ती देखील धोके निर्माण करू शकतात जे एक वर्षापूर्वी देखील शक्य झाले नसते, अँथ्रोपिक म्हणाले. कंपनीने म्हटले आहे की त्यांनी आपल्या नवीनतम मॉडेल्समध्ये जैविक संशोधन प्रतिबंधित करण्यासाठी मजबूत सुरक्षा उपाय जोडले आहेत ज्याचा वापर शस्त्रे बनविण्यासाठी देखील केला जाऊ शकतो.

“आम्ही येथे सामायिक केलेली प्रकरणे विशिष्ट गैरवापराची नाहीत, परंतु आम्ही आजपर्यंत ओळखलेल्या सर्वात उल्लेखनीय आणि नवीन धोक्याच्या क्रियाकलापांची उदाहरणे आहेत,” अँथ्रोपिकने मार्च 2025 पासूनच्या AI गैरवापराचे वर्णन करणाऱ्या तिसऱ्या अहवालात म्हटले आहे. अहवालात दुर्भावनापूर्ण कोडच्या स्निपेट्सचा समावेश आहे आणि AI प्रॉम्प्ट्स एन्थ्रोपिकने म्हटले आहे की ते आढळले आणि त्याने सरकार आणि AI स्पर्धकांना समान दुरुपयोग ओळखण्यासाठी आणि प्रतिबंधित करण्याचे आवाहन केले.

“आम्ही हे काम प्रकाशित करत आहोत कारण आम्हाला विश्वास आहे की आमच्या सेवांचा दुर्भावनापूर्ण गैरवापर उघड करण्याची आमची जबाबदारी आहे. मॉडेल जसजसे अधिक सक्षम होत जातील तसतसे त्यांचे धोके वाढतील, जोपर्यंत AI डेव्हलपर आणि सोसायटीचे रक्षक त्यांना सुरक्षित करण्यासाठी कार्य करत नाहीत,” कंपनीने म्हटले आहे.

एआय स्टार्टअपचा प्रदीर्घ अहवाल, जो या पतनात प्रारंभिक सार्वजनिक ऑफरची योजना आखत आहे, त्याच्या एका संशोधकाने अँथ्रोपिक आणि त्याचे प्रतिस्पर्धी AI विकासामध्ये जबाबदारीने वागत नसल्याच्या चिंतेमुळे राजीनामा देत असल्याची घोषणा केल्यानंतर दोन दिवसांनी प्रकाशित झाला. तंत्रज्ञानाच्या मानवी नियंत्रणापासून दूर राहण्याच्या क्षमतेबद्दल त्यांनी उद्योगाच्या आत आणि बाहेरील चिंता व्यक्त केल्या.

क्लॉडला व्हायरसला अधिक हानिकारक बनविण्यास समर्थन करण्यास सांगितले होते

डिसेंबर 2025 आणि ऑगस्ट 2026 दरम्यान, अँथ्रोपिक येथील संशोधकांना स्पायवेअर विक्रेते आणि “राजकीयदृष्ट्या प्रेरित व्यक्ती” ते राज्य-प्रायोजित गटांचा प्रचार प्रसार करणाऱ्या अभिनेत्यांकडून गैरवापर झाल्याचे आढळले.

कंपनीच्या अहवालातील निष्कर्षांपैकी अज्ञात अभिनेते त्याचे मॉडेल्स संशोधनासाठी वापरण्याचा प्रयत्न करत आहेत ज्यामुळे जैविक शस्त्रे निर्माण होऊ शकतात. एका प्रसंगात, अँथ्रोपिकने सांगितले की त्याच्या सिस्टमने वैज्ञानिक निधीसाठी अनुदान अर्ज तयार करण्यासाठी क्लॉडच्या सहाय्याची विनंती अवरोधित केली.

“ॲप्लिकेशनमध्ये चर्चा केलेल्या कामात चिकुनगुनिया विषाणूवर लाभ-ऑफ-फंक्शन रिसर्च (म्हणजेच, नवीन किंवा वर्धित जैविक गुणधर्म तयार करण्यासाठी अनुवांशिकरित्या जीव बदलणारे संशोधन) समाविष्ट होते. कार्य संशोधनाचा हा फायदा व्हायरसची संक्रमणक्षमता आणि रोगप्रतिकारक चोरी गुणधर्मांवर होता,” अहवालात म्हटले आहे.

चिकुनगुनिया हा डासांमुळे पसरणारा विषाणू आहे ज्यामुळे तीव्र वेदना आणि ताप यासारखी दुर्बल लक्षणे दिसून येतात. या विनंतीमध्ये व्हायरस उत्तरोत्तर अधिक हानिकारक बनवण्यासाठी उत्परिवर्तन वाढवण्याच्या संशोधनासाठी अनुदान प्रस्तावाचा समावेश होता. अशा संशोधनाचा उपयोग “निश्चितपणे” चांगल्या लसी आणि उपचार विकसित करण्यासाठी केला जाऊ शकतो, अँथ्रोपिक म्हणाले, “हे रोगकारक अधिक धोकादायक बनवण्यासाठी देखील वापरले जाऊ शकते.”

अँथ्रोपिक म्हणते की ते दावा करू शकत नाही की त्याच्या मॉडेल्सना कोणतेही नुकसान होत नाही

अँथ्रोपिकने “मॉडेलची क्षमता काढण्यासाठी आणि अधिकृततेशिवाय दुसऱ्या मॉडेलमध्ये त्यांची प्रतिकृती तयार करण्यासाठी एक औद्योगिक-प्रमाण, गुप्त मोहीम” असे वर्णन केलेल्या एका अवैध डिस्टिलेशन प्रकरणाचा अपवाद वगळता, त्याच्या अहवालात समाविष्ट असलेल्या अँथ्रोपिकची कोणतीही प्रकरणे त्याचे नवीन, अधिक शक्तिशाली क्लॉड फेबल किंवा मिथॉस-क्लास मॉडेल वापरत असल्याचे आढळले नाही.

अँथ्रोपिकने सांगितले की, 2025 पासून क्लॉड ओपस 4 आणि क्लॉड सॉनेट 4.5 यासारखे जुने मॉडेल, “उंबरठ्याच्या अगदी खाली होते जेथे ते धोकादायक जैविक संशोधन करण्यासाठी अत्याधुनिक वापरकर्त्यास अर्थपूर्णपणे मदत करू शकतात.”

“परिणामी, या मॉडेल्सवरील सुरक्षा उपाय कमी कडक होते, जे बहुधा ज्ञात बायोवेपन्स पुन्हा तयार करण्यात नवशिक्यांना उत्तेजित करू शकतील अशा सामग्रीमध्ये प्रवेश रोखण्यासाठी निर्देशित केले होते,” अहवालात म्हटले आहे.

“परंतु आजच्या मॉडेल्ससाठी – जे अनेक जटिल वैज्ञानिक संशोधन कार्यांमध्ये सहाय्य करण्यास सक्षम आहेत – पुरावे यापुढे निश्चित नाहीत आणि आम्ही तेच आश्वासन देऊ शकत नाही.” यामुळे, अँथ्रोपिकने क्लॉड फेबल 5 सारख्या अलीकडील मॉडेल्समध्ये “दुहेरी-वापर जैविक संशोधन प्रश्नांच्या विस्तृत श्रेणीमध्ये प्रवेश प्रतिबंधित करणारे मजबूत सुरक्षा उपाय” लागू केले आहेत, अहवालात म्हटले आहे.

कंपन्या वाढत्या शक्तिशाली AI मॉडेल्स सादर करत असताना, तज्ञांनी सरकारला तंत्रज्ञानाचे नियमन करण्याचे आवाहन केले आहे, उद्योगावरच पोलिसांवर अवलंबून न राहता.

कॉर्नेल विद्यापीठातील संगणक शास्त्राचे सहाय्यक प्राध्यापक जॉन थिकस्टन म्हणाले की, एन्थ्रोपिक आणि ओपनएआय सारख्या कंपन्यांसाठी सुरक्षित विरुद्ध असुरक्षित वर्तन काय आहे हे निर्धारित करणे आणि “कोणत्याही प्रकारच्या लोकशाही किंवा जाणीवपूर्वक निरीक्षणाशिवाय सामाजिक स्तरावर मूल्यनिर्णय करणे” अपेक्षित असताना ही स्थिती अस्वस्थ आहे.

अहवालात संशोधकाच्या गंभीर चेतावणीचे अनुसरण केले जाते

एन्थ्रोपिकला असे गट देखील सापडले ज्यांनी शेकडो सोशल मीडिया खाती तयार केली जी सामान्य लोकांची आहेत आणि नंतर एका आठवड्याच्या कालावधीत समान राजकीय दृश्य वाढवणारी सामग्री पोस्ट केली. कंपनीने रशिया, इराण, तुर्किये आणि पर्शियन गल्फ, दक्षिण आशिया, आफ्रिका आणि युरोपमध्ये आढळलेल्या अशा नऊ प्रकरणांची रूपरेषा दिली आहे.

पोस्ट प्रसारित झाल्यानंतर सोशल मीडिया कंपन्या त्यांच्या प्लॅटफॉर्मवर प्रभाव ऑपरेशन शोधू शकतात, “ऑपरेशन तयार होत असताना आम्ही क्लॉडवर पाहू शकतो.” अँथ्रोपिकने हा अहवाल प्रसिद्ध केल्यावर, त्याच्या एका संशोधकाने, जेकब कॉक्सनने, कंपनी आणि त्याचे मुख्य प्रतिस्पर्धी ओपनएआय “स्वयं-सुधारणा करण्यासाठी आणि आपल्या जीवनाशी जुगार खेळत आहेत” या भीतीने राजीनामा देत असल्याचे जाहीर केल्यानंतर. कॉक्सनच्या पोस्टने चेतावणी दिली की त्यांच्या काही सहकाऱ्यांना आता विश्वास आहे की दशकाच्या अखेरीस एआय मानवी जीवनाला धोका देऊ शकते.

परंतु अँथ्रोपिकने सांगितले की त्यांनी ओळखलेल्या प्रत्येक दुर्भावनापूर्ण क्रियाकलापांना अवरोधित केले आहे, सुरक्षा बळकट करण्यासाठी अनुभवाचा वापर केला आहे आणि सरकारी अधिकारी आणि उद्योग भागीदारांसह माहिती सामायिक केली आहे.

“आम्हाला आशा आहे की या अहवालातील निष्कर्ष इतर विकासकांना त्यांच्या स्वतःच्या प्लॅटफॉर्मवर समान नमुने ओळखण्यास मदत करतील, सरकार आणि नागरी समाजाला उदयोन्मुख धोके कसे आकार घेतात आणि सामूहिक संरक्षण मजबूत करण्यास मदत करतील,” अँथ्रोपिक म्हणाले.