मानववंशीय ब्लॉक्स जैविक शस्त्रे बनवण्यासाठी AI वापरण्याचा संभाव्य प्रयत्न

अँथ्रोपिक म्हणते की त्यांनी जैविक शस्त्रांच्या विकासास समर्थन देऊ शकणाऱ्या “दुर्भावनायुक्त क्रियाकलाप” साठी त्याचे AI मॉडेल वापरण्याचे प्रयत्न ओळखले आणि व्यत्यय आणले.

फर्मच्या अलीकडील धोका बुद्धिमत्ता अहवालात काढलेले निष्कर्ष, तंत्रज्ञानाच्या मानवतेसाठी संभाव्य जोखमींबद्दल AI संशोधक आणि उद्योगातील अंतर्गत चेतावणींच्या वाढत्या मालिकेतील नवीनतम आहे.

अमेरिकेचे सिनेटर बर्नी सँडर्स यांनी प्रगत AI विकासावर विराम देण्याची आणि कृत्रिम सुपरइंटिलिजन्सवर बंदी घालण्याची मागणी करून या इशाऱ्यांमुळे कृती करण्यास सांगितले गेले आहे.

राष्ट्राध्यक्ष डोनाल्ड ट्रम्प यांनी आत्तापर्यंत अशा भीती नाकारल्या आहेत, गुरुवारी ते म्हणाले की “जर आम्ही एआय जिंकलो नाही तर आम्हाला खूप वाईट स्थितीत टाकले जाईल” अशी चिंता होती.

कंपनीने नवीनतम प्रकाशित केले धमकी गुप्तचर अहवाल, बाह्य गुरुवारी.

असे अहवाल संपूर्ण AI उद्योगात एक नियमित वैशिष्ट्य बनले आहेत कारण कंपन्या त्यांचे मॉडेल्सचा गैरवापर करण्याच्या प्रयत्नांना कसे ओळखतात आणि व्यत्यय आणतात हे दाखवण्याचा प्रयत्न करतात.

यामध्ये Google चा समावेश आहे, ज्याने मंगळवारी लिहिले, बाह्य एका व्यक्तीने “शस्त्रनिर्मित जैविक घटकांचे संश्लेषण करण्यासाठी संपूर्ण, चरण-दर-चरण तांत्रिक मार्गदर्शक” मिळविण्यासाठी त्याचे एआय टूल, जेमिनी वापरण्याचा प्रयत्न केला होता.

क्लॉड, अँथ्रोपिकचे एआय मॉडेल देखील रशिया-आधारित सायबर हेरगिरी मोहिमेशी संबंधित अभिनेत्यांनी आणि इराणी प्रचार संस्थेद्वारे वापरले होते, त्याच्या अहवालानुसार.

गेल्या आठ महिन्यांत आढळलेल्या चिंतेची प्रकरणे बनावट डेटिंग ॲप्स आणि हॉटेल वायफाय घोटाळ्यांपासून ते असंतुष्टांना ओळखण्यासाठी तयार केलेल्या पाळत ठेवण्यापर्यंत आहेत.

अँथ्रोपिकने चिनी एआय कंपन्यांवर क्लॉडच्या क्षमतेची प्रतिकृती बनवण्याचा प्रयत्न केल्याचा आरोपही केला आहे.

या प्रदीर्घ अहवालात संशयित राज्य-प्रायोजित गट, गुन्हेगार, स्पायवेअर विक्रेते, राज्य प्रचार संस्था आणि राजकीयदृष्ट्या प्रेरित व्यक्तींनी तंत्रज्ञानाचा गैरवापर केल्याच्या प्रकरणांची यादी केली आहे.

क्लॉड हायकू, सॉनेट आणि ओपस मॉडेल्सचा “दुर्भावनापूर्ण वापर” डिसेंबर 2025 ते ऑगस्ट 2026 दरम्यान विस्कळीत झाला, असे त्यात म्हटले आहे.

डिस्टिलेशनच्या एका उदाहरणाचा अपवाद वगळता क्लॉड फेबल किंवा शक्तिशाली मायथॉस-क्लास मॉडेल्सचा गैरवापराच्या कोणत्याही प्रकरणांमध्ये समावेश नाही – मोठ्या, अधिक महाग मॉडेलचा वापर करून लहान AI मॉडेल्सना प्रशिक्षण देण्याची प्रक्रिया.

सायबर आणि प्रभाव ऑपरेशन्स, पाळत ठेवणे, घोटाळे आणि फसवणूक आणि शस्त्रे विकासासाठी त्याच्या मॉडेल्सचा वापर शोधण्याबरोबरच, अँथ्रोपिकने सांगितले की त्यांनी वैज्ञानिकांना अवरोधित केले आहे ज्यांनी जैविक शस्त्रांच्या विकासास समर्थन देऊ शकतील अशा AI चा वापर केला.

अहवालात “जैविक शस्त्रास्त्रांच्या विकासास समर्थन देणाऱ्या आमच्या मॉडेल्सचा वापर करणाऱ्या अभिनेत्यांचे पाच केस स्टडीज” हायलाइट करण्यात आले.

जैविक गैरवापर, “फ्रंटियर एआय मॉडेलच्या सर्वात गंभीर जोखमींपैकी एक आहे” असे त्यात म्हटले आहे. योग्य सुरक्षेशिवाय, अशा क्षमतांचे “आपत्तीजनक परिणाम होऊ शकतात”, अँथ्रोपिक म्हणाले.

“जैविक शस्त्र विकसित करण्यासाठी वापरल्या जाणाऱ्या समान माहितीचा वापर विकसित करण्यासाठी देखील केला जाऊ शकतो, उदाहरणार्थ, लस किंवा रोगावरील उपचार,” अँथ्रोपिक म्हणाले.

जेकब क्लेन, अँथ्रोपिक येथील धमकीच्या गुप्तचर विभागाचे प्रमुख, यांनी सांगितले न्यूयॉर्क टाइम्स, बाह्य ती “एक आश्चर्यकारकपणे सूक्ष्म परिस्थिती” होती.

“तुम्ही एखाद्या कॉमिक बुकमध्ये असे म्हणताना दिसत नाही आहात की, 'अरे, मला प्रत्येकाला मारण्यासाठी जैविक शस्त्र बनवायचे आहे,” तो म्हणाला.

अहवालात सहा प्रकरणांची देखील नोंद करण्यात आली आहे जिथे क्लॉडचा वापर “बंदुक, क्षेपणास्त्रे, सशस्त्र ड्रोन, बॉम्ब आणि इतर युद्धसामग्री, तसेच त्यांना ऑपरेट करणाऱ्या लक्ष्यीकरण आणि नियंत्रण प्रणालींसह पारंपारिक शस्त्रांसाठी सॉफ्टवेअर विकसित करण्यासाठी” केला गेला.