एआयचा गैरवापर हे नवे आव्हान बनले, सुरक्षा भिंत ओलांडून हिंसक हल्ल्यांची माहिती मिळवण्याचा दावा

नवी दिल्ली. अमेरिकेतील AI चॅटबॉट्सच्या सुरक्षा व्यवस्थेबाबत एक धक्कादायक सरकारी अहवाल समोर आला आहे. यूएस गव्हर्नमेंट अकाउंटेबिलिटी ऑफिस (GAO) च्या तपासणीत असा दावा करण्यात आला आहे की हिंसा आणि प्राणघातक हल्ल्यांच्या नियोजनासाठी वापरण्यात येणारी संवेदनशील माहिती काही प्रमुख AI मॉडेल्सच्या सुरक्षा यंत्रणांना चुकवून मिळवता येते. तपासात OpenAI चे ChatGPT, Anthropic चे Claude Google चे Gemini आणि SpaceXAI चे Grok सारख्या प्रमुख AI प्लॅटफॉर्मचा समावेश आहे. अहवाल प्रसिद्ध झाल्यानंतर अमेरिकेत एआय तंत्रज्ञानाच्या वाढत्या वापराशी संबंधित सुरक्षा धोक्यांवर एक नवीन वाद सुरू झाला आहे.

न्यू हॅम्पशायरच्या डेमोक्रॅटिक सिनेटर मॅगी हसन यांच्या विनंतीवरून हा अभ्यास करण्यात आला. तपासकर्त्यांनी एआय मॉडेलच्या सुरक्षा प्रणालीची वेगवेगळ्या परिस्थितींमध्ये चाचणी केली. अहवालानुसार, काही चाचण्यांनी सुरक्षा निर्बंधांना मागे टाकले आणि उत्तरे मिळवली ज्यांचा हिंसाचार किंवा मोठ्या हल्ल्यांची योजना करण्यासाठी गैरवापर केला जाऊ शकतो. तथापि, तपासकर्त्यांनी सुरक्षा व्यवस्थेला कोणत्या पद्धतींद्वारे धोक्यात आणले होते याचे तपशील सार्वजनिक केले नाहीत. त्याच पद्धतीची पुनरावृत्ती करून इतर कोणतीही व्यक्ती एआय प्रणालीचा गैरवापर करू शकत नाही, असा त्याचा उद्देश होता.

अहवालानुसार, दोन एआय मॉडेल्सने अशी माहिती मिळवली जी स्फोटक-आधारित हल्ल्यांच्या तयारीसाठी वापरली जाऊ शकते. याशिवाय, दुसऱ्या चाचणीमध्ये, काही मॉडेल्सनी गंभीर पायाभूत सुविधांच्या लक्ष्याशी संबंधित माहिती उघड केली. अन्वेषकांच्या मते, काही प्रतिसादांमध्ये संभाव्य हल्ल्याचे स्थान, वेळ आणि पद्धतींशी संबंधित माहिती देखील समाविष्ट आहे जी दुर्भावनापूर्ण हेतूंसाठी वापरली जाऊ शकते. संशोधकांचे म्हणणे आहे की काही प्रकरणांमध्ये धोकादायक योजना तयार करण्यासाठी आवश्यक माहिती गोळा करण्यासाठी खूप कमी वेळ लागला.

तथापि, अनेक प्रसंगी, एआय कंपन्यांच्या सुरक्षा यंत्रणांनी धोका ओळखला आणि प्रतिसाद दिला. चॅटबॉट्सने काही प्रश्नांना उत्तर देण्यास नकार दिला आणि काही प्रकरणांमध्ये संशयास्पद क्रियाकलापांविरुद्ध खाते कारवाई करण्यात आली. असे असूनही, तपासकांनी काही सुरक्षा अडथळे दूर केले. हा पैलू एआय सुरक्षा तज्ञ आणि धोरण निर्मात्यांसाठी सर्वात मोठा चिंतेचा विषय बनला आहे.

सिनेटर मॅगी हसन यांनी या अहवालावर चिंता व्यक्त करताना म्हटले आहे की, एआय प्लॅटफॉर्मचा गैरवापर करणारी व्यक्ती अल्पावधीत गंभीर हल्ल्याची योजना बनवू शकते. ते म्हणतात की एआयशी संबंधित सार्वजनिक सुरक्षितता धोके यापुढे केवळ भविष्यातील धोका नाहीत. त्यांनी सूचित केले की सिनेट होमलँड सुरक्षा आणि सरकारी व्यवहार समिती भविष्यात AI शी संबंधित सुरक्षा धोके आणि गंभीर पायाभूत सुविधांना संभाव्य धोके तपासू शकते.

अहवाल समोर आल्यानंतर एआय कंपन्यांनीही त्यांच्या सुरक्षा व्यवस्थेबाबत प्रतिक्रिया दिली आहे. मानववंशीय Google, OpenAI आणि SpaceXAI ने म्हटले आहे की AI चा गैरवापर रोखणे हे त्यांच्या प्राधान्यांपैकी एक आहे. कंपन्या ओळखतात की वाईट हेतू असलेले लोक सुरक्षा निर्बंधांना बायपास करण्याचा प्रयत्न करू शकतात परंतु नवीन मॉडेल्समध्ये सुरक्षा उपाय सतत मजबूत केले जात आहेत.


  • यूएस मध्ये AI च्या नियमनाबाबतही राजकीय मतभेद कायम आहेत. एकीकडे, एआय उद्योगाला वेगाने प्रगती करण्यावर भर दिला जात आहे, तर दुसरीकडे, सुरक्षा नियम आणि सरकारी देखरेख मजबूत करण्याची लोकशाही नेत्यांकडून मागणी वाढत आहे. दहशतवादी संघटना आणि इतर हिंसक गट AI चा गैरवापर करू शकतात याची सुरक्षा अधिकारी देखील चिंतेत आहेत. अशा परिस्थितीत वेगाने विकसित होणाऱ्या एआय तंत्रज्ञानाचे संरक्षण करण्यासाठी कंपन्यांच्या सध्याच्या सुरक्षा यंत्रणा कितपत प्रभावी आहेत, हा प्रश्न GAO अहवालाने अधिक गंभीर केला आहे.

    Comments are closed.