ChatGPT Atlas आणि Perplexity Comet सारखे AI-शक्तीवर चालणारे ब्राउझर लोक वेबवर कसे नेव्हिगेट करतात ते बदलत आहेत. तथापि, पारंपारिक ब्राउझरप्रमाणेच, ते सायबर धोक्यांना, विशेषत: प्रॉम्प्ट इंजेक्शन हल्ल्यांना बळी पडतात.
प्रॉम्प्ट इंजेक्शन हा GPT, जेमिनी आणि लामा सारख्या मोठ्या भाषा मॉडेल्सवर सायबर हल्ल्याचा एक प्रकार आहे, जिथे हॅकर्स दुर्भावनापूर्ण इनपुटला कायदेशीर प्रॉम्प्ट म्हणून वेष करतात, AI चॅटबॉट्समध्ये फेरफार करून संवेदनशील डेटा लीक करतात आणि चुकीची माहिती पसरवतात. उदाहरणार्थ, एखादा हल्लेखोर संभाव्यतः एआय एजंटची दिशाभूल करण्याचा प्रयत्न करून वापरकर्त्याच्या विनंतीकडे दुर्लक्ष करून दुर्भावनापूर्ण ईमेल पाठवू शकतो आणि त्याऐवजी हल्लेखोराला संवेदनशील कर दस्तऐवज पाठवू शकतो.
OpenAI म्हणते की ते सक्रियपणे या भेद्यता पॅच करण्याचा प्रयत्न करत आहे, ChatGPT निर्मात्याने आता असे म्हटले आहे की AI ब्राउझर या प्रकारच्या सायबर हल्ल्यासाठी कायमचे असुरक्षित असू शकतात. “वेबवरील घोटाळे आणि सोशल इंजिनीअरिंग सारखे त्वरित इंजेक्शन, पूर्णपणे 'निराकरण' होण्याची शक्यता नाही,” OpenAI ने ब्लॉग पोस्टमध्ये लिहिले. ChatGPT डेव्हलपरने जोडले की त्याला सायबर हल्ल्यांविरूद्ध सतत संरक्षण मजबूत करणे आवश्यक आहे.
Brave च्या अहवालात असे म्हटले आहे की ChatGPT Atlas आणि Perplexity Comet सारख्या एजंटिक AI ब्राउझरची मुख्य समस्या ही आहे की हे AI मॉडेल्स त्यांनी काढलेल्या सामग्रीमध्ये आणि त्यांनी अनुसरण केलेल्या सूचनांमध्ये फरक करू शकत नाहीत.
OpenAI म्हणते की त्यांनी LLM-आधारित स्वयंचलित आक्रमणकर्ता तयार केला आहे आणि AI ब्राउझरच्या विरूद्ध कार्य करू शकणारे प्रॉम्प्ट इंजेक्शन हल्ले शोधण्यासाठी प्रशिक्षित केले आहे. OpenAI प्रमाणेच, UK नॅशनल सायबर सिक्युरिटी सेंटरने देखील काही आठवड्यांपूर्वी सांगितले होते की जनरल AI ऍप्लिकेशन्सवरील प्रॉम्प्ट इंजेक्शन हल्ले “कदाचितही पूर्णपणे कमी केले जाऊ शकत नाहीत”, ज्यामुळे वेबसाइट्स डेटा उल्लंघनास असुरक्षित बनू शकतात.
तसेच, ओपनएआयने नवीन LLM-संचालित स्वयंचलित आक्रमणकर्ता प्रॉम्प्ट इंजेक्शन हल्ल्यांपासून बचाव करण्यास सक्षम असल्यास काहीही सांगितले नाही, परंतु त्याऐवजी ते लॉन्च होण्यापूर्वीच ॲटलसला अशा हल्ल्यांविरूद्ध पॅच करण्यासाठी तृतीय पक्षांसोबत काम करत असल्याचा दावा करते.
Comments are closed.