ओपनएआयने प्रॉम्प्ट इंजेक्शन हल्ल्यांपासून संवेदनशील डेटाचे संरक्षण करण्यासाठी लॉकडाउन मोडचे अनावरण केले

OpenAI जाहीर केले एक नवीन वैशिष्ट्य जे ते म्हणते की प्रॉम्प्ट इंजेक्शन हल्ल्यांपासून अतिरिक्त संरक्षण प्रदान करेल, जिथे दुर्भावनापूर्ण चॅटबॉट सूचना वेबपृष्ठे आणि इतर सामग्री स्त्रोतांमध्ये लपविल्या जातात.

इतर गोष्टींबरोबरच, लॉकडाउन मोड लाइव्ह वेब ब्राउझिंग अक्षम करेल (जेणेकरुन तुम्ही फक्त कॅशे केलेल्या सामग्रीमध्ये प्रवेश करू शकता), वेबवरून प्रतिमा पुनर्प्राप्त करणे आणि प्रदर्शित करणे (तुम्ही तरीही प्रतिमा तयार करू शकता), सखोल संशोधन आणि एजंट मोड.

कंपनी म्हणते की लॉकडाउन मोड चालू असतानाही, ChatGPT अजूनही प्रॉम्प्ट इंजेक्शन्ससाठी असुरक्षित असू शकते – जे, उदाहरणार्थ, “कॅश केलेल्या वेब सामग्रीमध्ये किंवा अपलोड केलेल्या फाइलमध्ये दिसू शकते आणि तरीही प्रतिसादाच्या वर्तनावर किंवा अचूकतेवर परिणाम करू शकते.”

परंतु प्रक्रियेत संवेदनशील डेटा सामायिक होण्याची शक्यता कमी करणे हे ध्येय आहे.

“लॉकडाउन मोड आहे नाही प्रत्येकासाठी अभिप्रेत आहे,” OpenAI म्हणते. “हे लोक आणि संस्थांसाठी डिझाइन केले आहे जे संवेदनशील डेटा हाताळतात आणि प्रॉम्प्ट इंजेक्शनशी संबंधित डेटा एक्स्फिल्टेशन जोखमींपासून कडक संरक्षण करू इच्छितात.”

कंपनीचे म्हणणे आहे की ते सध्या स्वयं-सेवा ChatGPT व्यवसाय खाती तसेच पात्र वैयक्तिक खात्यांवर लॉकडाउन मोड आणत आहे.