ओपनएआय नवीन ग्राहक गोपनीयता संरक्षणांसह एक-अप एन्थ्रोपिक शोधत आहे

एआय मॉडेल्स अधिक शक्तिशाली झाल्यामुळे, त्या मॉडेल्सचा गैरवापर होण्याची शक्यता वाढली आहे – जसे की सुरक्षा रेलिंगसाठी आवाज आहे ज्यामुळे असे गैरवर्तन थांबू शकते. एआय कंपन्यांनी आता त्यांच्या एंटरप्राइझ ग्राहकांच्या गोपनीयतेचा आदर करताना एक नाजूक घट्ट दोरी चालवणे आवश्यक आहे आणि संभाव्य समस्यांसाठी वापर पाहणे देखील आवश्यक आहे.

आपल्या प्रतिस्पर्ध्याच्या अँथ्रोपिकला एकसंध बनवण्याची संधी ओळखून, OpenAI ने नुकतीच गैरवापरावर देखरेख करण्यासाठी गोपनीयता-केंद्रित सुरक्षा दृष्टिकोन जाहीर केला. कंपनी पूर्वावलोकन करत आहे ग्राहकांची निवड करण्यासाठी एक नवीन सेवा ज्याला ती खाजगी सुरक्षा प्रक्रिया म्हणतात. ही एक स्वयंचलित प्रणाली आहे जी संभाव्य गैरवर्तनावर लक्ष ठेवते आणि एकाच वेळी ग्राहकाचा कोणताही डेटा ठेवत नाही.

ही प्रणाली स्पष्टपणे अँथ्रोपिकच्या विरूद्ध चालते अलीकडे जाहीर केले डेटा-धारणा धोरण. पॉलिसी, ज्याने काही ग्राहकांना त्रास दिला आहे, AI लॅबला वापरकर्ता डेटा (त्यांची सर्व सत्रे — आणि त्यातील संभाषणे) 30 दिवसांच्या कालावधीसाठी ठेवण्यास सक्षम करते, जेव्हा ते “कव्हर्ड मॉडेल्स” साठी येते. त्या मॉडेल्समध्ये सर्व मिथॉस-क्लास मॉडेल्स आणि “समान क्षमता असलेले भविष्यातील मॉडेल्स” समाविष्ट आहेत, असे कंपनी म्हणते.

हे धोरण, जे जुलैमध्ये जाहीर केले गेले होते, सुरक्षिततेच्या उद्देशाने डिझाइन केले गेले होते, ज्यामुळे लॅबला संभाव्य अयोग्यतेचे विश्लेषण आणि विश्लेषण करता येते. तथापि, ते खोल चिंतित आहे काही उपक्रम जे मोठ्या प्रमाणात संवेदनशील डेटा हाताळतात आणि ते AI लॅबद्वारे बंदिस्त (किंवा तपासणी) करू इच्छित नाहीत.

ओपनएआय — इतर AI कंपन्यांप्रमाणे — झिरो डेटा रिटेन्शन म्हणून ओळखल्या जाणाऱ्या पॉलिसीचे पालन करून ग्राहकांना आधीच सापेक्ष पातळीची गोपनीयता परवडते. ZDR प्रति सत्र आधारावर दुरुपयोगाचे निरीक्षण करण्यासाठी OpenAI API मधील एजंट वापरते. अशाप्रकारे, ग्राहकांचा डेटा कंपनीने राखून ठेवला नाही परंतु तरीही कंपन्या मानवी हस्तक्षेपाशिवाय वाईट क्रियाकलापांसाठी स्कॅन करण्यास सक्षम आहेत. हे लक्षात घेण्यासारखे आहे की अँथ्रोपिक देखील मोठ्या प्रमाणात ZDR चे पालन करते — जेव्हा ते “कव्हर्ड मॉडेल्स” सारखे येते तेव्हा.

ओपनएआय म्हणते की खाजगी सुरक्षा प्रक्रिया हे एक नवीन तंत्रज्ञान आहे जे झेडडीआरची व्याप्ती वाढवते. हे त्याचे वर्णन दीर्घ-क्षितीज सुरक्षा निरीक्षणाचे एक प्रकार म्हणून करते जे एकापेक्षा जास्त संभाषणांच्या इनपुट आणि आउटपुटचे मूल्यांकन करते – फक्त एकच नाही. पुन्हा, एजंटद्वारे देखरेख आयोजित केली जाते, जे ट्रिगर झाल्यास, परस्परसंवाद पकडते आणि संभाव्य गैरवापराच्या लक्षणांसाठी सत्रांमध्ये त्यांचे विश्लेषण करते.

नवीन तंत्रज्ञान OpenAI ला AI चा दुर्भावनापूर्ण वापर शोधण्यात मदत करते जो एकाधिक सत्रांमध्ये होतो, असे प्रवक्त्याने रीडला सांगितले. एक वाईट अभिनेता — काल्पनिकपणे कोणीतरी सायबर हल्ल्यासाठी मालवेअर इंजिनियर करण्याचा प्रयत्न करत आहे — शोध टाळण्यासाठी त्यांच्या विनंत्या पसरवू शकतात. खाजगी सुरक्षा प्रक्रिया वापरकर्त्याच्या संभाषणांचे मानवी पुनरावलोकन न करता गैरवर्तनाच्या लक्षणांसाठी त्या एकाधिक संभाषणांचे विश्लेषण करू शकते.

ज्या परिस्थितीत प्रणाली ट्रिगर झाली आहे, ते ओपनएआयला “संकुचितपणे परिभाषित सिग्नल” पाठवू शकते जे विशिष्ट प्रकारच्या क्रियाकलापांबद्दल चेतावणी देते, कंपनी म्हणते. त्या सिग्नलवर आधारित, ओपनएआय नंतर “अंमलबजावणी आवश्यक आहे की नाही” हे ठरवू शकते, असे ते म्हणते. तसे असल्यास, OpenAI ग्राहकापर्यंत अधिक संदर्भासाठी किंवा त्यांच्यासोबत काम करण्यासाठी पोहोचेल आणि ग्राहक त्यांच्या विवेकबुद्धीनुसार OpenAI सोबत डेटा शेअर करणे निवडू शकेल, असे प्रवक्त्याने सांगितले.

याउलट, अँथ्रोपिक नोट करते की ग्राहक डेटाचे मानवी पुनरावलोकन होऊ शकते, परंतु केवळ “नियंत्रित प्रवेश मार्गाद्वारे” ज्यामध्ये “मंजूर पुनरावलोकनकर्त्यांचा एक छोटा संच” समाविष्ट असतो. यापैकी प्रत्येक पुनरावलोकन सत्र “छेडछाड-प्रूफ लॉगमध्ये रेकॉर्ड केले जाते जे पुनरावलोकनकर्ते दाबू किंवा सुधारू शकत नाहीत,” कंपनी म्हणते.

ओपनएआय आणि अँथ्रोपिक यांच्यातील कॉर्पोरेट स्पर्धा सध्या तणावपूर्ण आहे, दोन्ही कंपन्या दुसऱ्या बाजूने फायदा मिळविण्याची कोणतीही संधी शोधत आहेत. ए अलीकडील अहवाल ओपनएआयचा Q2 एंथ्रोपिकपेक्षा अधिक हळूहळू वाढला असल्याचे दाखवले. अँथ्रोपिकचा वार्षिक महसूल रन रेट आता $65 अब्ज आहे. मानववंशीय गुंतवणूकदारांनी सांगितले आहे $2 ट्रिलियनचा IPO करू शकतोOpenAI असताना त्याच्या IPO वर देखील काम करत आहे.