मानववंशातील मुख्य कार्यकारी अधिकारी म्हणतात की दीपसीक गंभीर बायोवेपन्स डेटा सेफ्टी टेस्टवर 'सर्वात वाईट' होते

अँथ्रॉपिकचे मुख्य कार्यकारी अधिकारी डारिओ अमोडेई स्पर्धक दीपसेक या चीनी एआय कंपनीबद्दल काळजीत आहेत, ज्याने सिलिकॉन व्हॅलीला आर 1 मॉडेलसह वादळाने घेतले. आणि दीपसेकने चीनला वापरकर्ता डेटा परत पाठविण्याबद्दल उपस्थित केलेल्या ठराविक गोष्टींपेक्षा त्याची चिंता अधिक गंभीर असू शकते.

मध्ये एक मुलाखत जॉर्डन स्नायडरच्या चिनटॉक पॉडकास्टवर, अमोडेई म्हणाले की, दीपसेकने मानववंशविरूद्ध चालवलेल्या सेफ्टी टेस्टमध्ये बायोएपन्सबद्दल दुर्मिळ माहिती निर्माण केली.

दीपसीकची कामगिरी “आम्ही कधीही चाचणी घेतलेल्या कोणत्याही मॉडेलपैकी सर्वात वाईट” होती, असा दावा अमोदई यांनी केला. “ही माहिती व्युत्पन्न करण्याविरूद्ध त्यात कोणतेही ब्लॉक नव्हते.”

अमोडी यांनी नमूद केले की हे मूल्यमापनांचा एक भाग होता, मानववंशशास्त्र नियमितपणे त्यांच्या संभाव्य राष्ट्रीय सुरक्षा जोखमींचे मूल्यांकन करण्यासाठी विविध एआय मॉडेल्सवर चालते. Google वर किंवा पाठ्यपुस्तकांमध्ये सहज सापडत नाही अशी मॉडेल्स बायोवेपन्सशी संबंधित माहिती व्युत्पन्न करू शकतात की नाही याकडे त्याची टीम पाहते. मानववंशशास्त्र स्वतःला एआय पायाभूत मॉडेल प्रदाता म्हणून स्थान देते ते सुरक्षिततेचा गंभीरपणे घेते.

अमोडेई म्हणाले की, आज दीपसेकचे मॉडेल दुर्मिळ आणि धोकादायक माहिती प्रदान करण्यात “अक्षरशः धोकादायक” आहेत असे त्यांना वाटत नाही परंतु ते नजीकच्या भविष्यात असू शकतात. जरी त्यांनी दीपसीकच्या टीमला “प्रतिभावान अभियंता” म्हणून कौतुक केले असले तरी त्यांनी कंपनीला “या एआय सुरक्षा विचारांवर गांभीर्याने विचार करण्याचा सल्ला दिला.

चीनच्या लष्कराला एक धार देऊ शकेल या चिंतेचे कारण सांगून अमोडेईने चीनच्या चिप्सवरील मजबूत निर्यात नियंत्रणास पाठिंबा दर्शविला आहे.

दीपसीक मॉडेल मानववंशाची चाचणी घेतलेल्या चिनटॉक मुलाखतीत अमोडेईने स्पष्टीकरण दिले नाही, किंवा त्याने या चाचण्यांविषयी अधिक तांत्रिक तपशील दिले नाहीत. वाचनातून टिप्पणीच्या विनंतीला मानववंशाने त्वरित प्रत्युत्तर दिले नाही. दोघांनीही दीपसीक केले नाही.

दीपसीकच्या उदयामुळे इतरत्रही त्याच्या सुरक्षिततेबद्दल चिंता निर्माण झाली आहे. उदाहरणार्थ, सिस्को सुरक्षा संशोधक गेल्या आठवड्यात म्हणाले तो दीपसीक आर 1 त्याच्या सुरक्षिततेच्या चाचण्यांमध्ये कोणतीही हानिकारक प्रॉम्प्ट रोखण्यात अयशस्वी झाला आणि 100% तुरूंगातून निसटणे यश दर प्राप्त केले.

सिस्कोने बायोवेपन्सचा उल्लेख केला नाही परंतु सायबर क्राइम आणि इतर बेकायदेशीर क्रियाकलापांविषयी हानिकारक माहिती तयार करण्यास दीपसीक मिळविण्यास सक्षम असल्याचे सांगितले. हे लक्षात घेण्यासारखे आहे की, मेटाच्या लामा -3.1-405 बी आणि ओपनईच्या जीपीटी -4 ओ मध्ये देखील अनुक्रमे 96% आणि 86% अपयशी दर आहेत.

यासारख्या सुरक्षिततेच्या चिंतेमुळे दीपसेकच्या वेगवान दत्तक घेण्यामध्ये गंभीरपणा निर्माण होईल की नाही हे पाहणे बाकी आहे. कंपन्या आवडतात AWS आणि मायक्रोसॉफ्टने आर 1 ला त्यांच्या क्लाउड प्लॅटफॉर्ममध्ये एकत्रित करणे सार्वजनिकपणे सांगितले आहे – अ‍ॅमेझॉन मानववंशातील सर्वात मोठा गुंतवणूकदार आहे हे लक्षात घेता.

दुसरीकडे, देश, कंपन्या आणि विशेषत: अमेरिकन नेव्ही आणि पेंटागॉन सारख्या सरकारी संस्थांची वाढती यादी आहे ज्यांनी दीपसीकवर बंदी घालण्यास सुरुवात केली आहे.

हे प्रयत्न चालू आहेत की दीपसेकची जागतिक वाढ सुरूच असेल की नाही हे वेळ सांगेल. एकतर, अमोडेई म्हणतात की तो अमेरिकेच्या अव्वल एआय कंपन्यांच्या पातळीवर असलेला एक नवीन प्रतिस्पर्धी डीपसीक मानतो.

“येथे नवीन वस्तुस्थिती अशी आहे की तेथे एक नवीन प्रतिस्पर्धी आहे,” तो चिनतॉकवर म्हणाला. “एआय – मानववंश, ओपनई, गूगल, कदाचित मेटा आणि झई – प्रशिक्षण देऊ शकणार्‍या मोठ्या कंपन्यांमध्ये आता दीपसीक कदाचित त्या श्रेणीत जोडले जात आहे.”