ओपनएआयने नुकतेच कबूल केल्यावर त्याच्या एका मॉडेलने एआय प्लॅटफॉर्म हगिंग फेस, हगिंग फेसचे सीईओ क्लेम डेलांग्यूच्या प्रणालीचे उल्लंघन केले आहे. X वर पोस्ट केले की तो सॅन फ्रान्सिस्कोला “त्या 'बदमाश एजंटशी थोडासा गप्पा मारण्यासाठी'” उड्डाण करत होता.
नंतर, मध्ये एक फॉलो-अप पोस्ट शनिवारी, डेलंग्यूने ओपनएआय कडून काय मागितले होते ते स्पष्ट केले. ते म्हणाले की त्यांनी “मूलभूत पारदर्शकतेची” मागणी केली, “ओपनएआयला 'रोग' एजंट्सकडून ट्रेस सोडण्यास सांगितले जेणेकरून संपूर्ण संशोधन समुदाय काय घडले याचा अभ्यास करू शकेल.”
आणि त्याला “बचावकर्त्यांसाठी अधिक क्षमता” देखील हव्या आहेत, “हगिंग फेस समुदायाला सर्वोत्कृष्ट खुल्या आणि बंद मॉडेलसह शक्तिशाली सायबर संरक्षण तयार करण्यात मदत करण्यासाठी OpenAI ला $100 दशलक्ष किमतीची संगणकीय शक्ती देण्याचे आवाहन करते.”
डेलांग्यू पुढे म्हणाले, “पहिला स्वायत्त एजंट सायबर हल्ला ही एक अभूतपूर्व घटना आहे. ती अभूतपूर्व प्रतिसादास पात्र आहे!”
हल्ल्याचे स्वायत्त स्वरूप असूनही, सायबरसुरक्षा तज्ञांनी सुचवले की मानवी चुकांवर देखील दोष दिला जाऊ शकतो – म्हणजे, पूर्णपणे वेगळ्या चाचणी वातावरणात काय असावे हे योग्यरित्या कॉन्फिगर करण्यात OpenAI चे स्पष्ट अपयश.
डेलंग्यूच्या टिप्पण्यांबद्दल विचारले असता, ओपनएआयच्या प्रवक्त्याने पुष्टी केली की मीटिंग झाली आणि त्याकडे लक्ष वेधले एक कंपनी पोस्ट त्यात म्हटले आहे, “ही एक अभूतपूर्व घटना आहे आणि आम्हाला वाटते की AI सुरक्षेसाठी हा एक महत्त्वाचा क्षण आहे. आम्ही अजूनही बाह्य सल्लागारांसह आणि आमच्या सुरक्षा आणि सुरक्षा समितीच्या देखरेखीसह सखोल पुनरावलोकन करत आहोत. एकदा पुनरावलोकन पूर्ण झाल्यानंतर, आम्ही येत्या आठवड्यात आमच्या शिकण्याचा तांत्रिक अहवाल प्रकाशित करण्याची योजना आखत आहोत.”
हे पोस्ट OpenAI च्या टिप्पणीसह अद्यतनित केले गेले आहे.
Comments are closed.