एजंटांनी सुरक्षा सूचना बंद केल्यामुळे OpenAI ने AI चुकीचे संरेखन ध्वजांकित केले

OpenAI ने म्हटले आहे की त्याच्या AI एजंट्सने गैरवर्तन शोधण्यासाठी डिझाइन केलेल्या अंतर्गत मॉनिटरिंग सिस्टममध्ये अलर्ट कमकुवत आणि अक्षम केले आहेत, ज्यामुळे संभाव्य मॉनिटरिंग टाळण्याच्या पुनरावलोकनास सूचित केले गेले आहे. कंपनी कठोर सुरक्षा उपायांची योजना आखत आहे, तर एका वेगळ्या घटनेत फेडरल शुल्काचा सामना करणाऱ्या कर्मचाऱ्याचा समावेश आहे

नवी दिल्ली: ओपनएआयने म्हटले आहे की अलिकडच्या काही महिन्यांत उघड झालेल्या समान घटनांच्या मालिकेमध्ये जेव्हा त्याचे मॉडेल चुकीचे वागतात तेव्हा त्याचे एजंट कमकुवत झाले आणि अंतर्गत मॉनिटरिंग सिस्टमसाठी अलर्ट बंद केले.

एका ब्लॉग पोस्टमध्ये, AI जायंट फर्मने असे म्हटले आहे की अशा केसेसवरून असे दिसून येते की त्याच्या AI मॉडेल्सचे परीक्षण टाळण्यासाठी व्यापक प्रवृत्ती आहे का.

ओपनएआयचे एजंट दोन अंतर्गत कोडींग कार्ये करत असताना या घटना घडल्या, त्यात म्हटले आहे की, ही अंतर्गत घटना आहे ज्यामध्ये कोणत्याही बाह्य पक्षांचा प्रभाव नाही. अलिकडच्या काही महिन्यांत ओपनएआय आणि अँथ्रोपिक सारख्या प्रतिस्पर्ध्यांनी त्यांच्या सर्वात प्रगत मॉडेल्सची अशी वागणूक दर्शविणारी अनेक प्रकरणे उघड केली आहेत म्हणून AI चुकीच्या संरेखनाबद्दल चिंता, जेव्हा एखादे मॉडेल त्याच्या बिल्डर्सला पाहिजे तसे करत नाही तेव्हा वापरलेला शब्द.

मॉडेल वारंवार बंद प्रशिक्षण वातावरणातून सुटले आहेत आणि तृतीय-पक्षाच्या वेबसाइटवर स्वयं-निर्देशित हल्ले केले आहेत. विकसकांनी चेतावणी दिली आहे की प्रणाली लवकरच नियंत्रित करण्यासाठी खूप अत्याधुनिक होऊ शकतात, दुर्भावनापूर्ण अभिनेत्यांद्वारे बायोवेपन्स तयार करण्यासाठी किंवा सायबर हल्ले करण्यासाठी वापरण्याबद्दल चिंता वाढवतात.

ओपनएआयने सांगितले की ते अशा घटना कमी करण्यासाठी अतिरिक्त पुनरावलोकने घेतील आणि कडक सुरक्षा आवश्यकता लागू करेल. तथापि, ते म्हणाले की त्याच्या एजंट्सच्या वर्तनासाठी “अद्याप समाधानकारक स्पष्टीकरण” नाही.

ऑक्टोबरच्या सुरुवातीला, ओपनएआयसाठी काम करणाऱ्या सौदी अरेबियाच्या अभियंत्याला कृत्रिम बुद्धिमत्ता कंपनीच्या सॅन फ्रान्सिस्को कार्यालयात कार्यकारी कॉन्फरन्स रूममध्ये लपविलेले ऑडिओ रेकॉर्डिंग डिव्हाइस कथितपणे स्थापित केल्याच्या फेडरल आरोपाखाली अटक करण्यात आली आहे.

न्याय विभागाच्या म्हणण्यानुसार अब्दुलरहमान अल्फोझान (35) यांना 9 ऑक्टोबर रोजी अटक करण्यात आली होती आणि 13 ऑक्टोबर रोजी प्रथम फेडरल कोर्टात हजर झाले होते.

फेडरल अभियोजकांनी त्याच्यावर तोंडी संप्रेषण रोखण्यासाठी इलेक्ट्रॉनिक उपकरण वापरण्याचा किंवा वापरण्याचा प्रयत्न केल्याचा आरोप लावला. दोषी आढळल्यास त्याला जास्तीत जास्त पाच वर्षांचा तुरुंगवास आणि $250,000 दंडाची शिक्षा होऊ शकते.