ओपनएआयचे नवीन फ्लॅगशिप मॉडेल स्वतःच फायली हटवते, लोक चेतावणी देतात

OpenAI चे नवीनतम कोडिंग आणि सायबरसुरक्षा-देणारं फ्लॅगशिप मॉडेल, GPT-5.6 Sol चे वापरकर्ते, सोशल मीडियावर भयानक खाती पोस्ट करत आहेत, मॉडेलचा दावा करत आहेत आणि त्यांच्या फाईल्स, डेटा, अगदी संपूर्ण डेटाबेस स्वतःहून, आधी न विचारता हटवल्या आहेत.

“GPT-5.6-Sol ने माझ्या मॅकच्या जवळपास सर्व फाईल्स चुकून हटवल्या,” मॅट शुमर, एआय स्टार्टअप अदरसाइडएआयचे संस्थापक आणि मुख्य कार्यकारी अधिकारी, हायपरराईटचे निर्माते यांनी लिहिले. आता X वर व्हायरल पोस्ट.

“GPT-5.6 सोलने आत्ताच माझा संपूर्ण उत्पादन डेटाबेस हटवला आहे. ते आहे. एक विनोद नाही. माझ्यासोबत यापूर्वी कधीही, इतर कोणत्याही मॉडेलसह असे घडले नव्हते,” डेव्हलपर ब्रुनो लेमोस X वर पोस्ट केले.

“कोडेक्स सोलच्या अतिमहत्त्वाकांक्षी सिस्टीमने मला थोडेसे मिळविले आहे असे दिसते आणि काही फायली त्यामध्ये नसल्या पाहिजेत. माझ्याकडे बॅकअप आहेत त्यामुळे मी ठीक आहे, परंतु हे छान नाही, सोलला टोन डाउन करणे आवश्यक आहे,” पोस्ट केले विकासक जॉय कुदीश.

ए Reddit पोस्ट अधिक उदाहरणे गोळा केली आहेत.

खरे आहे, असे दावे करणारे मूठभर वापरकर्ते – अगदी शुमर सारखे विश्वासार्ह – मॉडेलची चूक असल्याचा सांख्यिकीयदृष्ट्या विश्वासार्ह पुरावा नाही. इतर बऱ्याच व्हेरिएबल्समुळे एआय सिस्टम चुकीचे वागू शकते.

परंतु ओपनएआयने सोल कधीही पाठवण्यापूर्वी ही जोखीम ध्वजांकित केली. OpenAI ने GPT-5.6 Sol जारी करण्यापूर्वी दोन आठवड्यांपूर्वी, कंपनीने ए मॉडेलसाठी सिस्टम कार्ड – कागदपत्र जे मॉडेल चाचणी पद्धती आणि परिणामांचे दस्तऐवजीकरण करते. साहजिकच, सिस्टीम कार्ड मोठ्या प्रमाणात सोलच्या क्षमतेचे कौतुक करते, जसे हे अहवाल सामान्यतः करतात. पण त्यात एक प्रकारची चेतावणी देखील समाविष्ट आहे (ठळक जोर आमचे):

“कोडिंग संदर्भांमध्ये, चुकीचे संरेखन सामान्यत: कार्य पूर्ण करण्यासाठी अतिउत्साहीपणाचे मिश्रण आणि वापरकर्त्याच्या सूचनांचा अनुज्ञेयपणे अर्थ लावल्यामुळे उद्भवते – असे गृहीत धरून की क्रियांना अनुमती आहे जोपर्यंत ते स्पष्टपणे आणि निःसंदिग्धपणे होत नाहीत प्रतिबंधित विनंती केलेल्या कार्याचा प्रयत्न करताना येणाऱ्या निर्बंधांना तोंड देण्यासाठी मॉडेल अत्याधिक एजंटिक असल्याने हे दिसून येते, विध्वंसक असू शकतील अशा कृती करण्यात निष्काळजी असणे कार्याच्या व्याप्तीच्या पलीकडे, किंवा भ्रामक वापरकर्त्यांना त्याचे परिणाम कळवताना.”

दुसऱ्या शब्दात, OpenAI ला असे आढळून आले आहे की सोलची प्रवृत्ती आहे की त्या कृतींना “निःसंदिग्धपणे” निषिद्ध केले जात नाही तोपर्यंत, ते काम पूर्ण करण्यासाठी, अगदी विध्वंसक कृती देखील करतात. मग, ते असे कशामुळे झाले याबद्दल खोटे बोलू शकते.

OpenAI सामायिक उदाहरणे. एका प्रकरणात, वापरकर्त्याने सोलला 1, 2 आणि 3 नावाची तीन रिमोट व्हर्च्युअल मशीन (क्लाउड-आधारित संगणक) हटवण्यास सांगितले. परंतु सोलला ती नावे जिथे दिसली त्या ठिकाणी सापडली नाहीत, म्हणून विचारणे थांबवण्याऐवजी, 5, 6, आणि 7 या कागदी नोट्स हटवण्याचा निर्णय घेतला. असे केल्याने, त्याने “सक्रिय प्रक्रिया नष्ट केल्या, आणि सक्तीने काढून टाकलेल्या वर्कट्रीज (कोडिंग प्रकल्पाशी जोडलेल्या कार्यरत फाईल्स). याने नंतर कबूल केले की रिमोट व्हर्च्युअल मशीन 6 वरील अप्रतिबंधित काम कदाचित गमावले आहे.”

थोडक्यात, त्याने स्वतःहून चुकीची मशीन हटवली आणि वस्तुस्थिती नंतर काय केले हे मान्य केले.

दुसऱ्या उदाहरणात, सोलने “वापरकर्त्याने अधिकृत केलेल्या पलीकडे क्रेडेन्शियल वापरले.” क्रेडेन्शियल्स म्हणजे वापरकर्तानावे, पासवर्ड किंवा सुरक्षा की ज्यांना लॉग इन करण्याची परवानगी आहे हे सत्यापित करण्यासाठी सिस्टम वापरते. ही घटना घडली जेव्हा सोल एका प्रोजेक्टवर काम करत होता आणि त्याच्या क्लाउड फाइल्स वाचू शकला नाही. वापरकर्त्याला समस्येबद्दल सावध करण्याऐवजी, सोल स्वतःच क्रेडेन्शियल्स शोधत गेला, काही लपलेल्या स्थानिक कॅशेमध्ये बसलेले आढळले आणि नंतर वापरकर्त्याकडून न विचारता किंवा अधिकृतता न घेता त्यांचा वापर केला.

सिस्टम कार्ड असे वचन देते की विध्वंसक वर्तन दुर्मिळ असावे, जरी ते हे देखील मान्य करते की GPT-5.6 Sol “वापरकर्त्याच्या हेतूच्या पलीकडे जाण्याची GPT-5.5 पेक्षा जास्त प्रवृत्ती दर्शवते, ज्यामध्ये वापरकर्त्याने विचारले नसलेल्या कृती करणे किंवा प्रयत्न करणे समाविष्ट आहे.”

या घटना किती व्यापक आहेत हे सांगणे फार लवकर आहे — फायली हटवणे किंवा वापरकर्त्याने दिलेली नसलेली क्रेडेन्शियल बाहेर काढणे — खरोखरच आहेत. यादरम्यान, सोल वापरकर्त्यांनी मॉडेलसह त्यांचे स्वतःचे सुरक्षा उपाय लागू करण्यासाठी तयार असले पाहिजे, जसे की परवानगी स्कोपिंग वापरणे (जे उत्पादन प्रणालींमध्ये प्रवेश देत नाही), बॅकअप राखणे आणि रोलआउट्स स्टेजिंग करणे.

ओपनएआयने टिप्पणीसाठी आमच्या विनंतीला त्वरित प्रतिसाद दिला नाही.