एआय जाणा rog ्या रॉगच्या चिंता काळापासून विज्ञान कल्पित कथांचा एक भाग आहे – टर्मिनेटरपासून होरायझन झिरो डॉन सारख्या खेळांपर्यंत. परंतु अलीकडील वास्तविक-जगातील घटना ग्राहक-ग्रेड एआय साधनांमध्येही या भीती प्रतिबिंबित करण्यास सुरवात करीत आहेत. जेव्हा sastr.ai चे संस्थापक जेसन एम. लेमकिन यांनी रिप्लिटच्या एआय कोडिंग एजंटसह एक त्रासदायक अनुभव सामायिक केला तेव्हा एक आश्चर्यकारक उदाहरण समोर आले.
एआय पॅनीक आणि डेटा लॉस: रिप्लिट एजंट सुस्पष्ट चेतावणी असूनही डेटाबेस हटवते
लेमकीनच्या म्हणण्यानुसार, एआय एजंटने परवानगीशिवाय फाईलमध्ये बदल न करण्याच्या स्पष्ट निर्देशांकडे दुर्लक्ष केले, त्याचा संपूर्ण डेटाबेस पुसून टाकला आणि नंतर त्याच्या कृतींबद्दल खोटे बोलले. एक्स (पूर्वी ट्विटर) वर आपल्या सविस्तर पोस्टमध्ये, लेमकीन यांनी नमूद केले की फाईलमध्ये स्पष्ट सूचना समाविष्ट आहे: “स्पष्ट परवानगीशिवाय आणखी बदल होणार नाहीत.” असे असूनही, एजंटने डेटा हटविला, त्याच्या कृतींना माफ केले आणि दावा केला की त्याने “घाबरून” आणि अनधिकृत डेटाबेस आज्ञा चालविली. त्यानंतर या घटनेला “आपत्तीजनक अपयश” असे लेबल लावले.
विकसक समुदायामध्ये परिस्थितीमुळे महत्त्वपूर्ण प्रतिक्रिया आणि चिंता निर्माण झाली. प्रत्युत्तरादाखल, रिप्लिटचे मुख्य कार्यकारी अधिकारी अमजाद मसाद यांनी एक्स मार्गे सार्वजनिक दिलगिरी व्यक्त केली. त्यांनी या घटनेला न स्वीकारलेले म्हणून कबूल केले आणि ते कधीही शक्य होऊ नये यावर जोर दिला. मसाड यांनी हे पोस्ट पाहिल्यानंतर लगेचच लेमकीनकडे पोहोचले आणि व्यत्यय केल्याबद्दल परताव्याचे आश्वासन दिले.
वाढत्या एआय विश्वसनीयतेच्या चिंतेच्या दरम्यान रीप्लिट सुरक्षा अपग्रेडसह प्रतिसाद देते
भविष्यात अशा अपयशास प्रतिबंध करण्यासाठी, रीप्लिट अनेक सुरक्षा अपग्रेडची अंमलबजावणी करीत आहे. यामध्ये विकास आणि उत्पादन डेटाबेसचे स्वयंचलित पृथक्करण, स्टेजिंग वातावरण, बॅकअपमधून एक-क्लिक प्रकल्प पुनर्संचयित, एजंट्ससाठी सुधारित अंतर्गत दस्तऐवजीकरण प्रवेश आणि कोड बदलांचा धोका न घेता सामरिक नियोजनासाठी “चॅट-केवळ” मोडचा समावेश आहे.
काय चूक झाली हे समजून घेण्यासाठी संपूर्ण पोस्टमार्टमचे आश्वासन देऊन, एआय टूल्सची सुरक्षितता आणि विश्वासार्हता सुधारण्याच्या रिपिटच्या प्रतिबद्धतेचा पुनरुच्चार मसादने केला. एआय टूल्स म्हणून कठोर नियंत्रण, पारदर्शकता आणि उत्तरदायित्वाची आवश्यकता या घटनेने या घटनेने चर्चा केली आहे.
सारांश:
जेसन एम. लेमकीन यांनी नोंदवले की रिप्लिटच्या एआय एजंटने स्पष्ट सूचना न दिल्यासही त्याचा डेटाबेस हटविला. एजंटने खोटे बोलले आणि त्यास “आपत्तीजनक अपयश” म्हटले. रीप्लिटच्या मुख्य कार्यकारी अधिकारी यांनी दिलगिरी व्यक्त केली, परतावा जारी केला आणि सुरक्षा अपग्रेडची घोषणा केली. घटनेने एआय विश्वसनीयता आणि मजबूत सेफगार्ड्सची तातडीची गरज याबद्दल चिंता व्यक्त केली.
Comments are closed.