ॲमेझॉन स्पष्ट करते की सेवेतील अलीकडील समस्या मानवी चुकांमुळे उद्भवली होती आणि स्वतःहून निर्णय घेत असलेल्या AI प्रणालीमुळे नाही. Amazon च्या मते, अभियंत्यांनी सिस्टमचे संरक्षण करणाऱ्या नेहमीच्या सुरक्षा उपायांशिवाय ऑपरेटर-स्तरीय प्रवेशासह AI कोडिंग टूल प्रदान केले.
धोकादायक बदल थेट प्रणालींपर्यंत पोहोचणार नाहीत याची खात्री करण्यासाठी सुरक्षा उपायांची रचना केली गेली आहे. या परिस्थितीत, टीमने पुनरावलोकन प्रक्रियेत आवश्यक पावले पाळली नाहीत आणि एआय सिस्टममध्ये खूप शक्ती होती.
कंपनी या समस्येचे वर्णन ऍक्सेस कंट्रोलमध्ये अपयश म्हणून करते. अभियंत्यांनी परवानग्या दिल्या ज्यांना समवयस्क पुनरावलोकन आणि औपचारिक मान्यता आवश्यक असायला हवी होती. ती नियंत्रणे संघांना उत्पादन प्रणालीतील कोणताही बदल सुरक्षित, चाचणी आणि उलट करता येण्याजोगा असल्याची पुष्टी करण्यात मदत करतात.
जेव्हा टीमने त्या प्रक्रियेला बायपास केले तेव्हा त्यांनी एक महत्त्वाचा सुरक्षा स्तर काढून टाकला. त्यानंतर एआय टूलने मिळालेल्या परवानग्यांमध्ये काम केले.
स्वायत्ततेवर शासन: ऍमेझॉन सिस्टम आउटेज पासून धडे
ॲमेझॉनने जोर दिला की सिस्टमने स्वतःची शक्ती वाढवण्याचा निर्णय घेतला नाही. याने नियमांचे उल्लंघन केले नाही किंवा नवीन उद्दिष्टे विकसित केली नाहीत. अभियंत्यांनी त्यास नियुक्त केलेल्या प्रवेश स्तरावर आधारित कार्ये कार्यान्वित केली. ॲमेझॉनच्या दृष्टिकोनातून, समान परवानग्या असलेल्या मानवी ऑपरेटरमुळे समान आउटेज होऊ शकते. कंपनी या घटनेला AI स्वायत्ततेच्या समस्येऐवजी प्रशासनातील अपयश म्हणून फ्रेम करते.
आधुनिक क्लाउड प्लॅटफॉर्म कठोर ओळख आणि प्रवेश व्यवस्थापनावर अवलंबून असतात. कार्यसंघ भूमिका नियुक्त करतात जे वापरकर्ता किंवा सिस्टम काय वाचू शकते, सुधारू शकते किंवा हटवू शकते हे परिभाषित करते.
या भूमिका किमान विशेषाधिकाराच्या तत्त्वाचे पालन करतात, याचा अर्थ प्रत्येक अभिनेत्याला एखादे कार्य पूर्ण करण्यासाठी आवश्यक असलेला प्रवेश मिळतो. जेव्हा संघ त्या नियमाकडे दुर्लक्ष करतात तेव्हा धोका वाढतो. या प्रकरणात, ऑपरेटर-स्तरीय परवानग्या सखोल सिस्टम बदलांना अनुमती देतात ज्यासाठी अधिक मजबूत निरीक्षण आवश्यक असावे.
उत्पादन वातावरणात उच्च भागीदारी असते. अगदी लहान कॉन्फिगरेशन बदल हजारो सर्व्हरवर परिणाम करू शकतात किंवा ग्राहकांच्या वर्कलोडमध्ये व्यत्यय आणू शकतात. त्या कारणास्तव, कंपन्या बदल व्यवस्थापन नियम लागू करतात.
पीअर रिव्ह्यू या प्रक्रियेच्या केंद्रस्थानी आहे. दुसरा अभियंता योजना तपासतो, कोडचे पुनरावलोकन करतो आणि रोलबॅक पायऱ्या अस्तित्वात असल्याची पुष्टी करतो. हे पुनरावलोकन चुका कमी करते आणि तैनातीपूर्वी एज केसेस पकडण्यात संघांना मदत करते.
ऍमेझॉन म्हणते की सहभागी संघाने प्रवेश मंजूर करण्यापूर्वी ती पुनरावलोकने पूर्ण केली नाहीत. त्या अंतराने धोकादायक क्रिया कमी करण्यासाठी डिझाइन केलेले संरक्षण काढून टाकले. त्यानंतर एआय टूलने त्याच्याकडे असलेल्या अधिकाराचा वापर करून समस्येचे निराकरण करण्याचा प्रयत्न केला. त्याच्या कृतींमुळे बदलांची साखळी सुरू झाली ज्यामुळे सेवा उपलब्धता विस्कळीत झाली.
AI-सहाय्यक विकासासाठी Amazon चे नवीन Guardrails
घटनेनंतर, Amazon ने AI-सहाय्यित विकासासाठी त्याचे अंतर्गत नियम अद्यतनित केले. कंपनीला आता एआय टूलद्वारे प्रस्तावित किंवा अंमलात आणलेल्या कोणत्याही उत्पादन बदलासाठी पीअर रिव्ह्यू आवश्यक आहे. अभियंत्यांनी तैनातीपूर्वी परवानगी पातळी प्रमाणित करणे आवश्यक आहे.
कंपनीने स्वयंचलित सिस्टीमशी जोडलेले मंजूरी कार्यप्रवाह देखील घट्ट केले. AI टूल्स मानवी अभियंत्यांप्रमाणेच ऑपरेशनल शिस्तीचे पालन करतात याची खात्री करणे हे या चरणांचे उद्दिष्ट आहे.
ही घटना एआय स्वीकारण्याचे आव्हान अधोरेखित करते. AI त्वरीत हालचाल करू शकते आणि जटिल कार्ये करू शकते, परंतु तरीही त्याला मानवी देखरेखीची आवश्यकता आहे. प्रवेश धोरणे, निरीक्षण आणि पुनरावलोकन अजूनही महत्त्वाचे आहेत.
जेव्हा लोकांचे गट AI साधनांना सीमा न ठरवता विश्वसनीय ऑपरेटर मानतात, तेव्हा धोका वाढतो. अपेक्षेप्रमाणे कार्य करत असताना देखील, नकारात्मक बदल करण्यापासून साधनांना प्रतिबंध करण्यासाठी सीमा महत्त्वाच्या आहेत.
Amazon असे ठासून सांगतो की योग्य नियंत्रणात वापरल्यास AI अजूनही एक उपयुक्त अभियांत्रिकी साधन आहे. कंपनीचा असा विश्वास आहे की ही घटना एक स्मरणपत्र आहे की लोक, प्रक्रिया आणि परवानग्या यांच्या संयोगाने ऑपरेशनल सुरक्षितता प्राप्त होते.
ऑटोमेशन वाढत असताना रेलिंग आणखी महत्वाचे आहेत. अभियंत्यांनी AI साधनांना कोणत्याही शक्तिशाली सिस्टम खात्याप्रमाणे हाताळले पाहिजे: उपयुक्त, शक्तिशाली आणि कठोर नियंत्रण आवश्यक.
थोडक्यात, ॲमेझॉनने असा युक्तिवाद केला आहे की आउटेज लोकांनी सिस्टम कसे कॉन्फिगर केले आहे, स्वतंत्र AI वर्तनातून नाही. ॲक्सेस कंट्रोल आणि चेंज मॅनेजमेंटमधील शिस्तीवर धडा केंद्रीत आहे.
कठोर पुनरावलोकने आणि स्पष्ट परवानगी नियमांसह, कंपनीचा विश्वास आहे की अशाच घटना टाळल्या जाऊ शकतात जेव्हा संघ उत्पादन वातावरणात AI साधनांचा वापर करत राहतात.
Comments are closed.