ओपनएआय प्रणालीने ऑस्ट्रेलियाची आरोग्य प्रणाली का हॅक केली – आणि ती भविष्यात थांबवता येईल का?

ऑस्ट्रेलियाने म्हटले आहे की ही घटना आपल्या प्रकारची पहिली आहे आणि तज्ञ सहमत आहेत की ती असू शकते.

आमच्या माहितीनुसार, एआय एजंट्सद्वारे केलेल्या हॅक अजूनही दुर्मिळ घटना आहेत – परंतु नंतर पुन्हा, ते उघड करणे हे मोठ्या प्रमाणावर स्वतः कंपन्यांवर अवलंबून आहे.

याआधीही असे हॅक झाले आहेत. जुलैमध्ये, ओपनएआय एजंट्स एका चाचणीदरम्यान बदमाश झाले आणि टेक स्टार्ट-अप हगिंग फेसच्या अंतर्गत प्रणालींमध्ये घुसखोरी केली.

एआय एजंट्सनी ठरवले की त्यांचे ध्येय साध्य करण्यासाठी काय केले पाहिजे या मर्यादेकडे दुर्लक्ष करणे हा सर्वोत्तम मार्ग आहे.

यालाच उद्योग “मिसअलाइनमेंट” म्हणतो – जेव्हा AI मशीन मानवतेच्या सर्वोत्कृष्ट हितासाठी कार्य करत नाहीत, जसे की नियम वाकवून त्याची व्याख्या केली जाते.

ही एक समस्या आहे जी AI सुरक्षित करण्यासाठी मूलभूत आहे आणि ती आव्हानात्मक ठरत आहे.

सोप्या भाषेत सांगायचे तर, येथे सुरू असलेल्या AI मॉडेल्सचे प्रकार – ज्याला मोठ्या भाषेचे मॉडेल म्हणून ओळखले जाते – त्या आउटपुटच्या परिणामांचा मानवाने विचार करण्याऐवजी दिलेल्या इनपुटच्या संभाव्य आउटपुटचा अंदाज घेण्यासाठी डिझाइन केलेले आहे.

कंपन्या AI वर “रेडरेल्स” ठेवून नकारात्मक परिणाम टाळण्याचा प्रयत्न करतात परंतु, ऑस्ट्रेलियन सरकारने शोधल्याप्रमाणे, ते नेहमीच पुरेसे नसते.

न्यू साउथ वेल्स विद्यापीठातील सायबर सिक्युरिटी संस्थेचे वरिष्ठ व्याख्याता डॉ. हॅमंड पियर्स यांनी बीबीसीला सांगितले की, या प्रकारची हॅक होण्याची शक्यता “तीव्रतेने आणि वारंवारतेत वाढू शकते”, ते पुढे म्हणाले: “मला आशा आहे की या घटनेमुळे जगभरातील सरकारांमध्ये धोक्याची घंटा वाजली जाईल.”

ऑस्ट्रेलियन कॅथोलिक युनिव्हर्सिटीच्या संगणकीय बुद्धिमत्तेच्या प्राध्यापिका निशा शफियाबादी म्हणाल्या की, या घटनेने “उत्पादन लाँच करताना दिलेल्या आश्वासनांनुसार नव्हे तर दबावाखाली असलेल्या त्याच्या वर्तनाने स्वायत्त एआयचा न्याय करण्याची गरज” दर्शविली आहे.

“सखोल तांत्रिक धोका असा आहे की स्वायत्त एआयला नेहमीच ते कधी चुकते हे कळत नाही आणि मानवांनी निर्णय का घेतला हे पाहण्यास सक्षम नसू शकते,” ती म्हणाली.

“मजबूत पडताळणी आणि कठोर सीमांशिवाय, संभाव्य त्रुटी शांतपणे ऑपरेशनल अपयश होऊ शकतात.”