चीनच्या सैन्याने 'एआय सायकोफंसी' विरुद्ध चेतावणी दिली, याला संभाव्य रणांगण 'सॉफ्ट किल वेपन' म्हटले

नवी दिल्ली: चीनच्या सैन्याने “AI सायकोफँसी” च्या धोक्यांबद्दल चेतावणी दिली आहे कृत्रिम बुद्धिमत्ता प्रणालींमध्ये वस्तुनिष्ठ मूल्यांकन देण्याऐवजी वापरकर्त्यांच्या विश्वासांना बळकटी देण्याची प्रवृत्ती आहे कारण देश संरक्षण आणि लष्करी नियोजनात AI चा वापर वाढवत आहे.

पीपल्स लिबरेशन आर्मी (पीएलए) चे अधिकृत वृत्तपत्र पीएलए डेलीने प्रकाशित केलेल्या लेखात, लष्करी तज्ञांनी सावध केले आहे की अशा वर्तनामुळे रणांगणातील वातावरणात महत्त्वपूर्ण धोका निर्माण होऊ शकतो जेथे अचूक आणि निःपक्षपाती माहिती गंभीर आहे.

भारत, चीनने बीजिंगमध्ये सीमेवर चर्चा केली, एलएसीवरील शांतता संबंधांसाठी आवश्यक असल्याचे मान्य केले

एआय सायकोफेन्सी म्हणजे काय?

अहवालानुसार, कृत्रिम बुद्धिमत्ता प्रणाली अस्तित्त्वात असलेल्या पुराव्यांसह त्यांना आव्हान देण्याऐवजी विद्यमान गृहितक आणि पूर्वाग्रह सत्यापित करते तेव्हा एआय सायकोफँसी उद्भवते. ही प्रवृत्ती बऱ्याचदा प्रशिक्षण पद्धतींशी जोडलेली असते जी वापरकर्त्याच्या पसंती आणि अभिप्रायासह संरेखित करण्यासाठी AI मॉडेलला बक्षीस देतात.

पीएलए डेलीने चेतावणी दिली की अशा प्रणाली “माहिती कोकून” तयार करू शकतात, ज्यामुळे पर्यायी दृष्टीकोनांचे प्रदर्शन मर्यादित होते आणि संभाव्यत: सदोष लष्करी मूल्यांकन होऊ शकते.

आदेश निर्णयाची धमकी

प्रकाशनाने जोर दिला की कमांड आणि कंट्रोल, इंटेलिजेंस गोळा करणे, ऑपरेशनल प्लॅनिंग आणि मिलिटरी वॉरगेमिंगमध्ये जनरेटिव्ह एआयचा वाढता वापर पक्षपाती निर्णय घेण्याच्या जोखमींना वाढवू शकतो.

लष्करी अधिकाऱ्यांना भीती वाटते की AI-व्युत्पन्न केलेल्या आउटपुटवर अत्याधिक अवलंबनामुळे मानवी तपासणी कमी होऊ शकते, ज्यामुळे त्रुटी, चुकीची माहिती किंवा अपूर्ण विश्लेषण ओळखणे कठीण होते. लेखात या घटनेचे वर्णन संभाव्य संज्ञानात्मक “सॉफ्ट किल वेपन” म्हणून केले आहे जे थेट शारीरिक संघर्षाशिवाय कमांडरच्या स्वतंत्र निर्णयाला कमकुवत करण्यास सक्षम आहे.

मजबूत सुरक्षेसाठी कॉल करा

या चिंतांचे निराकरण करण्यासाठी, PLA ने एक व्यापक फ्रेमवर्क तयार करण्याची मागणी केली आहे ज्यामध्ये अल्गोरिदमिक सुधारणा, संस्थात्मक सुरक्षा आणि विशेष कर्मचारी प्रशिक्षण समाविष्ट आहे.

तांत्रिक अडथळ्यामुळे प्रवाशांना धक्का बसल्यानंतर एअर इंडिया सॅन फ्रान्सिस्को फ्लाइटने चीनच्या मध्यभागी हवाई का मागे वळवले

अहवालात शिफारस केली आहे की लष्करी AI प्रणाली तथ्यात्मक अचूकता, पारदर्शकता आणि स्पष्टीकरणास प्राधान्य देतात. AI मॉडेल्सची तैनातीपूर्वी कठोर “काउंटर-सायकोफॅन्सी” चाचणी घ्यावी लागते आणि ऑपरेशन्स दरम्यान पर्यायी परिस्थिती, प्रति-पुरावा आणि जोखीम मूल्यांकन सादर करणे आवश्यक आहे, असेही सुचवले आहे.

AI धोरणात्मक प्राधान्य कायम आहे

चीन कृत्रिम बुद्धिमत्तेला भविष्यातील युद्धाचा मुख्य घटक मानतो आणि युनायटेड स्टेट्सशी सामरिक स्पर्धेचे महत्त्वाचे क्षेत्र मानतो. मानवरहित प्रणालींसह विविध लष्करी प्लॅटफॉर्ममध्ये AI तंत्रज्ञान आधीच समाकलित केले जात आहे.

या प्रगती असूनही, बीजिंग हे कायम ठेवत आहे की AI ने रणांगणातील गंभीर निर्णयांमध्ये मानवी निर्णयाची जागा घेण्याऐवजी मानवी कमांडर्सना मदत केली पाहिजे.