एआय मानवतेला धोका देऊ शकते अशी चिंता का आहे?

मानवतेला धोक्यात आणण्याच्या तंत्रज्ञानाच्या संभाव्यतेबद्दल चिंतित AI संशोधक, तज्ञ आणि बॉस यांनी अस्वस्थ परिस्थितीची रूपरेषा मांडली आहे.

डारियो अमोदेई सप्टेंबर मध्ये लिहिले, बाह्य ते अपेक्षेपेक्षा “अत्यंत जलद” प्रगत झाले होते, ज्यामध्ये “AI ची पुढची पिढी तयार करण्याची क्षमता” समाविष्ट आहे.

ही चिंता आहे की AI, एका विशिष्ट टप्प्यावर पोहोचल्यानंतर, सैद्धांतिकदृष्ट्या मानवी सहभागाशिवाय स्वतःला सुधारण्यास सुरुवात करू शकते.

नुकत्याच झालेल्या एका घटनेने AI टूल्स वेबसाईट्समध्ये हॅक झाल्याचे दिसल्यानंतर अशी भीती निर्माण झाली होती.

काही संबंधित संशोधकांनी असे म्हटले आहे की त्याच्या विकासाच्या केंद्रस्थानी असलेल्यांना “एआय एजंट” म्हणून ओळखल्या जाणाऱ्या प्रणालीवरील नियंत्रण गमावण्याची भीती वाढत आहे.

ही अशी साधने आहेत जी स्वतंत्रपणे कार्ये आणि कृती अंमलात आणण्याची क्षमता देतात.

इतर परिस्थितींमध्ये हेरगिरी, सायबर हल्ले किंवा जैविक युद्ध, किंवा अर्थव्यवस्था विस्कळीत करण्यासाठी वापरल्या जाणाऱ्या अत्यंत बुद्धिमान AI प्रणालींचा समावेश आहे – मग ते अपघाताने किंवा डिझाइनद्वारे.

तथापि, अशा चेतावणी भविष्यसूचक, काल्पनिक आणि काहींसाठी, पूर्ण हायपरबोल, बाह्य.

काही तज्ञांनी आधीच सुरू असलेल्या धोक्यांऐवजी अस्तित्त्वात असलेल्या जोखमींवर लक्ष केंद्रित करण्याची टीका केली आहे – जसे की प्रतिमा निर्मिती साधनांचा वापर महिलांच्या गैर-सहमतीने नग्न डीपफेक तयार करणे, लोकांना चुकीची माहिती देणे आणि घोटाळे वाढवणे.

खासदार आणि समवयस्कांच्या क्रॉस-पार्टी गटाने AI द्वारे उद्भवलेल्या मानवी हक्कांच्या जोखमींची रूपरेषा देणारा एक अहवाल प्रकाशित केला आहे, असे म्हटले आहे की अशा धमक्यांचे “प्रमाण आणि गांभीर्य संबोधित करण्यासाठी” नवीन कायदे आवश्यक आहेत.