डच न्यायालयाने AI गैरवर्तनावर कडक कारवाई केली, xAI च्या Grok ला गैर-सहमतीने नग्न प्रतिमा तयार करणे थांबवण्याचे आदेश दिले किंवा €100,000-एक-दिवसाच्या दंडाला सामोरे जावे लागेल

नेदरलँडमधील एका न्यायालयाने असा निर्णय दिला आहे की xAI चा Grok AI चॅटबॉट त्या चित्रांमधील व्यक्तींच्या स्पष्ट संमतीशिवाय कोणत्याही प्रकारचे कपडे न घातलेल्या किंवा लैंगिक सूचक पद्धतीने चित्रित केलेल्या लोकांच्या प्रतिमा तयार करू शकत नाही. न्यायालयाचा निर्णय हा युरोपमध्ये एआय इमेज तंत्रज्ञानाच्या गैरवापराच्या संदर्भात घेतलेल्या पहिल्या मोठ्या कायदेशीर कारवाईंपैकी एक आहे.

AI प्रतिमेच्या गैरवापरावर लँडमार्क नियम

ॲमस्टरडॅम जिल्हा न्यायालयाने xAI आणि Grok यांना त्यांच्या स्पष्ट संमतीशिवाय पूर्णपणे किंवा अंशतः कपडे घातलेल्या व्यक्तीचे चित्रण करणाऱ्या प्रतिमा तयार करणे किंवा वितरित करणे थांबवणे आवश्यक आहे, या स्वरूपाची सामग्री बेकायदेशीर आहे आणि लोकसंख्येसाठी गंभीर धोका आहे, विशेषत: जेव्हा वास्तविक लोकांच्या प्रतिमा हाताळल्या जातात.

याशिवाय, कंपनीने आदेशाचे तात्काळ पालन केले पाहिजे, अन्यथा त्यांना गंभीर परिणामांना सामोरे जावे लागेल, असेही न्यायाधीशांनी स्पष्ट केले. ऑर्डरचे पालन करण्यात अयशस्वी झाल्याबद्दल xAI ला दररोज €100,000 पर्यंत दंड होऊ शकतो; याशिवाय, निषिद्ध आदेशांचे उल्लंघन होत राहिल्यास Grok नेदरलँड्समधील X या सोशल मीडिया साइटवर किंवा शक्यतो इतरत्र उपलब्ध होणार नाही.

भारी दंड आणि प्लॅटफॉर्म जोखीम

नेदरलँड ऑफलिमिट्स आणि व्हिक्टिम सपोर्ट फंड मधील संस्थांद्वारे xAI विरुद्धची कारवाई सुरू करण्यात आली होती, हे दर्शविण्यासाठी की Grok ने पीडितांविरुद्ध ऑनलाइन मोठ्या प्रमाणात गैरवर्तन सक्षम केले आहे. त्यांनी पीडितांमध्ये मोठ्या प्रमाणात वाढ झाल्याचा दावा केला आणि सांगितले की अतिरिक्त गैरवर्तन टाळण्यासाठी त्वरित कारवाई करणे आवश्यक आहे.

या महिन्याच्या सुरुवातीला Grok च्या चाचणीच्या चाचणी परिणामांनुसार, xAI ने प्रभावी सुरक्षा उपाय लागू केले आहेत असे प्रतिपादन करूनही ते कदाचित स्पष्ट किंवा गैर-सहमतीच्या प्रतिमा निर्माण करत असावेत. कोर्ट-ऑर्डर केलेल्या चाचणी दरम्यान, कथितपणे त्या सुरक्षिततेच्या ठिकाणी असतानाही ते अद्याप हानिकारक सामग्री तयार करत आहे.

चाचणी अंतर्गत सुरक्षा अयशस्वी

सत्ताधाऱ्यांना मुलांच्या सुरक्षेचीही काळजी आहे. न्यायालयाने विशेषत: असे आदेश दिले की ग्रोकने डच कायद्यांतर्गत बाल लैंगिक शोषण सामग्रीची व्याख्या पूर्ण करेल अशी कोणतीही सामग्री तयार किंवा वितरित करू नये. हा निर्णय प्रौढ आणि अल्पवयीन व्यक्तींच्या डीपफेक प्रतिमा तयार करण्यासाठी वापरल्या जाणाऱ्या AI साधनांच्या गैरवापराबद्दल संपूर्ण युरोपमध्ये व्यापक चिंता प्रतिबिंबित करतो.

या निर्णयाकडे एआय नियमन संदर्भात आंतरराष्ट्रीय चर्चेतील महत्त्वपूर्ण क्षण म्हणून पाहिले जात आहे. अलिकडच्या काही महिन्यांत, युरोपियन युनियन आणि इतर सरकारे आणि नियामक संस्थांनी डीपफेक लैंगिक प्रतिमा आणि जनरेटिव्ह AI च्या गैरवापराला प्रतिसाद म्हणून तंत्रज्ञान कंपन्यांवर दबाव वाढवला आहे. Grok आधीच जगभरातील असंख्य देशांमध्ये तपास आणि कायदेशीर कारवाईच्या अधीन आहे.

हेही वाचा: ट्विटर सध्या डाउन आहे का? एलोन मस्क एक्सने काम करणे बंद केल्यामुळे पुन्हा ग्लोबल आउटेजची नोंद झाली – कारणे आणि कायमस्वरूपी उपाय जाणून घ्या

The post डच न्यायालयाने AI गैरवर्तनावर कडक कारवाई केली, xAI च्या Grok ला गैर-सहमतीने नग्न प्रतिमा तयार करणे थांबवण्याचे आदेश दिले किंवा €100,000-एक-दिवसाचा दंड ठोठावला.