डीपफेक तपासात एफबीआयने ग्रोकला आत्मसमर्पण करण्यास भाग पाडले

एक नवीन फेडरल केस हे दर्शविते की एआय सिस्टीमसह चॅट्स गुन्हेगारी तपासांमध्ये मुख्य पुरावा कसे बनू शकतात. न्यायालयीन नोंदी उघड करतात की फेडरल ब्युरो ऑफ इन्व्हेस्टिगेशन (FBI) ने X ला त्याच्या AI चॅटबॉटसह वापरल्या जाणाऱ्या प्रॉम्प्टशी संबंधित रेकॉर्ड प्रदान करण्याचे आदेश देणारे शोध वॉरंट प्राप्त केले. तपासकर्त्यांचे म्हणणे आहे की या प्रॉम्प्ट्समुळे शेकडो असहमतीचे लैंगिक व्हिडिओ तयार करण्यात मदत झाली ज्यांनी वास्तविक स्त्रीला लक्ष्य केले.

प्रतिज्ञापत्र सायमन टकवर केंद्रित आहे, ज्याला त्याच्या ओळखीच्या एका महिलेवर आणि तिच्या पतीविरुद्ध छळ, सायबरस्टॉकिंग आणि धमकावण्याचे आरोप आहेत. तपासकर्त्यांनुसार, टकचा महिलेशी नियमित संपर्क होता.

त्याने तिच्यासोबत वर्कआउट केले आणि मजकूर संदेशांची देवाणघेवाण केली. त्यादरम्यान, एजंटांनी आरोप केला आहे की ती त्याच्या गॅरेजमध्ये व्यायाम करत असताना त्याने गुप्तपणे तिचा व्हिडिओ रेकॉर्ड केला.

अधिकाऱ्यांचे म्हणणे आहे की छळवणूक मोहीम अनेक महिन्यांत वाढली आणि ऑनलाइन गैरवर्तनाच्या पलीकडे गेली. प्रतिज्ञापत्रात दावा केला आहे की टकने जोडप्याचे घर घुसवले आणि खोट्या आणीबाणीच्या अहवालांवर आधारित पोलीस प्रतिसाद दिला.

त्याने नवऱ्याच्या मालकाकडे निनावी तक्रारीही पाठवल्या, ज्यात त्याच्यावर मुलांवर अत्याचार आणि अंमली पदार्थांचा वापर केल्याचा आरोप केला.

FBI तोतयागिरी आणि डीपफेक निर्मितीची मोहीम उघड करते

तपासकर्त्यांचे म्हणणे आहे की त्याने सामूहिक हिंसाचार आणि आत्महत्येचा समावेश असलेल्या धमक्या पाठवण्यासाठी पतीची तोतयागिरी केली. दुसऱ्या एका घटनेत, त्याने अंत्यसंस्कार गृहाशी संपर्क साधला आणि इशारा दिला की पती लवकरच मरण पावेल. पीडितेला पाठवलेले संदेश सेक्टर 16 नावाच्या कथित रशियन हॅकिंग गटाकडून आल्याचा दावाही करण्यात आला आहे.

फेडरल एजंट म्हणतात की AI साधनांनी या प्रकरणात मध्यवर्ती भूमिका बजावली. जानेवारीमध्ये, तपासकर्त्यांनी संशयिताच्या चॅटबॉटच्या वापराशी संबंधित संभाषणांसाठी वॉरंट सुरक्षित केले.

एफबीआयने असे म्हटले आहे की त्याला प्रॉम्प्ट प्राप्त झाले होते ज्यात सुमारे 200 पोर्नोग्राफिक व्हिडिओ तयार केले गेले होते ज्यात एका महिलेचे चित्रण केले होते जी पीडितेच्या पत्नीशी जवळून साम्य दाखवते.

एका उदाहरणामध्ये टेनिस कोर्टवर गोरा रंगाच्या खेळाडूने कपडे उतरवलेल्या स्टेजच्या परिस्थितीचे वर्णन करणाऱ्या तपशीलवार सूचनांचा समावेश आहे. प्रॉम्प्टने स्पष्टपणे नग्नतेसह समाप्त होणारे कपडे, शरीराचा प्रकार आणि क्रिया निर्दिष्ट केल्या आहेत. तपासकर्त्यांचा असा युक्तिवाद आहे की वारंवार प्रॉम्प्ट स्त्रीच्या संमतीशिवाय लैंगिक सामग्री तयार करण्याचा हेतू दर्शवतात.

प्रतिज्ञापत्रात असेही आरोप करण्यात आले आहे की संशयिताने चॅटबॉटचा वापर पतीबद्दल औपचारिक तक्रार तयार करण्यासाठी केला होता, जी नंतर त्याच्या कामाच्या ठिकाणी सादर केली गेली होती. एजंट म्हणतात की हे दर्शविते की जनरेटिव्ह AI टूल्स दुर्भावनापूर्ण हेतूने वापरताना त्रास देणे आणि तोतयागिरी करण्याच्या प्रयत्नांना कशी मदत करू शकतात.

आधुनिक छळाच्या प्रकरणांमध्ये पुरावा म्हणून एआय लॉग

कथित आचरण त्याच्या प्रमाणात आणि तीव्रतेसाठी वेगळे असले तरी, तज्ञांनी लक्षात ठेवा की नमुना स्वतःच परिचित आहे. पाठलाग आणि छळवणुकीच्या बळींना सहसा समन्वित मोहिमांचा सामना करावा लागतो ज्यात वास्तविक-जगातील धमक्या आणि ऑनलाइन गैरवर्तनाचे मिश्रण होते.

पुरावा म्हणून AI चॅट लॉगची स्पष्ट भूमिका ही या प्रकरणाला वेगळी बनवते. कायद्याची अंमलबजावणी आता ईमेल, मजकूर संदेश किंवा सोशल मीडिया पोस्ट सारख्या चॅटबॉट्ससह संभाषण हाताळते.

या प्रकरणामुळे व्यासपीठाच्या जबाबदारीवरही प्रश्न निर्माण झाले आहेत. तपासकर्त्यांचे म्हणणे आहे की चॅटबॉटला कमकुवत सामग्री सुरक्षिततेमुळे टीकेचा सामना करावा लागला तेव्हा व्हिडिओ तयार केले गेले. ऑनलाइन वापरकर्त्यांनी याआधीच काही प्रकरणे नोंदवली आहेत ज्यामध्ये विशिष्ट मार्गांनी सूचित केल्यावर सिस्टमने स्पष्ट किंवा अपमानास्पद सामग्री तयार केली आहे.

समीक्षकांचा असा युक्तिवाद आहे की संयमातील अंतरांमुळे वापरकर्त्यांना ओळखण्यायोग्य लोकांना लक्ष्य करणारी हानिकारक सामग्री तयार करण्यासाठी टूलला ढकलण्याची परवानगी मिळाली.

कायदेतज्ज्ञांचे म्हणणे आहे की तपास बदलण्याचे संकेत आहेत. एआय कंपन्यांना आता वापरकर्ता प्रॉम्प्ट आणि व्युत्पन्न आउटपुट शोधण्यासाठी अधिक वॉरंट मिळू शकतात. कथित गुन्ह्यांशी संबंधित असताना न्यायालयांनी डिजिटल संप्रेषणांमध्ये प्रवेश करण्याची परवानगी दिली आहे. AI संभाषणे समान श्रेणीत येतात.

पीडितांसाठी, दावे वैयक्तिक आणि तात्काळ असतात. असहमत लैंगिक प्रतिमा वेगाने पसरू शकते, प्रतिष्ठा खराब करू शकते आणि चिरस्थायी भावनिक हानी होऊ शकते. धमक्या आणि तोतयागिरी एकत्र केल्यावर, ते भय निर्माण करू शकते जे इंटरनेटच्या पलीकडे दैनंदिन जीवनात पसरते.

प्रतिज्ञापत्र दोषी ठरवत नाही आणि आरोप न्यायालयीन कार्यवाहीच्या अधीन राहतात. तरीही, केस स्पष्ट चेतावणी देते. जनरेटिव्ह एआय टूल्स सामान्य झाल्यामुळे, त्यांनी तयार केलेले रेकॉर्ड देखील शक्तिशाली पुरावे बनू शकतात. एआय सिस्टममध्ये वापरकर्ते काय टाइप करतात ते एक माग सोडू शकतात आणि तपासकर्ते आता त्याचे अनुसरण करण्यास इच्छुक आहेत.