फ्लॉक म्हणतो की त्याचे नवीन साधन पोलिस अत्याचार ओळखण्यात मदत करेल, परंतु ते कसे कार्य करते हे स्पष्ट केले नाही

पाळत ठेवणे तंत्रज्ञान स्टार्टअप कळप जाहीर केले गुरुवारी नवीन धोरणे आणि साधनांची मालिका, दावा करत आहे की ते त्याच्या स्वयंचलित लायसन्स प्लेट कॅमेरा रीडर सिस्टमच्या गैरवापराला आळा घालण्यास आणि कायद्याची अंमलबजावणी करणाऱ्या ग्राहकांना जबाबदार ठेवण्यास मदत करतील.

फ्लॉक आता पोलिस विभागांना मागील 30 दिवसांपेक्षा सात दिवस डेटा ठेवण्याची शिफारस करत आहे. या बदलासह, कंपनीने “एव्हिडन्स मोड” म्हणून ओळखले आहे, जे ग्राहकांना “अपवादात्मक प्रकरणांमध्ये” जास्त काळ डेटा राखून ठेवण्याची आवश्यकता असताना आणि विशिष्ट केस नंबर आवश्यक असताना ते चालू केले जाऊ शकते. तपासाधीन असलेल्या गुन्ह्याच्या प्रकारावर आधारित ग्राहक आता इतर ग्राहकांसोबत शेअर करत असलेल्या डेटावर मर्यादा देखील सेट करू शकतील.

कंपनीने मुख्य बदलांपैकी एक म्हणून “ऑडिट असिस्टन्स” नावाचे साधन हायलाइट केले. कळप साधन सुरू केले एप्रिल मध्ये. तेव्हापासून, फ्लॉकने म्हटले आहे की त्याच्या “एक तृतीयांश पेक्षा जास्त” ग्राहकांनी ते चालू केले आहे आणि स्टार्टअपला आता वर्षाच्या अखेरीस सर्व ग्राहकांना ते सक्षम करणे आवश्यक आहे.

फ्लॉकने सांगितले की ऑडिट असिस्टन्स “असामान्य क्रियाकलाप शोधते आणि प्रशासक पुनरावलोकनासाठी ध्वजांकित करते,” असे गुरुवारी प्रकाशित झालेल्या ब्लॉग पोस्टनुसार. तसे झाल्यास, जोपर्यंत प्रशासक हस्तक्षेप करत नाही तोपर्यंत हे साधन ध्वजांकित केलेल्या वापरकर्त्यांना स्वयंचलितपणे लॉक करू शकते. फ्लॉकच्या म्हणण्यानुसार, टूलने ग्राहकांना आधीपासूनच गैरवर्तन शोधण्यात आणि थांबविण्यात मदत केली आहे.

अनेक अधिका-यांनी लेखापरीक्षण सहाय्याच्या क्षमतेचा उल्लेख केला आहे. परंतु त्याचे नमूद केलेले महत्त्व असूनही, ऑडिट सहाय्य प्रत्यक्षात कसे कार्य करते हे फ्लॉकने तपशीलवार स्पष्ट केले नाही.

काही अधिकृत टिप्पण्या लेखापरीक्षण सहाय्य काय करू शकते याची काही समज देतात; ते कसे करते हे ठरवण्याचा प्रयत्न करताना ते अस्पष्ट होते.

उदाहरणार्थ, फ्लॉकचे ट्रस्ट आणि अनुपालनाचे प्रमुख ऍशले हेबर एका व्हिडिओमध्ये म्हटले आहे ऑडिट सहाय्य “विशिष्ट वापरकर्त्याच्या विचित्र शोध इतिहासासारखे काय दिसू शकते” हे ध्वजांकित करू शकते, जे ग्राहकांना त्यांचे वापरकर्ते सिस्टम कसे चालवत आहेत हे समजण्यास मदत करते. दुसर्या व्हिडिओ मध्येफ्लॉकचे सह-संस्थापक Paige Todd म्हणाले, “ऑडिट सहाय्य खरोखरच असामान्य नमुने लवकर ध्वजांकित करते. विचार करा की एक वापरकर्ता 30 दिवसांपेक्षा जास्त काळ तीच प्लेट वारंवार शोधत आहे.”

आणि डनवूडी, जॉर्जिया पोलीस विभागाचे मेजर पॅट्रिक क्रिग, एक कळप ग्राहक, वैशिष्ट्य वर्णन केले “एक अल्गोरिदम ज्याने आम्हाला कोणत्याही प्रकारच्या पूर्वाग्रहाबद्दल सूचित केले आहे” म्हणून एका प्रेस रिलीजमध्ये.

कळप वर्णन करते लेखापरीक्षण सहाय्य हे वैशिष्ट्य म्हणून जे “अटिपिकल क्रियाकलाप लवकर उघड करू शकते आणि स्पष्ट, दस्तऐवजीकरण केलेल्या वर्कफ्लोसह त्वरीत त्याचे पुनरावलोकन करू शकते.”

काय अस्पष्ट आहे — आणि Read ने उत्तरे मागितली आहेत — हे “अल्गोरिदम” प्रत्यक्षात कसे कार्य करते, ते कोणत्या डेटावर प्रशिक्षित आहे आणि ते मोठ्या भाषेचे मॉडेल वापरून विकसित केले गेले असल्यास. हे देखील वाचा विचारले की ते कोणत्या प्रकारचे नमुने पृष्ठभागासाठी डिझाइन केलेले आहे आणि “असामान्य क्रियाकलाप” म्हणून नक्की काय ध्वजांकित केले जाते?

फ्लॉकच्या मते, ऑडिट सहाय्य (मशीन लर्निंग) किंवा AI वर आधारित नाही. कंपनीने रीडला सांगितले की “हे एक डेटा साधन आहे जे पुढील पुनरावलोकनासाठी ॲटिपिकल शोध नमुन्यांची ध्वजांकित करते. ध्वज ट्रिगर करणारे एक उदाहरण म्हणजे एखाद्या वापरकर्त्याने एकाधिक भिन्न केस कोड वापरून समान प्लेट शोधल्यास, कारण हे संभाव्यतः गैरवर्तन दर्शवू शकते. ध्वजाचा अर्थ असा नाही की तो निश्चितपणे दुरुपयोग आहे — याचा अर्थ फक्त तो पुढील तपासाची हमी देतो.”

असंख्य प्रश्न अनुत्तरीत आहेत, तथापि, फ्लॉककडे साधन किती प्रभावी आहे हे दर्शवणारी कोणतीही आकडेवारी किंवा डेटा आहे का, त्याचे खोटे सकारात्मक आणि चुकीचे नकारात्मक दर काय आहेत आणि तृतीय पक्षाद्वारे त्याचे ऑडिट केले गेले आहे का?

गोपनीयता तज्ञ आणि फ्लॉक समीक्षक ऑडिट सहाय्याने प्रभावित झाले नाहीत.

अमेरिकन सिव्हिल लिबर्टीज युनियनचे वरिष्ठ धोरण सल्लागार चाड मार्लो लिहिले फ्लॉकच्या घोषणेला प्रतिसाद म्हणून की गैरवर्तन संबोधित करण्यासाठी “साधन सातत्याने कार्य करते याचा कोणताही पुरावा नाही”.

“व्यक्तिगत कारणांसाठी फ्लॉकचा गैरवापर केल्याबद्दल डझनभर अधिका-यांना अलीकडेच अटक करण्यात आली आहे, काढून टाकण्यात आले आहे किंवा अन्यथा शिस्तभंग करण्यात आला आहे, फ्लॉकचा दावा आहे की ही अटक त्याच्या ऑडिटिंग टूलच्या कार्याचा पुरावा आहे,” मार्लोने लिहिले. “तथापि, प्रणालीचा गैरवापर करणाऱ्या अधिका-यांची संख्या कळत नाही तोपर्यंत, आम्ही निष्कर्ष काढू शकत नाही की Flock आणि त्याची ऑडिटिंग साधने 95% उल्लंघनकर्ते किंवा 5% पकडत आहेत. फ्लॉकला त्याची वास्तविक परिणामकारकता निर्धारित करण्यासाठी स्वतंत्र मूल्यांकनकर्त्याद्वारे त्याचे ऑडिटिंग साधन विश्लेषित करणे आवश्यक आहे. तोपर्यंत, आम्हाला हे माहित नाही की हे साधन फक्त सुरक्षा उपाय आहे की खिडकी मोजण्याचे साधन आहे.”

कूपर क्विंटीन, सुरक्षा संशोधक आणि इलेक्ट्रॉनिक फ्रंटियर फाऊंडेशनचे वरिष्ठ सार्वजनिक हित तंत्रज्ञ, यांनी रीडला सांगितले की ऑडिट सहाय्य कार्य करते की नाही हे देखील महत्त्वाचे नाही.

“जर ते कार्य करत असेल, तर कायद्याची अंमलबजावणी करतील ते मार्ग शोधून काढतील,” तो म्हणाला, शेवटी काय महत्त्वाचे आहे की गैरवर्तन करणाऱ्यांना पकडले जाते आणि जबाबदार धरले जाते. “जर दुरुपयोगाचे कोणतेही परिणाम नसतील आणि ज्याने (टूल) तक्रार केली तीच पोलिस एजन्सी आहे जी दुरुपयोग करत आहे, तर ते कळपासाठी फक्त एक अंजीरचे पान आहे. जबाबदारी सुनिश्चित करण्याचा सर्वोत्तम मार्ग म्हणजे या तंत्रज्ञानाच्या वापरास प्रतिबंध करणारे कायदे करणे आणि त्याच्या वापरासाठी वॉरंट आवश्यक आहे.”

ब्रेनन सेंटरच्या लिबर्टी अँड नॅशनल सिक्युरिटी प्रोग्रामच्या डायरेक्टर रॅचेल लेव्हिन्सन-वॉल्डमन यांनी रीडला सांगितले की ऑडिट सहाय्य अनिवार्य करणे हे योग्य दिशेने एक पाऊल आहे आणि “सिद्धांतात” हे साधन “एक उत्तम कल्पना” आहे. परंतु तिने हे देखील सांगितले की साधन स्वतःच “ऑडिट करणे आवश्यक आहे” कारण ते व्यवहारात कसे कार्य करते याबद्दल पुरेशी माहिती नाही.

फ्लॉकच्या घोषणा त्याच्या ग्राहकांच्या अनेक वर्षांच्या घटनांनंतर येतात वारंवार त्याच्या तंत्रज्ञानाचा गैरवापर करत आहे. या आठवड्याच्या सुरुवातीला, जॉर्जियाचे तीन माजी शेरीफचे डेप्युटी अटक करून आरोपी करण्यात आले बिब काउंटी शेरीफच्या कार्यालयाने एका प्रसिद्धी पत्रकात म्हटल्याप्रमाणे, ज्यांच्याशी त्यांचे “त्यावेळी वैयक्तिक संबंध” होते अशा लोकांचा पाठलाग करण्यासाठी फ्लॉक कॅमेरे वापरणे. या प्रकरणात, बिब काउंटी शेरीफ डेव्हिड डेव्हिसने विशेषत: दुरुपयोग उघड करण्यासाठी फ्लॉकचे नवीन साधन ऑडिट सहाय्य बोलावले.