Flock 表示，其新工具将有助于识别警察的虐待行为，但尚未解释其工作原理

监控技术初创公司 Flock 周四宣布了一系列新政策和工具，声称它们将有助于遏制其自动车牌摄像头读取器系统的滥用，并帮助其执法客户承担责任。 Flock 现在建议警察部门将数据保留 7 天，而不是之前的 30 天。随着这一变化，该公司推出了所谓的“证据模式”，当客户需要在“特殊情况”下更长时间地保留数据并需要特定的案例编号时，可以打开该模式。客户现在还可以根据正在调查的犯罪类型，对与其他客户共享的数据设置限制。该公司还强调了一种名为“审计协助”的工具作为关键变化之一。 Flock 在四月份推出了该工具。 Flock 表示，从那时起，“超过三分之一”的客户已经启用了它，该初创公司现在要求所有客户在今年年底前启用它。根据周四发布的博客文章，弗洛克表示，审计协助“检测到异常活动并将其标记为供管理员审查”。如果发生这种情况，该工具可以自动锁定已标记的用户，直到管理员进行干预。据 Flock 称，该工具已经帮助客户发现并阻止滥用行为。几位高管都吹捧了审计协助的功能。但尽管它声称很重要，弗洛克并没有详细解释审计协助实际上是如何运作的。一些官方评论提供了对审计协助可以做什么的一些理解；当试图确定它是如何做到的时，它会变得模糊。例如，Flock 的信任与合规主管 Ashley Haber 在视频中表示，审计协助可以标记“特定用户可能看起来奇怪的搜索历史记录”，帮助客户了解其用户如何操作系统。在另一个视频中，Flock 联合创始人 Paige Todd 表示，“审核协助实际上会尽早标记出异常模式。想象一下用户在 30 多天内重复搜索同一个盘子。” Flock 客户、佐治亚州邓伍迪警察局的帕特里克·克里格少校在一份新闻稿中将这一功能描述为“一种算法，可以通知我们任何类型的偏见”。 Flock 将审计协助描述为一项功能，可以“尽早发现非典型活动，并通过清晰、记录的工作流程快速对其进行审查”。目前还不清楚的是，这个“算法”实际上是如何工作的，它是根据什么数据进行训练的，以及它是否是使用大型语言模型开发的，TechCrunch 已经要求答案。 TechCrunch 还询问它旨在呈现什么样的模式，以及到底什么被标记为“异常活动”？根据 Flock 的说法，审计协助并非基于[机器学习]或人工智能。该公司告诉 TechCrunch，“这是一种数据工具，可以标记非典型搜索模式以供进一步审查。触发标记的一个例子是，如果用户使用多个不同的案例代码搜索同一个车牌，因为这可能表明滥用。标记并不意味着它肯定是滥用 - 它只意味着需要进一步调查。”然而，许多问题仍未得到解答，包括 Flock 是否有任何统计数据或数据表明该工具的有效性、其误报率和漏报率是多少，以及是否经过第三方审核？隐私专家和 Flock 批评者对审计协助并不感兴趣。美国公民自由联盟高级政策顾问查德·马洛在回应弗洛克的声明时写道，“没有证据表明该工具能够持续发挥作用”来解决虐待问题。马洛写道：“虽然最近有数十名警官因个人原因滥用 Flock 而被逮捕、解雇或受到其他纪律处分，但 Flock 声称这些逮捕证明了其审计工具的有效性。” “然而，除非我们知道滥用该系统的官员数量，否则我们无法断定 Flock 及其审计工具是否捕获了 95% 或 5% 的违规者。Flock 需要由独立评估人员分析其审计工具，以确定其实际有效性。在此之前，我们不知道该工具是真正的安全措施还是只是装饰门面。”电子前沿基金会的安全研究员兼高级公共利益技术专家库珀·昆廷 (Cooper Quintin) 告诉 TechCrunch，审计协助是否有效可能并不重要。他说：“如果确实有效，执法部门将找到解决方法。”他补充说，最终重要的是施虐者是否被抓获并被追究责任。 “如果滥用行为没有后果，并且[该工具]向谁报告与实施滥用行为的警察机构相同，那么它只是 Flock 的一块遮羞布。确保问责制的最佳方法是通过法律限制该技术的使用，并要求其使用有搜查令。”布伦南中心自由与国家安全项目主任雷切尔·莱文森-瓦尔德曼 (Rachel Levinson-Waldman) 告诉 TechCrun