警方正在以错误的方式使用面部识别

导读 面部识别很容易成为危言耸听,但在一天结束时,它是一个简单的匹配系统。该算法建立一组特征并查找匹配,就像搜索引擎或语音到文本系

面部识别很容易成为危言耸听,但在一天结束时,它是一个简单的匹配系统。该算法建立一组特征并查找匹配,就像搜索引擎或语音到文本系统一样。问题在于人们如何使用这种能力 - 无论是商业营销还是更具争议性的警察监控。

如果您不按照设计的方式使用系统,那些问题就会变得特别糟糕。乔治城最近的一项研究发现,纽约警察局官员在将图像输入系统之前故意操纵图像,经常用眼睛或嘴巴粘贴,以使图像符合系统的标准。在一个特别令人震惊的案件中,官员实际上使用了一张演员伍迪哈里森的照片,基于目击者的说法,他说肇事者看起来像哈里森。

面部识别系统从未构建为以这种方式使用,结果可以预测:高错误率。如果你相信警察,这可能是值得的 - 一些松散的面孔要筛选以产生线索 - 但如果你不这样做,那么图片就会更加黯淡。一个人仅仅在面部识别比赛的基础上被捕是很少见的,但是错误的比赛可能会导致警察停止。从法律上讲,这可以让算法代表合理的怀疑,这是短暂拘留一个人进一步调查的法律标准。

但如果算法使用不当,警方几乎可以从任何事情中产生合理的怀疑。并且因为这些算法的灵敏度很容易调整(并且这些调整很难做到),所以很容易将给定的面调整为匹配。这是一个难以解决的问题,特别是如果你不相信使用这些工具的人。对于面部识别的批评者来说,它会使整个系统过于危险而无法信任。