你经常使用人脸识别功能吗?对使用该工具,你会否担心泄露隐私?
利用人脸识别来破案可如何平衡过程中可能产生的隐私泄露和算法歧视问题?
人脸识别技术在识别不同人种时是否存在天然偏见?
近日,美国路易斯安那州当局使用人脸识别技术,导致一名乔治亚州男子被误认为是逃犯被捕,在狱中待了6天。该男子名为兰德尔·里德(Randall Reid),被指控参与了路易斯安那州发生的一起奢侈品皮包盗窃案,他对此辩解称,自己从未去过路易斯安纳州。
随后,经过人工比对监控中的罪犯,警方发现里德脸上有一颗痣,且体重目测与罪犯存在40磅差距,他因此获释。不过有批评人士指,人脸识别技术不仅引发人们对隐私的担忧,技术本身对有色人种的误认率高于对白人,存在种族差异。
美联社援引路易斯安那州新奥尔良市当地媒体NOLA报导,新奥尔良警方对此表示,人脸识别技术只能用于给警方提供线索。而且,在警官向当地相关面部数据分析部门提出申请前,必须得到部门官员的批准。所有可能进行的人脸匹配都必须经过其他人脸识别调查员的同行审查。
关于政府是否应该使用人脸识别技术来抓捕罪犯,一直是全球热议的话题。毫无疑问,人脸识别技术可以帮助警方迅速精准地定位嫌疑人。然而,隐私忧虑、算法偏见都是该技术客观存在的弱点。
滥用人脸识别工具惹议
2021年,路易斯安那州曾提出一项限制使用人脸识别的州法案,不过,未被立法会通过。秉持自由主义的鹈鹕公共政策研究所(Pelican Institute for Public Policy)曾主张立法来对警方滥用该技术加以限制。对此,路易斯安那州警长协会和地区检察官协会执行董事均发言反对这一提案。
路易斯安那州警长协会执行董事麦克尔·拉纳扎(Michael Ranatza)指,警方使用该技术只是为了确定嫌疑人,而且任何匹配都是在得到验证的情况下进行的,就像使用指纹技术一样。他目前并不知道路易斯安那州有多少警官正在使用这一技术,不认为该技术是“专门为了抓人”。
路易斯安那州公民自由联盟(ACLU)宣传主任克里斯·凯泽(Chris Kaiser)则表示,出台相关限制法案,可以减少政府滥用人脸识别。他认为,人脸识别技术不仅仅是在对比几张照片,而是在全国、乃至全球范围内的图片库内搜索相关照片。同时,没有警方会承认自己依靠算法来确定嫌疑人,常常以“调查线索”为借口,但这一行为背后“(对公民)真的没有任何保护。”
过去几年中,美国不少城市及州都颁布过禁止或限制当地警察使用人脸识别软件的规定。据CNN报导,新奥尔良市曾在2020年通过了一项禁止警察使用人脸识别软件的条例,但在同年7月允许警察向上级申请许可,在暴力犯罪调查中使用该技术。同样,弗吉尼亚州曾在2021年禁止当地警察和校园执法部门使用面部识别技术。但在2022年3月批准了一项法案,允许警察在某些情况下使用该技术。
目前,没有联邦政府规定的法律来限制使用人脸识别。因此,美国各州、市都以各种方式自行监管。人脸识别技术的使用频率及场合在很大程度上仍然是未知数。据美国人脸识别初创公司Clearview AI称,其客户中有超过3100个美国机构,包括联邦调查局、国土安全部和“数百个地方机构”。该公司通过算法,将人脸与互联网上超过200亿张图像数据库进行匹配。此前被多个国家控诉涉嫌违规收集人脸信息的。
算法偏见难以忽视
据悉,一般存在两种类型的面部识别软件:一种是将一个人的照片与人脸数据库中的照片进行比较,寻找可能的匹配对象。警方在调查犯罪时往往使用这一种,Clearview AI公司售卖的,也是这一类软件。另一种常用于iPhone人脸识别,即开机时,系统将一个人的照片与另一张进行比较。
除这次事件之外,美国警方此前同样错误逮捕过多位黑人男子。美国国家标准和技术研究所的一份报告显示,研究人员调查了189种人脸识别算法(已经涵盖该行业中的大多数),并发现,大多数人脸识别算法都含有偏见。研究人员指,算法对黑人和亚洲人脸的错误识别率是针对白人面孔的10至100倍。对女性的错误识别多过男性,导致黑人妇女很容易受到算法偏见的影响。
传播公司AI for People创始人、联合国顾问穆塔勒·恩康德(Mutale Nkonde)曾在《哈佛大学肯尼迪学院非洲裔美国人政策杂志》的一篇文章中写道:“用技术来调查黑人人口动向是有历史先例的。”她认为,过去对黑人族群的歧视和今天的算法偏见之间是相通的。
她指出,面部识别技术依赖于开发人员提供的数据。而这个群体中白人族群占比过高。她敦促立法者利用“设计正义框架”,来管理人脸识别技术。这一框架将考虑“设计过程中会受影响的群体”,减少因种族偏见而产生的算法错误。
同时,此前轰动全球的美国警察对黑人男子暴力执法的“弗洛伊德案”再次引发了警方对少数族裔歧视性执法的关注与担忧。哈佛大学研究院辖下网站SITN(Science in the News)上曾有学者刊文指出,与美国白人相比,黑人更有可能因轻微犯罪而遭逮捕和监禁。因此,黑人在罪犯照片数据中的比例过高,人脸识别会利用他们的图片来比对罪犯。黑人族群在这些系统中形成了一种“前馈循环”机制,种族主义的执法策略会导致数据库中黑人比例过高,同时他们还会在未来受到更多监视。
利用人脸识别来破案,应该推广吗?如何平衡过程中可能产生的隐私泄露和算法歧视问题?
文:端传媒实习记者金悦琦