近日,路透社公布的一项调查显示,美国第三大连锁药店Rite Aid在全美200家商店中秘密部署人脸识别系统,其中大部分部署于有色人种居住的低收入社区中。
据悉,他们使用该技术已超过8年,直到最近才停止。
Rite Aid是美国东海岸最大的连锁药店之一,总部位于宾夕法尼亚州,在美国开设有大约2500家商店。该连锁药店出售处方药以及保健药品、化妆用品、家庭日用品等多种商品。
拥有该项技术的Rite Aid会拍摄并在后台直播每个进入商店的人,创建一个独特的面部轮廓。当顾客走到Rite Aid商店的另一台面部识别相机前,新的图像就会被添加到顾客现有的个人资料中。
当商店管理员看到有人犯罪或者有可疑动作时,会在后台进行搜索匹配,经过经理批准后,才会将此人添加到“可能从事潜在犯罪活动的人”的监视名单中。
当顾客再次走进使用了这项技术的Rite Aid时,安全监管员将新采集的图像与“可能从事潜在犯罪活动的人”名单进行匹配。若匹配成功则会将警报发送到安全员的手机上。相关人员在确认匹配准确后,将要求该顾客离开商店。
商店安全管理人员补充说,他们在10天后就无法获取这些图像,除非此人根据在商店的行为被列入监视名单。
Rite Aid随后证实了其面部识别程序的存在和范围。并称该公司使用人脸识别技术的目的是防止盗窃和暴力犯罪,保护员工和顾客免受暴力侵害,不涉及种族歧视。
虽然Rite Aid表示,他们会告知顾客,在进入商店时有相机对他们的面部进行扫描并识别。但是调查发现,至少三分之一的商店并未设置相关标识。并且Rite Aid拒绝透露在哪些商店部署这些设有人脸识别功能的相机。
路透社调查中发现,纽约和洛杉矶的75家Rite Aid商店中,有33家商店部署有这种相机。
设有人脸识别功能的相机很容易辨认,它们通常悬挂在商店入口附近和化妆品过道的天花板上。大多数长半英尺,呈矩形,标有其型号“iHD23”或带有供应商首字母“DC”的序列号。
这75家商店中,较贫困地区的商店比高收入地区的商店使用面部识别的可能性要高得多。
在黑人和拉丁裔居民等有色人种占比最大的地区,商店里部署人脸识别系统的可能性是其他社区的三倍以上。
目前,Rite Aid发表声明表示已关闭所有设有人脸识别功能的相机。 相关人员称,“鉴于该技术的实用性越来越不确定,其他大型科技公司似乎正在缩减或重新考虑在人脸识别方面的投入。”
近年来深受财务亏损困扰的Rite Aid并不是唯一采用或尝试人脸识别技术的零售商。
2018年,部分美国零售商成了一个旨在测试反犯罪技术的联盟——零售防损研究委员会(Loss Prevention Research Council),将人脸识别技术视作“有发展前途的新工具”。其中美国有几家零售商决定采用人脸识别技术,此技术可以帮助增加销量,减少损失。
美国第二大零售商Home Depot向路透社表示,他们在至少一家商店测试了人脸识别能否减少入店行窃,但已在2020年停止实验。此外,CNBC报道显示,截至2019年初,美国知名家装产品零售公司Menards在至少10个地点试用了人脸识别系统。沃尔玛也在少数商店试用了该系统。
弗吉尼亚州独立的7- 11连锁店老板告诉路透社,他们从2018年开始试用该软件,但后来放弃。他们发现这个系统很大程度上是准确的,但对用户不友好,而且维护成本太高。该系统在网上的广告中称月费为99美元。
2
美国政府机构的一项研究表明,当受试者的肤色较深时,支持该技术的算法更容易出错。
一位顾客回忆起2016年9月在Rite Aid商店被误认为是潜在的扒手的经历。顾客认为因其是有色人种才被识别错误。
Rite Aid目前使用的这项技术由 DeepCam提供,早前,使用的则是FaceFirst的技术。同时使用过两个系统的安全管理人员表示,尽管有时会出现失误,但DeepCam的匹配更准确。
而从2013年开始,随着Rite Aid在费城、巴尔的摩等地部署FaceFirst的技术,发生过严重误识别。
其在事件发生一周后向加州消费者事务部提交的诉状,他在2016年9月在某Rite Aid商店时,一名经理命令他离开商店。据起诉书称,这名经理曾收到该2013年在另一家Rite Aid公司拍摄的图像,该图像显示他偷了东西。
但该顾客看到经理提供的照片时表示,除了他们都是黑人种族之外,他们长得一点都不像。
人脸识别技术在美国已经引起了高度争议,因为它在公共和私营部门的使用都在扩大,包括执法部门和零售商。公民自由倡导者警告说,这可能会导致对无辜个人的骚扰、任意和歧视性的逮捕、侵犯隐私权。
2019年5月,旧金山通过人脸识别禁用法令,禁止城市工作人员购买和使用人脸识别技术,成为全球首个禁止人脸识别的城市。随后,奥克兰和萨默维尔市也通过人脸识别禁令。
旧金山在一项关于监视技术的行政法规——《停止秘密监视条例》中,针对人脸识别技术特别指出,“人脸识别技术危害公民权利和公民自由的倾向大大超过了其声称的好处,这项技术将加剧种族不平等,并威胁到我们不受政府长期监控的生活能力”。
弗洛伊德事件后,人脸识别使用争议再次引发讨论,美国多家科技公司公开宣布放弃这项技术。
此前,在亚马逊宣布禁止向美国警方出售面部识别软件Rekognition一年以后 ,随后,IBM、微软相继宣布停止向美国警方提供面部识别技术,并反对将其用于大规模监视和种族定性。
尽管承诺的细节和条款有所不同,比如亚马逊、微软表示暂时停止,而IBM则完全退出面部识别技术的出售,但这三家公司都要求美国华盛顿特区监管该技术。
“技术可以提高透明度,帮助警察保护社区,但绝不能放大歧视与种族不平等。”IBM首席执行官克里希纳在给美国国会议员的公开信中这样讲到。
美国公民自由联盟(ACLU)高级政策分析师杰伊·斯坦利(Jay Stanley)表示,对于监控技术引发的公民自由担忧,正确的回应是“不要秘密使用它”。雷锋网雷锋网雷锋网