该禁令之前设定为期一年,原定于六月到期。亚马逊没有立即回应为何延长这一禁令。
早在 2018 年,亚马逊员工就曾力促亚马逊缩减这一项目的规模——他们认为,有记载的人脸识别种族偏见,可能加剧当地警方对少数族裔的暴力行为。
亚马逊一直为该项目辩护,直到去年6月,当时抗议活动的压力越来越大,亚马逊这才宣布,面向警方客户的服务暂停一年。
Rekognition属于AWS所提供的一项服务,其实许多亚马逊在云计算领域的竞争对手都具有类似的技术。就在亚马逊做出承诺的第二天,微软也宣布了类似声明,称将不会向当地警方出售其面部识别服务。
而IBM在同一周内也表示,将停止开发或研究面部识别技术;谷歌则表示不会向任何人提供面部识别技术的商用。
去年夏天,关于人脸识别技术的道德性问题甚嚣尘上。麻省理工学院媒体实验室的研究员Joy Buolamwini和微软研究院的Timnit Gebru,都致力于揭示人脸识别技术在种族偏见方面的偏见。两人做了不少基础性工作,其中有一篇共同撰写的论文被广泛引用。
该论文指出,包括IBM和Microsoft在内的主要科技公司,他们的人脸识别系统,用于识别肤色较黑的人的错误率,比识别肤色较白的人要高几十个百分点。根据《纽约时报》的一份报告,问题部分在于用于训练系统的数据集,其中绝大多数可能是男性和白人。
在2019年的另一项研究中,Buolamwini和另一位学者分析了Rekognition,发现亚马逊的系统也存在重大问题,无法识别肤色较黑的人的性别,以及误以肤色较黑的妇女为男性。研究发现,该系统在分析肤色较浅的人的图像时的错误率几乎为零。
在之前首次宣布禁用于执法时,亚马逊曾表示,希望国会利用这段服务暂停的时间,来调整人脸识别技术的法律法规。
当时亚马逊在声明中曾表示,“我们主张政府制定更严格的法规来管理人脸识别技术使用的道德问题,期望这一为期一年的暂停,可以使国会有足够的时间出台适当的规则,并且我们随时准备根据要求提供帮助。”