股东致信贝佐斯。根据CNN报道,上周五,20家亚马逊股东团体向首席执行官杰夫·贝佐斯致信,要求他停止将公司的面部识别软件出售给执法部门。这个被称为Rekognition的软件在上个月发布时揭示了与警察使用有关的内部文件,因此上个月该软件受到了更严格的审查。众多公民权利组织共同签署了一封要求亚马逊停止协助政府监控的信函,几位国会议员也对合作关系表示担忧。
“我们担心这种技术会被用来不公平地和不成比例地针对和监控有色人种、移民和民间社会组织。”据报道,股东包括Social Equity Group和Northwest Coalition for Responsible Investment。“我们担心销售可能扩大到包括专制政权在内的外国政府。”
亚马逊公开宣传警方如何利用其脸部识别软件识别执法人员感兴趣的人。在亚马逊的网站上,俄勒冈州华盛顿县的一位系统分析师解释了Rekognition如何获得一个包含300,000张逮捕照片的数据库,以便与监控图像中的脸部相匹配。值得注意的是,被逮捕通常是导致一个人最终进入数据库的原因,而不是被定罪。如果被捕者最终被发现是无辜的,则不能保证他们的照片将从这些数据库中清除以备未来匹配。
5月份,美国公民自由联盟公布了令人不安的内部文件,其中包括华盛顿县官员发送的一封电子邮件,告诉亚马逊他们正在使用Rekognition来识别“无意识或已死亡的人”以及“可能的证人”。另一份文件显示该软件识别O.J。 Simpson的照片,与一名白人被捕者有93.53%的匹配度。
人们对此反应非常迅速,特别是来自国会的少数党议员。国会黑人团体致函贝佐斯指出,由于“有色人种社区比白人社区面临更加严厉和激烈的监控”,他们担心由于[。。。]违宪的执法行为产生的偏斜数据集,致使作出错误决定。如果一个城市不成比例地逮捕有色人种,它的照片数据库可能大多是有色人种,包括那些最终证明是清白的人。
人脸识别成为一种警察工具,它更常用于有色人种,这是令人担忧的,原因有很多,最不重要的是,它对有色人种的准确性不高。黑人代表Keith Ellison和Emanuel Cleaver也给亚马逊写了一封信,引用了麻省理工学院的一项研究,该研究发现了人脸识别技术的精确度方面存在巨大的种族差异。
Ellison和Cleaver写道:“一系列研究表明,与白种人和男性相比,识别非裔美国人和女性的脸部时,脸部识别技术一直不太准确。” “黑人社区成员的逮捕率过高,使得执法部门使用面部识别技术存在问题,因为这可能有助于加强这一趋势。”
Rekognition可以从任何来源的图像,这意味着来自任何警察监视工具(包括闭路电视,人体摄像头和无人机)的图像或视频都可能意味着与数据库匹配。由于美国在机场,边界甚至学校都采用人脸识别,所以隐私问题显而易见。