北京青年报
美国计算机协会呼吁政府和企业停止使用人脸识别技术
澎湃新闻 2020-07-01 21:27

人脸识别在美国遭遇更多的争议。

当地时间6月30日,美国计算机协会(ACM)的技术政策小组呼吁,以记录在案的种族和性别偏见为由,敦促美国立法者立即中止企业和政府部门使用人脸识别。同时,美国技术政策委员会(USTPC)也发布了一封信,承认人脸识别技术有望在未来得到改进,但尚未“足够成熟”,因此会对人们的人权和合法权利构成威胁。

根据乔治敦大学针对人脸识别项目的测试结果,广泛使用该技术将对美国黑人的生活产生负面影响。包括美国公民自由联盟(ACLU)和算法正义联盟等隐私和种族正义倡导组织,在过去都曾支持停止使用人脸识别技术。但ACM是全球最大的计算机科学组织之一,在全球拥有近10万成员。

“(人脸识别)偏见带来的后果确实会常常带来不便和严重危害,尤其是对特定人口群体中的个人,这些人是我们社会中最脆弱的一部分,偏见会给他们的生计和基本权利造成的严重伤害。”USTPC在信中写道。

在USTPC的信中,还提到了人脸识别的准确性、透明度、风险管理和责任制等相关的监管原则。其中推荐的原则包括:根据种族、性别和其他适当的人口统计数据对人脸识别系统错误率进行分类;面部识别系统必须经过第三方审核和强大的政府监督;使用人脸识别系统时,必须要告知,并在部署前阐明情况;如果造成影响和伤害,则使用人脸识别的组织应当承担责任。

USTPC的信中并没有要求永久禁止使用人脸识别,而是希望能暂时禁止带来种族和性别偏见的技术。根据Gender Shades项目在2018年和2019年对主要人脸识别系统的测试发现,人脸识别系统显示出种族和性别偏见,并且对不符合单一性别认同的人表现不佳。

在弗洛伊德事件后,人脸识别使用争议再次引发讨论。美国多家科技公司,包括微软、IBM、亚马逊等都已表示暂停向美国警方提供人脸识别系统。上周,美国参议院和众议院的许多议员甚至提出了立法,禁止联邦雇员使用人脸识别技术,如果部分州和地方政府细节选择使用该技术,将削减资金。

旧金山、波士顿等美国城市此前都以性别偏见和错误识别为由,成为美国禁止使用人脸识别技术的城市。在美国底特律,居民罗伯特·威廉姆斯(Robert Williams)成为第一位因人脸识别的错误识别被逮捕并被指控为犯罪的人。底特律警察局认为底特律使用的人脸识别软件有96%的时间是不准确的。(澎湃新闻记者 王心馨)

编辑/田野

最新评论