微软敦促美国政府规范面部识别系统

2019-08-05 15:47:43

微软呼吁美国政府介入并规范面部识别技术的使用。Chris Middleton解释了原因。

“所有工具都可以用于好或坏。微软总裁布拉德史密斯在周五晚上(7月13日)的博客文章中写道,即使是一把扫帚也可以用来扫地或打人头。

但史密斯并不是在谈论清洁房屋 - 至少不是传统意义上的。他指的是面部识别系统,以及他们被私人公司和公共机构使用和滥用的可能性。

“面部识别技术提出了基本人权保护的核心问题,如隐私和言论自由,”他继续说道。“这些问题加剧了创建这些产品的科技公司的责任。”

解决这项技术潜在的大规模滥用问题的解决方案是微软称之为“深思熟虑的政府监管”而不是供应商自我监管,以及制定可接受使用的新规范。

史密斯呼吁“政府采取行动,规范面部识别技术的正确使用,首先由两党和专家委员会通报”。

新的背景

那么是什么促使微软要求美国政府监管技术部门,以及自己使用产品?或者,从另一个角度来看,寻求两党共识和补救措施?

最近一个月出现了一些关于面部识别在执法中越来越多使用的新闻报道 - 特别是在与少数民族公民打交道时,错误识别和偏见的风险增加。

“科技行业的研究人员正在加班加点以应对这些挑战,并且正在取得重大进展,”史密斯写道。“但正如 重要研究表明的那样,缺陷仍然存在。该技术的相对不成熟使得更广泛的公众问题变得更加紧迫。“

商业联盟最近报道了两名美国警察使用亚马逊的实时重新识别系统,以及英国警方自己使用该技术造成的不良结果的争议:2%的成功率和零逮捕。

但微软表示,这些问题只是问题的一部分:急于使用这项技术是我们努力创造的世界的核心所在。史密斯写道,这项技术“不再脱离社会”。“它正在我们的个人和职业生活中深深融入。”

史密斯承认,面部识别的一些新兴用途是积极的和变革性的,但是公众监督,政治监控,甚至零售商未经同意共享客户数据的风险应该迫使我们问:我们想要这些技术的作用是什么在我们的社会中发挥?

由自己的花瓣提升

但是微软本身在做什么,因为它可以解决问题的一部分?

最近关于微软与美国移民和海关执法局(ICE)的关系的争议不仅仅是因为全球对墨西哥边境的儿童与父母分离的反感,而且还与对可能歧视性地使用面部识别的担忧有关。通过ICE未来。

正如谷歌最近对道德人工智能开发的承诺是由员工反对其与五角大楼的Project Maven交易而引发的,因此微软关于面部识别的公开声明似乎受到了自己与ICE相关的强烈反对的刺激。

“有问题的合同根本没有被用于面部识别,”史密斯用一个值得注意的,防御性的声音写道。“微软也没有与美国政府就任何与边境儿童与家人分离有关的项目进行合作,我们强烈反对这种做法。

“合同下的工作取而代之的是支持旧电子邮件,日历,消息传递和文档管理工作负载。这种类型的IT工作在美国的每个政府机构中进行,对于这个问题,几乎每个政府,企业和非营利机构都在世界各地。

“但有些人建议微软取消合同并停止与ICE的所有合作。”

显然,微软无意这样做 - 或者至少,史密斯在这一点上放弃了这个主题,而是选择将一些微软的主要竞争对手引入更广泛的争议:

“[这些问题]今年早些时候出现在谷歌和其他科技公司。最近几周,一群亚马逊员工反对与ICE签订合同,同时重申美国公民自由联盟(ACLU)对执法使用面部识别技术的担忧。Salesforce员工提出了与移民当局和这些机构使用其产品相关的相同问题。

“越来越多的技术公司需要限制政府机构使用面部识别和其他技术的方式。”

但是,当然,供应商可以简单地拒绝从他们认为违反自己声明的价值的部署中赚钱。但目前有五百亿美元的五角大楼云计算合同可供争夺,他们中的任何一个都会走开吗?

但问题本身并没有消失,史密斯说,并补充说这使得“我们利用这个时刻来确定方向更为重要”。