Google内部掀起风波,员工抗议与军方合作有关人工智能的项目

Google内部掀起风波,员工抗议向军方出售人工智能的项目

为了赢得云计算业务,Google开始投入战争业务。一些工作人员担心这是朝自动杀人机器迈出的第一步。

去年7月,13名美国军事指挥官和技术高管在距离Google总部两英里的五角大楼硅谷前哨会见。这是在2016年成立的咨询委员会的第二次会议,就如何将技术应用于战场向军方提供咨询。Google副总裁Milo Medin将谈话转向在战争游戏中使用人工智能。

几个月后,国防部聘请Google的云部门负责Maven项目的工作,这是一项大力加强其监控无人机的技术,帮助机器思考。

近4000名Google员工签署了一封信函,要求Google首席执行官Sundar Pichai拒绝签署Maven项目合同,并停止“战争行业”的所有工作。

请愿书引用了Google避免军事工作的历史和著名的“不要做恶”的口号。Alphabet的AI研究实验室之一甚至已经远离了该项目。反对这项交易的员工认为,它是朝向杀人机器人迈出的第一步。Gizmodo在周一报道中称,大约有十几名员工辞职,以此抗议公司继续参与Maven项目的活动。

知情人士表示,Pichai和他的副手正在起草道德原则,以指导Google强大的人工智能技术的部署,这将影响其未来的工作。Google是争夺五角大楼云计算合同价值至少100亿美元的几家公司之一。Google发言人拒绝透露是否因军事工作内部纷争而改变。

Pichai面临的挑战是如何找到一种调和Google的主和派。Google花费了十多年的时间来发展业界最强大的人工智能研究和能力,并热衷于将这些进步与其快速发展的云计算业务联系在一起。竞争对手急于与政府达成交易,而政府每年在云计算上花费数十亿美元。Medin和Alphabet总裁施密特都曾在五角大楼的国防创新委员会工作,这促使Google与政府在反恐,网络安全,电信等领域展开合作。

为了支配云业务,并实现Pichai成为“AI为优先的公司”的梦想,Google可能很难避免战争。

在公司内部,Google云计算公司首席Diane Greene是与政府合作的倡导者。在3月的一次采访中,她捍卫了五角大楼的合作关系,并称将Maven项目描述为一个转折点是错误的。“Google长期与政府合作。”

五角大楼在大约一年前创建了Maven项目来分析监控数据堆。Greene说,她的部门只赢得了合同中的一小部分,而没有提供具体细节。她描述了Google在良性方面的作用:扫描地雷的无人机镜头,然后将其标记给军事人员。Google称,该软件不用于识别目标或做出任何攻击性决定。

许多员工认为她的理性化说法不具说服力。即使AI团队的成员也表示反对,他们担心与五角大楼合作会损害与消费者的关系以及Google招聘的能力。

Google员工在战争中使用人工智能的不适感长期存在。AI总裁Jeff Dean在I / O会议上透露,他在2015年签署了一封公开信,反对在自主武器中使用AI。Dean说,向军方提供具有AI功能的Gmail并不错,但在其他情况下它变得更加复杂。去年,包括负责Alphabet的DeepMind AI实验室的Demis Hassabis和Mustafa Suleyman以及着名的人工智能研究员Geoffrey Hinton在内的几位高管签署了一封致联合国的信函,概述他们的担忧。

信中写道:“致命的自主武器……将使武装冲突能够以比以往任何时候扩大,并且速度比人类更快,毕竟人类无法长时间持续行动。”据熟悉该决定的人士透露,位于伦敦的DeepMind向员工保证不会参与Maven项目。DeepMind女发言人拒绝发表评论。

人工智能的军事系统已经犯过错误。数字权利基金会(Digital Rights Foundation)主任Nighat Dad引用两名半岛电视台记者的案例,他们提起了法律上的投诉,称他们被美国政府的天网监视系统错误地置于无人机“杀人名单”中。Dad在4月份向Pichai发了一封信,要求Google终止Maven项目的合同,但表示她还没有收到回复。

一些AI专家主要关注的是现有技术仍然不可靠,并且可能被黑客入侵,改变战场决策。纽约大学AI研究员Gary Marcus说:“我不会信任用软件来做关键任务的决定。Maven项目属于道德“灰色地带,因为公众并不知道软件将如何使用。如果Google希望从事为军队做分类的事情,那么公众有权关心Google会成为什么样的公司,”Google的云部门没有通过分类项目的认证。Google发言人拒绝透露该公司是否会获得该认证。

多年来,Google通常会退出其收购的公司的政府合同。2011年,面部识别初创公司匹兹堡模式识别系统收入679,910美元。第二年,Google从美国政府的收入就低于此数。(这些数字不包括军方对Google广告的支出,这些数字是机密的,可能每年大概有数百万美元。)机器人制造商波士顿动力公司在2013年末被Google收购之前,已经产生了超过1.5亿美元的联邦合同,明年合同结束。Google 同意在2017年出售 Boston Dynamics。

自从2015年被聘到运营云部门以来,Google对政府工作的关注就减轻了不少。去年,联邦机构花费超过60亿美元购买未分类的云合同。其中约三分之一来自国防部。目前Amazon Microsoft和Oracle是大玩家。自2014年以来,仅亚马逊的云业务就与中央情报局合作,处理了6亿美元的分类工作。

Greene决心竞争这样的合同。“研究者将与政府合作,因为政府需要大量的数字技术,”她在3月份的采访中说。4月2日,Maven项目收到了额外的政府拨款。军方官员已经把这个计划作为减少耗时任务和提高战争效率的关键手段。

国防部长詹姆斯马蒂斯8月份访问Google,并会见了Pichai,Greene和联合创始人谢尔盖布林。他们讨论了公司的云计算和人工智能方面的进展以及其他机遇,例如寻找新的方式来共享军方拥有的电信频谱,这是另一个Google项目(Schmidt在12月辞去Alphabet的主席职务,他被排除在Google与五角大楼工作的决策之外。7月份国防创新委员会的会议记录在网上公开)。

但公司内部的鸿沟依然存在。反对项目Maven请愿书是该公司历史上最大的一个,它以鼓励内部辩论而闻名。Gizmodo首先报道了Google员工对该公司参与的担忧。Pichai已经与员工解决了这个问题,但尚未回应他们取消合同的要求。

Google首席执行官在I / O会议上没有提到军事交易。几位高管私下说,他们信任Pichaik能做出适当的决定。这笔交易也没有出现在人工智能大会上。

本文为ATYUN(www.atyun.com)编译作品,ATYUN专注人工智能
请扫码或微信搜索ATYUN订阅号及时获取最新内容

发表评论