谷歌不再续签Maven军事项目合同,近期将起草禁止开发AI武器的政策

人工智能新闻资讯

在员工针对该项目向公司提出请愿后,谷歌决定不会续签五角大楼人工智能项目的合同。

数千名谷歌员工签署了一份请愿书,抗议公司与五角大楼Maven项目的合作关系。几位谷歌员工甚至请辞。员工最大的担忧之一是Maven将被用于致命目的。

根据纽约时报和Gizmodo报道,谷歌云计算负责人Diane Greene在会议上告诉员工,该公司与其国防部门达成的合同将在2019年失效,并且不会续签合同。谷歌表示将草拟道德政策,指导其参与未来的军事项目,这将明确禁止在武器中使用人工智能。“我们有义务展现出道德地使用人工智能的领导力。”

据Gizmodo称,该决定是根据Maven项目产生的内部和外部争议做出的。自从谷歌参与3月份的消息公布以来,已有4000多名员工签署了公开信,敦促公司重新考虑,数十人已经辞职,表示抗议。与此同时,位于伦敦的谷歌子公司DeepMind的人工智能研究人员和管理人员已经远离该计划,理由是两家公司之间达成的2014年收购协议不允许谷歌在监控和军事系统中使用DeepMind技术。

谷歌高管之间交换的内部电子邮件表明,尽管Maven项目具有争议性,但它将为更广泛地推动获利丰厚的军事合同铺平道路。Project Maven预计将在18个月内为该公司带来1500万美元的收入,未来几年将高达2.5亿美元。

谷歌在项目Maven合同下向五角大楼捐赠了TensorFlow,它的开源AI框架。但该公司还计划建立一个“类似谷歌地球”的监控系统,使得国防部分析师和承包商能够点击建筑物,车辆,人员,大量人群和地标,并查看与他们有关的所有事物。

“Maven是一个大型政府计划,通过更快地识别诸如暴力极端主义活动和人权(原文中这样描述)滥用等弊端,从而提高公民和国家的安全性,”谷歌的国防和情报销售主管Scott Frohman认为“谷歌 GPL [谷歌云平台]的规模和魔力,谷歌 ML [机器学习]的威力,以及我们员工的智慧和力量将带来安全性和可用性的数量级改进。”

这封电子邮件还透露,包括IBM,亚马逊和微软在内的硅谷重量级人物正在竞选人工智能国防部合同,而Maven项目与价值数十亿美元的政府云计算合同“直接相关”。合同没有提到名称,但它被认为是联合企业国防基础设施(JEDI),这是一项为期10年,价值100亿美元的计划,旨在将美国军方的大部分数据迁移到商业云提供商。

2017年底的各种电子邮件详细介绍了与五角大楼代表在谷歌桑尼维尔和山景城办公室的会面。根据Gizmodo的报道,谷歌已经证明,在12月份之前,Maven的图像分类成功率很高。谷歌成功构建了一个系统,可以识别以前系统漏掉的车辆。

然而,尽管技术上有所创新,但谷歌员工并不喜欢这种高风险的项目,他们希望继续处于人工智能道德的最前沿。

本文为ATYUN(www.atyun.com)编译作品,ATYUN专注人工智能
请扫码或微信搜索ATYUN订阅号及时获取最新内容

发表评论