Google 用 AI 帮美军方分析无人机航拍视频，员工对“助纣为虐”怒了

Google 正在利用人工智能技术帮助美国国防部分析其无人机拍摄的视频片段。

据外媒 Gizmodo 报道，上周，一些 Google 员工在内部邮件中分享该消息后，点燃了部分人的愤怒情绪。而另一些人则认为双方的这次技术合作关乎机器学习发展和使用的道德问题。

雷锋网了解到，去年秋天，还担任 Alphabet 董事长的 Eric Schmidt 在一次谈话中曾谈到科技圈与军方合作关系的担忧。 “技术社区普遍担心军事和工业结合体，会被作为不正当杀人利器，”同样也是国防创新委员会成员的他补充说，“我不会在军队内部提供 Alphabet 的东西。”

然而，Google 似乎食言了。

对于这次合作，可能会给 Google 带来的好处是，将联邦政府视为客户之后，更有利于其在云服务市场上拉近 AWS 和 微软 Azure 云。而且 Google 也称其与军方的合作与战争用途无关，但这一问题仍引起了员工们的普遍关注。

1.

争议合作也就是 Google 参与的 Maven 项目。

Maven 项目于 2017 年 4 月由军方主导创建，它也被称为算法战跨职能团队（AWCFT）。Maven 的任务指向是 “加速国防部整合大数据和机器学习技术”。华尔街日报曾有报道称， 2017 年，国防部在人工智能相关领域总共花费了 74 亿美元，主要以应对中国在 AI 上的新军备竞赛。

据该中心的助理研究员 Greg Allen 介绍，该项目的首要任务是帮助军方有效地处理空中无人机每天收集的大量视频片段。尽管国防部已经投入资源开发先进的传感器技术以在无人机飞行期间收集资料信息，不过在整理数据时，它创建的分析工具较为落后。

“在 Maven 之前，该部门没人知道如何恰当地购买、使用人工智能服务。” Allen 写道。

Maven 的其中一个任务是使用机器学习来识别无人机视频图像中的车辆和其他物体，从而减轻分析人员的负担。根据国防部的说法，Maven 想利用最先进的计算机视觉技术能够自动检测和识别无人机全动态摄像机捕获的 38 种物体。

这种 AI 技术目前已被部署在了法律执行和军事应用中，用来识别汽车和人等基本物体，但在分析复杂场景时也会遇到困难。有研究人员曾警告，AI 技术可能会以不易察觉的方式产生重大偏见。例如，ProPublica 在 2016 年的报告中指出，用于预测囚犯再度犯法可能性的算法经常表现出种族歧视倾向。

2.

Google 发言人称，它正在向国防部提供用于机器学习应用的 TensorFlow API 接口，以帮助军事分析人员检测图像中的物体。

TensorFlow 是一款 AI 领域免费的系统软件，一直是 Google AI 战略的关键。它为机器学习工程师提供了进行数据排序和训练算法的框架，并且在整个行业中被广泛使用。

“我们长期与政府机构合作为其提供技术解决方案。这个特定项目是国防部的试点项目，提供开源的 TensorFlow API，可以帮助其识别未分类数据中的对象。”发言人说。

军方正在使用 TensorFlow，这并不令人感到意外，但知情人士向 The Verge 证实，Google 正在积极帮助它的软件以用于 Maven 项目。同一消息来源指出，谷歌和国防部之间的保密协议里有多少人参与这个项目的详细信息以及这种合作深入状况，但具体情况并没有透露。

过去，Google 一直非常警惕与军事研究的可能会存在的任何关系。例如，据雷锋网了解，它在 2013 年收购了一系列机器人公司时，尽力与该公司正在执行的 DARPA 项目保持距离。而在谷歌于 2014 年收购 DeepMind 之后，该公司也成立了道德委员会，以确保该技术不会被滥用。

尽管如此，除了那些已经与美国使用无人机进行海外监视和有针对性杀戮的相关问题之外，Google 将人工智能用于 Maven 项目不免引发道德问题。美国军方强调它只会将人工智能作为人类收集情报的合作伙伴，但计算机辅助决策仍然可能会引发错误。人类无人机操作员可能过分依赖有缺陷的计算机分析结果，如果没有适当的监督，这些缺陷可能会被忽视。

当然，Google 发言人承认使用机器学习用于军事项目具有一定争议性，但她表示该技术将图像标记后用于人员审查，属于非攻击性用途。Google 目前围绕这一争议问题正制定相关政策和保障措施。

3.

国防部正在加速 Maven 项目的执行，预计在其成立六个月后即可投入运行。据报道，自 12 月以来，该项目已被部署在与伊斯兰国的对抗中。

为了满足该项目的迫切时间要求，国防部依靠自身显然并不足够。于是，它转而寻求与学界和业界的人工智能专家合作，以弥补军方和硅谷之间的技术差距。根据项目总监 John Shanahan 的说法，Maven 项目将为整个国防部点燃“人工智能的火焰前沿”。

2017 年夏季，在华盛顿举行的国防技术峰会上，Maven 首席海军陆战队上校 Drew Cukor 说，人与计算机之间的共生关系对于帮助武器系统探测物体至关重要。

在与许多来自硅谷的军事和工业技术专家对话中，Cukor 宣称美国正处于人工智能军备竞赛。“你们许多人会注意到，Eric Schmid 现在称 Google 是一家人工智能公司，而不是数据公司，”但此时 Cukor 并没有提及 Google 是 Maven 的合作伙伴。

 “没有任何‘黑匣子’能够提供政府需要的 AI 系统，至少现在不是这样，”他继续说道，“关键力量必须整合在一起，唯一方法就是与商业合作伙伴进行合作。”

国防部发言人也拒绝透露 Google 是否是其 Maven 项目唯一的私营行业合作伙伴，也没有澄清 Google 在该项目中扮演的角色。

*雷锋网报道

参考来源：Gizmodo,The Verge，图片来自 Jim Cooke