雷锋网按：本文为美国宾夕法尼亚大学工程院院长Vijay Kumar在CCF-GAIR大会上做的题为“Challenges in Autonomy”的分享，雷锋网进行了全文整理。全文分为上下两部分，以下是第二部分。
传送门：时隔一年 Vijay Kumar 再登 GAIR 讲台，讲述自动化的技术与社会挑战（上）
2017年7月7日至9日，全球人工智能与机器人峰会CCF-GAIR大会在深圳成功举办。本次由CCF中国计算机学会主办、雷锋网与香港中文大学（深圳）承办。来自全球30多位顶级院士、近300家AI明星AI企业，齐聚智能科技产业盛会。
Vijay Kumar在无人机领域被称为“无人机大神”。他在多机器人的编队控制协调，做出了非常大的贡献。2016年，Vijay Kumar在CCF-CAIR峰会介绍了无人机会向着Small（小型），Safe（安全），Smart（智能），Speed（敏捷）和Swarm（集群）“5s”的趋势发展。时隔一年 Vijay Kumar 再登 GAIR讲台，今年Vijay Kumar以“Challenges in Autonomy”为主题，进行了演讲，重点介绍了自动化浪潮的技术与社会挑战。Vijay Kumar是美国宾夕法尼亚大学工程院院长，同时也是美国国家工程院院士，美国电子电气工程师协会研究员（IEEE Fellow）。
以下为Vijay Kumar演讲速记全文整理，雷锋网在不改变原意的基础上做了精编：
说到自动驾驶汽车或者无人机的时候，大家都说，我们要有机器学习，我们确实在做机器学习，但是它有很多的限制。我们要让机器懂得学习，如果操作者、设计者想要打破固有的框架，我们希望让机器做更多的事情。比如我们可以做一些抽象算法，这些抽象的东西是人进行控制的，比如动态的模型，我们想学习如何在高速情况下防撞，我们可以用一些计算机学习通过对数据的收集、分析处理，当时我们也可以让我们的机器做更加复杂的运算。
另外汽车也可以去越过一些障碍物，但是需要掌握更加复杂的技能，这是机器学习的重要意义。能够在更加复杂的环境当中驰骋，我们要解决一些问题，包括计算机技术的发展，可以让计算机做一些更加复杂的信息，可以建立不同的传感器获取更多的信息。我知道这里有张桌子、有椅子、后面有门，这样的图像就可以建立起来，帮助计算机学习和了解周围的环境。现在我们的计划和控制没有办法通过机器学习来实现。
深度学习在我的实验室里也有一部分，就是我们说的精准农业，机器穿过橘子林，就能算出橘子的数量，飞机起飞之后，它可以穿过橘子林，正确得到橘子的数字，我们计算是很重要的。但是这样的成果就可以让农民知道它今年的收成是多少，这样就可以更好的优化它生产的系统，包括后续的果实采摘、交通运输等等，在好的收成年份有很好的帮助。比如一棵橘子树，你数到一半就数不下去了。现在有这样的技术，你拿到95%的数据，这样对精准农业非常有帮助。
机器人和人工智能可以说还不能想象。我们应该有更多的期待。格林斯潘在1997年就尝试过利用机器预测金融危机，但失败了。我们现在不能过度夸大人工智能的能力，我认为人工智能是有局限的。
首先，现在有很多数据过程，它需要机器学习。在学习过程中会带来新知识。现在，我们数据的量每九个月就会翻一番，我们学习的知识远远赶不上这样的速度。我想说机器应该加强学习能力。我们计算非常复杂，现在可以做很高强度的计算，但不意味着机器就可以自动的完成这些事情。
其次，如果我们可以数果实，99%都是对的。但我们可能需要很大的数据才能够完成这个任务，如果要把准确率从90%提升到99%，可能需要花很大的力气才能实现这个目标。所以，在某种程度上，我们所需要的数据量，是乘几何倍数的增加。你要数果实，可能不需要99.99%的准确率，只需要90%。但是你一辆车每分钟90分钟的速度就需要99.99%的准确率。自动化数果实不一定要那么准，但你要开车或者在YouTube上找一个猫，准确率不需要那么高，但要驾驶一个车，准确率就要非常高。另外，采取行动之前必须要有认知，这个认知越来越困难。同样，行动也是一样的。你要经过感知之后采取相应的行动，这样一个循环往复，就会给你带来一个很大的计算量和很大的数字。
最后，我之前没有讲到这一点，但是Oussama Khatib教授提到了。那就是我们想做实体的会更难。尤其是飞行和开车，我们不会有实际的接触，这只是通过数据实现。但如果要有实际的接触，会更难。
未来自动化机器人，人机之间的互动，会是发展方向。现在我们对这一点的研究还非常初步，除非能够找到人机互动之间的和谐方式。我们可能做一些非常简单的任务，未来会有更多的挑战。人工智能还有机器人要往前发展，还需要做很多努力。
另外，关于能源问题。我们在空中举起一公斤的重量，需要200瓦，如果你要举起一个50公斤的人，可能需要更大的能量消耗。现在我们的技术还没有达到这样的水平，尤其是要消费的能源，如果模式不发生改变，在未来就很难实现。因为你可以看到电池越来越贵。我现在要来到北京，可能看到很多电动车在上路。那就意味着这个电动车未来的电池价格会下降，特斯拉也在做自己的电池工厂。但现在我们知道，事情还远远没有达到理想的状态，我们将会在未来把很多东西提到天上去。这个过程需要消耗大量的能量。有一家公司叫做Jet Optera，他们由一个非常快的速度，承重可以达到5镑，是用化学燃料。尤其是航空行业，如果不用化石燃料，可能很难有发展。
现在我们有很多挑战，比如在社会中。第一，这个世界是多种多样的，这个世界可以获得各种各样的科学技术的发展和进步。我觉得这就是所谓科技的民主化。现在一个高中生，对于机器人的了解比我在大学之后的程度还要深。这就是技术发展的速度，当然，也有很多的机会，同时，也有一些陷阱。为什么我这么说？我想向大家展示一张漫画（上图），我们当时在发明车轮的时候，是怎样的情景。如果有人要做车，这个人要很有钱才行。这张图片可以看到，这个国王是四个人才把他举起来，而我们说只有国王才能坐轿子，其他人没钱坐轿子。但现在有了车轮之后，三个人丢失了工作，只需要一个人就能够拉车。好像现在计算机技术的发展，机器人未来可以完成越来越多的工作，就会有很多人失去工作。对于我们来讲，就会有更多的技术呈现在我们面前。
从我们的角度出发，有这样一个金字塔，当谈到研究以及研究到哪个程度，就会出现这个金字塔。这个金字塔展示了最底部，有很多人薪资非常少，很有可能能换成人民币，不管是在哪个国家，同样的情况都是如此。但随着研究程度不断提升，这个金字塔越往上走，人就越少，社会财富总是掌握在少数人手中。你研究的越多，就会有更多的机会能够接触到高薪工作。这对于目前的环境来说也是如此。
从四年前到现在情况发生了极大的变化，金字塔发生了变化，我们都在探讨这个金字塔到底哪个部分会慢慢失去。很多人认为，最低端的工作会被机器人期待，但我认为不是，因为现在机器人还没有办法达到三岁小孩的思考能力。我们不可以同样一个机器人和中国五岁的小孩玩其他游戏并且战胜这个小孩。我们认为机器人在复杂的计算能力里还是有局限的。在没有特别多的训练里，他们的工作仍然可以做得很好。但四年之后，中间的工作会消失，可能并不是最顶尖和最底部，而是中间的工作会给到这些人。现在可能最好中国大学毕业的学位或者世界上最好大学毕业的学位，你们已经做到这一点。
在考试中得到了好成绩。但机器人现在最擅长的就是考试。所以对我们来说，如果你只是擅长考试的一个机器，你今天就有可能被机器人取代。因为机器人可能考试比你好，四年后你的工作可能就要拱手让给机器人了。这是我们对未来机器人发展的想法。对我们来说，最好的解决方案就是通过教育做到，我们要不断学习，尽管我已经是一个教授。拜登曾经说过永不停止的教育，这样的说法能帮助我们拯救社会，帮助我们免予受到机器人取代这一步。
安全性，我们很难理解到底在机器人当中所谓的安全性是什么，现在并没有过多的数据指导，对安全性进行量化。但我们现在谈到的安全性多种多样。
第一，所谓验证。比如你有一个洗衣机，如果你想证明它是一个洗衣机，就必须要证明这个洗衣机是一个洗衣机的特质。洗衣机的特质是把衣服放进去洗衣机就可以洗衣服。所以你可以证明这个机器是一个洗衣机。但现在要证明是机器人很难。
第二，信任。我们提到这个机器人，我们要证明机器人，事实上并不会出现任何人类所希望看到的结果。我们会看是否能证明它不会漏水，它并不会造成电器的短路。所以我认为信任也非常重要。
第三，安全性。在实体世界中，有两种方法，能真正触动一个系统或者侵入一个系统。要么黑进一个系统或者黑进一个感应器。现在如果要去黑一个自动驾驶，不是黑系统而是黑感应器。要么是摄像机要么是其他感应器黑掉，黑掉以后就黑掉整个系统。谈到安全性，很多人之前没有提到或者想到。在不断推动自动化系统过程中，安全性非常重要。
我们生活在一个非常兴奋的时代，如果我们来看一下这个横轴，当时出现了实体世界的革命，然后进入半导体革命，然后有互联网带来网络革命，现在正在进行人工智能以及机器人，现实世界和虚拟世界的结合。我们相信未来会不断推广，我们走着这段发展道路。而对于人来说，发生了变化，但是人的发展是一个线性的过程，如果看一下政府对技术的理解以及政府如何通过技术进行政策推广。事实上比我们更慢。人在不断的适应各种技术，社交媒体就很好，我们现在在不断的接触和了解并且适应机器人。
未来有了自动驾驶的汽车和飞行器，除了安全问题，还要探讨政府的政策和法律监管。很多政府现在还没有想到那么多，美国的政府可能已经在探讨这方面的问题，而中国政府还没有探讨到很多对于自动驾驶汽车、自动驾驶无人机的法律监管问题。我相信这部分也是我们重点进行关注。我知道我们现在确实有Oussama Khatib提到的潜水机器人、手术机器人，都能得到有效的利用，但我们要探讨如何进行安全利用。未来这点会越来越重要。
正在生成分享图...
覃倩雯