3 月 18 日，49 岁的 Elaine Herzberg 在亚利桑那州坦佩市以北的公路 Mill Avenue 上骑着自行车，被一辆迎面驶来的沃尔沃 SUV 撞倒，当时车速为 40 英里/小时，Herzberg 当场死亡。
看起来，这只是一场普通悲剧。去年，仅在美国就有 6000 名行人因交通事故而死。但 Herzberg 的事故，有其特别之处：撞到她的“司机”，是 Uber 开发的一款软件。这是无人驾驶汽车引起的第一起死亡事故。Uber 及其主要芯片供应商英伟达停止了自动驾驶测试，美国国家运输安全委员会（ U.S. National Transportation Safety Board ）宣布进行调查，Uber 也正在配合。
做自动驾驶汽车的眼睛
在耶路撒冷，Amnon Shashua 开始了自己的测试。现年 57 岁的以色列人 Shashua 是耶路撒冷希伯来大学教授，同时也是 Mobileye CEO。Mobileye 创立于 1999 年，专注于自动驾驶视觉系统，开发了一款鼠标大小的辅助驾驶系统。该设备的摄像头和定制芯片卡在汽车后视镜后面，提供的算法和计算机芯片能够根据图像（由汽车上的摄像头拍摄）预测潜在碰撞事故。
Mobileye 以单价约 55 美元的价格向汽车供应商销售芯片，但用户要在经销商那支付约 1000 美元。现在，他们在全球已经搭载了 2700 万辆汽车。
2017 年 3 月 13 日，英特尔宣布以每股 63.54 美元现金收购 Mobileye，股权价值约 153 亿美元。这是以色列有史以来金额最大的一笔交易，也是英特尔发展史上的重大一步。英特尔 CEO Brian Krzanich 表示：“我们会尽力赢得（自动驾驶的）胜利。”
Mobileye 的另一个独特之处，在于其对安全问题的直言不讳。大多数自动驾驶汽车的“推销者”往往回避讨论可能存在的技术缺陷，因为害怕引起客户和监管机构恐慌从而影响购买，但 Shashua 回答了这个大多数公司避而不谈的问题。
回到 Herzberg 事件，3 月底，坦佩警察局发布了一段摄像头视频，记录了 Herzberg 被撞前的情况。Shashua 将视频放入了 Mobileye 系统中，来了解 Mobileye 计算机视觉系统的反应，并将记录撰写成《Experience Counts》一文，发布在了英特尔官网上。
该文章表示，Mobileye 软件正确地将 Herzberg 识别为了行人。一个月后，在 Mobileye 总部接受采访时，Shashua 表示，Uber 及其主要竞争对手 Waymo 正在“做出一些有用的东西”，但 Herzberg 的死是“可以避免的”。
“任何人都可以拥有一辆无人驾驶汽车”
Mobileye 在辅助驾驶市场占据约 70％ 份额，2016 年，美国国家公路交通安全管理局（National Highway Traffic Safety Administration）与各行业组织达成协议，将在 2022 年前将系统作为在美销售所有新车的标配。由此，至 2025 年，将可以避免 28,000 次撞车事故和 12,000 起车祸。
当然，Shashua 希望更进一步。2015 年，Mobileye 开始销售更复杂的系统，其能在高速公路上运行，类似于特斯拉公司的 Autopilot。该系统已为凯迪拉克 Super Cruise、日产 ProPilot 和奥迪 Traffic Jam Assist 提供硬软件支持，目前，Mobileye 还在开发完全自动驾驶系统套件，并将在明年为宝马、菲亚特·克莱斯勒和蔚来等汽车制造商提供支持。
4 月下旬，Shashua 邀请《彭博商业周刊（Bloomberg Businessweek）》的一位记者进行了一次完全自动驾驶原型车体验， 这也是 Mobileye 首次向记者展示该车。对于 Waymo 和 Uber，Shashua 持否定态度，他认为这两家公司的传感器、服务器和芯片都过于昂贵。
但 Waymo 和 Uber 表示，他们的成本正在下降，同时，昂贵的车型也是可行的，因为将来大多数自动驾驶汽车都将成为共享汽车，私有汽车会成为一种过时概念。
不过，Shashua 还是决定以相对便宜的价格为无人驾驶汽车提供支持。他们的福特原型车现在正在耶路撒冷测试，并计划今年晚些时候在加州进行 30 辆车的自动驾驶车队测试。
耶路撒冷的测试车没有安装雷达或激光雷达，唯一的传感器是隐藏在车身周围的 12 个摄像头。Mobileye 最后计划添加一些低成本雷达和激光雷达，但只是作为相机故障时的冗余。该原型车不依赖服务器和芯片组，而是依靠 Mobileye 目前的驾驶辅助系统中 4 个低成本的定制处理器。Shashua 表示，消费者只需支付 8000 美元，就能买到整套系统，“这意味着任何人都可以拥有一辆无人驾驶汽车。”不过，他可能高估了普通买车者的预算。
驾驶员“编写故事”
竞争对手们通常在郊区测试，选用的道路宽广，交通有序，有清晰路标，但 Mobileye 的测试地点在耶路撒冷，街道狭窄老旧，交通也不及美国郊区有序。
无人驾驶汽车必须做两件基本的事情：看清路上发生了什么，然后对这些信息作出反应。20 世纪 80 年代以来，Shashua 一直致力于解决第一个问题：计算机视觉问题。他出生于以色列特拉维夫，在成为 MIT 人工智能博士之前，在以色列名校魏茨曼科学研究院（Weizmann Institute of Science ）学习计算机科学。
1998 年，也就是 Shashua 读博后的第五年，他在日本名古屋创办了一家叫做 CogniTens 的公司，主要通过视觉技术测量保险杠，一直为丰田服务。在一次会议中，Shashua 提出，可以使用车内的单个摄像头警示人们是否会碰到障碍物或偏离车道，丰田对此表示怀疑，但同意投资几十万美元做相关研究。
今天，海量的数据集可以教软件在几周内区分障碍物，但那时，开发一款具备视觉系统的电脑还非常困难。 Mobileye 的工程师大多是 Shashua 在希伯来大学和 MIT 的学生，他们首先列出了汽车需要识别的道路特征清单，然后细化研究，这需要花上好几年时间。
现在，Mobileye 的一些早期代码仍然作为新的计算机视觉类型备份被用在距离测量中，但深度学习算法已经接管了大部分重要工作。在斯里兰卡，有 2000 多名员工组成的团队在开阔道路上收集数十万英里的视频，在电脑上对每一个识别结果（汽车、卡车、自行车、行人）进行标注，然后将这些数据输入到神经网络中训练，如此系统就能准确识别之前未见过的类似物体，即使汽车飞速行驶在高速公路上，这些物体只是一晃而过。
其团队面临的巨大挑战，是如何提高软件读取路标和其它物体的能力。工作人员对车辆标志、人行道、自行车道以及禁区内其它区域进行标注，然后在道路上绘制出车辆可以走和走不通的路线。每个场景都有很多元素，标注一个长达数分钟的剪辑视频可能需要一整天，Mobileye 研究执行官 Gaby Hayon 称：“这就像写一本大型词汇书。”
Hayon 说，驾驶员无意识地“编写了一个故事”，其中不仅包括数据（比如：汽车，右侧车道，45 英里/小时），还包括对过去和未来的感知。人类驾驶车辆时，可以看到右侧车道有一辆车，这辆车因为要右转而放慢了速度，它的速度可能会降下很多，这就要求你也要踩刹车或者大幅度转弯。
如果以人类类比自动驾驶系统，那么后者面临的挑战是如何提供足够数据，以确保计算机做出相同猜测。Hayon 表示：“我们正在做的，就是运用传感模型来为你的故事编写单词。”
*大多数自动驾驶汽车依靠复杂的激光和雷达阵列，Mobileye 目前的原型车只使用了相机。
深度学习的局限
在一个温暖的春日，一辆名为 Clara 的 Mobileye 原型车亮起了左转信号灯，准备并入耶路撒冷的南北主干高速公路——Begin Boulevard。这次旅途的安全员是 Shai Shalev-Shwartz，他也是 Mobileye 的技术副总裁，他打造了一款软件，可以监控计算机收集到的数据，并决定如何处理。此时，Shashua 也坐在汽车后座上。
Shalev-Shwartz 称：“计算机处理汇流和变道是非常复杂的”。汽车和卡车驶过时，会以每小时 50 英里的速度与自动驾驶汽车“擦肩而过”，对人类来说，这其实是一种危险状况。因此，要看出 Clara 如何准确完成这一过程非常困难。Shalev-Shwartz 表示：“我们等待着合适时机，抓住机会观察记录。“
自相矛盾的是，无人驾驶汽车未来会很容易变成一种危险的死亡机器，这其实也是一个隐患。现在，汽车制造商们都急于研究如何避免碰撞，细心设计和编写程序，这意味着打造 AI 司机要比培育人类司机耗费更多时间，而且可能会因各种状况进度迟缓。
据雷锋网了解，今年 4 月，推特上发布了一段视频：一辆 Waymo 汽车正艰难地驶入高速公路，另一辆改装过的克莱斯勒小货车向其发出信号，并缓缓减速。之后，Waymo 汽车径直穿过出口匝道，驶离了高速公路，像一个慌乱的少年在驾驶。
驾校教练和我们的父母总是强调高速公路上果断决策的重要性，但在某些情况下，没有多少教练能够帮到我们。例如，当考虑到双合并时，两条高速公路相交，汽车都是从相反方向来的，没有明确的通行条例或规则来规定你应该做什么，而且也不能只考虑安全通过，驾驶员们要观察道路，根据直觉解决问题。
这也使自动驾驶成为深度学习的良好应用领域。工程师设计出一种人工智能软件，可以训练它在一个场景中可能运行的路径，从而找出最有效的方法。其实，这种方法类似于游戏开发者提出的“发放奖励给计算机”方法：奖励计算机，然后作出改进。
然而，游戏比道路更广泛。2016 年，Shalev-Shwartz 为一台计算机提供了 10 万左右的双合并方案，推出了一个处理双合并的函数，并设置了一个模型进行功能测试。第一天，大约 10 万次模拟之后，只出现了一次事故，他调整了“奖励”，使事故不再发生；第二天，他又发现了一场虚拟车祸，之后把这个问题修复了，但又发生了第三次事故，然后是第四次、第五次......
这个实验让 Shalev-Shwartz 很不安，因为模拟本身比实际驾驶更容易预测。如果这个算法应用到真正的高速公路上，那么会发生什么? Shalev-Shwartz 承认：“深度学习很好地概括了典型数据，这与它所预测的十分相似，但根据从未见过的东西来概括规律真的很困难。”
自动驾驶的概率安全
Herzberg 的事故是一场意外，因为在大量自动驾驶汽车中，出现事故的几率只有百万分之一，比如，自动驾驶汽车在长距离慢速行驶，在一个电脑预测不到的地方，公路上出现了一只袋鼠或者一位推着自行车走路的女士。
据科技新闻网站 The Information 报道，Uber 的软件正确识别出了 Herzberg，但没能识别出她的自行车。文章引用匿名人士的话，称 Uber 的高管们认为其原因是系统不恰当地“调整”了算法，Uber 发言人则表示公司正在进行一次“自上而下的安全评估”。
AI 算法不能告诉我们为什么它选择了一种特定方法来解决给定的问题，也不能告诉编程人员为什么一个特定案例会导致模型失败。Shalev-Shwartz 解释称：“机器学习提供的是统计上的保证。它们告诉你，在概率为 99% 的情况下，你所学的函数接近于最优函数。”但不可避免的是，即使是最好的系统，也会有故障。
Mobileye 比任何公司都更清楚这一点。2013 年，Shashua 与 Elon Musk 达成协议，在每辆新的特斯拉上安装 Mobileye 辅助驾驶系统，使汽车能够在高速公路上自动驾驶。Elon Musk 并不是第一个与 Shashua 合作的人，但是 Shashua 首个认可的人。Shashua 在 Clara 测试之后表示：“Elon Musk 推动了行业发展，他把一切都推得很快。”
为了确保特斯拉没有过分吹嘘该系统的能力，Shashua 在位于 Fremont 的工厂里访问了 Musk，并敦促他确保驾驶员把手放在方向盘上，以保证安全。
两个月后，在 2015 年末，Musk 发布了特斯拉 Autopilot 辅助驾驶系统。他告诉驾驶员要把手放在方向盘上，一旦发生撞车事故，司机将对此负责，但似乎没有人听，系统在发现司机没有手持方向盘时也不一定总会阻止他们。因此，几个月内，YouTube 上就出现了很多特斯拉驾驶员睡着、玩 Jenga 或坐在后座的视频。
2016 年 5 月，一名驾驶着特斯拉的司机在佛罗里达州高速公路上打开了 Autopilot，一辆卡车从相反的方向开过来，在阳光直射下，Mobileye 的摄像头无法准确识别路况，车辆没能刹车，而当时，驾驶员正走神。这辆车以每小时近 75 英里的速度撞上了卡车，驾驶员当场死亡。
此后，特斯拉调整了辅助驾驶系统，驾驶员必须把手放在方向盘上，无视警告的驾驶员将无法继续使用该功能。而特斯拉发言人公开指责 Mobileye 的摄像头激怒了 Shashua，因为该系统从来没有被设计用来检测交叉车流。不久，Shashua 表示与特斯拉终止合作，并表示，对于特斯拉来说，自动驾驶“只是一个小故事，但对我们来说，自动驾驶就是一切。”特斯拉表示，是自己首先提出取消合作，而不是 Mobileye，并拒绝对此发表评论。
事后，Mobileye 创建了一套“做”和“不做”的基本系统，取代了软件的即时决定功能，努力确保汽车不会做出鲁莽决策，即使以前没有遇到过同类情况。去年，Mobileye 在一份研究报告中首次提出了“责任敏感安全（Responsibility-Sensitive Safety）”概念，试图将人类驾驶员通过经验所获得的基本规则规范化，例如什么是安全跟随车距。
Mobileye 称这是保证安全性的数学模型，但正如 Shalev-Shwartz 所说，没有哪个系统可以绝对万无一失。的确，“责任敏感安全”是为了在事故发生时，对责任方作出裁决：是汽车传感器出了问题，还是司机的错？而这个问题的答案，对整个自动驾驶行业都至关重要。
Via：Bloomburg
雷锋网注：6 项会员专享特权，全年 100 期精华内容，带你深入浅出看懂自动驾驶。如果想加入雷锋网「新智驾会员计划」，欢迎点击链接 ：https://www.leiphone.com/aidrive/vip 或扫描海报下方二维码了解详情。
正在生成分享图...
nebula