Mobileye是如何“出售”自动驾驶安全的？

　　自动驾驶的概率安全

　　Herzberg 的事故是一场意外，因为在大量自动驾驶汽车中，出现事故的几率只有百万分之一，比如，自动驾驶汽车在长距离慢速行驶，在一个电脑预测不到的地方，公路上出现了一只袋鼠或者一位推着自行车走路的女士。

　　据科技新闻网站 The Information 报道，Uber 的软件正确识别出了 Herzberg，但没能识别出她的自行车。文章引用匿名人士的话，称 Uber 的高管们认为其原因是系统不恰当地“调整”了算法，Uber 发言人则表示公司正在进行一次“自上而下的安全评估”。

　　AI 算法不能告诉我们为什么它选择了一种特定方法来解决给定的问题，也不能告诉编程人员为什么一个特定案例会导致模型失败。Shalev-Shwartz 解释称：“机器学习提供的是统计上的保证。它们告诉你，在概率为 99% 的情况下，你所学的函数接近于最优函数。”但不可避免的是，即使是最好的系统，也会有故障。

　　Mobileye 比任何公司都更清楚这一点。2013 年，Shashua 与 Elon Musk 达成协议，在每辆新的特斯拉上安装 Mobileye 辅助驾驶系统，使汽车能够在高速公路上自动驾驶。Elon Musk 并不是第一个与 Shashua 合作的人，但是 Shashua 首个认可的人。Shashua 在 Clara 测试之后表示：“Elon Musk 推动了行业发展，他把一切都推得很快。”

　　为了确保特斯拉没有过分吹嘘该系统的能力，Shashua 在位于 Fremont 的工厂里访问了 Musk，并敦促他确保驾驶员把手放在方向盘上，以保证安全。

　　两个月后，在 2015 年末，Musk 发布了特斯拉 Autopilot 辅助驾驶系统。他告诉驾驶员要把手放在方向盘上，一旦发生撞车事故，司机将对此负责，但似乎没有人听，系统在发现司机没有手持方向盘时也不一定总会阻止他们。因此，几个月内，YouTube 上就出现了很多特斯拉驾驶员睡着、玩 Jenga 或坐在后座的视频。

　　2016年5月，一名驾驶着特斯拉的司机在佛罗里达州高速公路上打开了Autopilot，一辆卡车从相反的方向开过来，在阳光直射下，Mobileye的摄像头无法准确识别路况，车辆没能刹车，而当时，驾驶员正走神。这辆车以每小时近75英里的速度撞上了卡车，驾驶员当场死亡。

　　此后，特斯拉调整了辅助驾驶系统，驾驶员必须把手放在方向盘上，无视警告的驾驶员将无法继续使用该功能。而特斯拉发言人公开指责 Mobileye 的摄像头激怒了 Shashua，因为该系统从来没有被设计用来检测交叉车流。不久，Shashua 表示与特斯拉终止合作，并表示，对于特斯拉来说，自动驾驶“只是一个小故事，但对我们来说，自动驾驶就是一切。”特斯拉表示，是自己首先提出取消合作，而不是 Mobileye，并拒绝对此发表评论。

　　事后，Mobileye 创建了一套“做”和“不做”的基本系统，取代了软件的即时决定功能，努力确保汽车不会做出鲁莽决策，即使以前没有遇到过同类情况。去年，Mobileye 在一份研究报告中首次提出了“责任敏感安全(Responsibility-Sensitive Safety)”概念，试图将人类驾驶员通过经验所获得的基本规则规范化，例如什么是安全跟随车距。

　　Mobileye称这是保证安全性的数学模型，但正如 Shalev-Shwartz 所说，没有哪个系统可以绝对万无一失。的确，“责任敏感安全”是为了在事故发生时，对责任方作出裁决：是汽车传感器出了问题，还是司机的错？而这个问题的答案，对整个自动驾驶行业都至关重要。

　　（原标题：Mobileye是如何“出售”自动驾驶安全的？|自动驾驶|Mobileye|安全）