科学家谈无人驾驶：如果无人驾驶汽车出错造成事故怎么办？

澎湃新闻2020-10-23 14:01:150阅

原标题：往届回声|如果无人驾驶汽车出错造成事故，怎么办

编者按：第三届世界顶尖科学家论坛将于10月30日-11月1日在上海举行。包括61位诺贝尔奖得主在内，近140位诺贝尔奖、图灵奖、菲尔兹奖、沃尔夫奖、拉斯克奖等全球顶尖科学奖项得主出席。论坛期间将有130余场科学家独立演讲、70余场主题峰会，大部分活动将通过网络向公众直播。

在过往的两届世界顶尖科学家论坛上，人工智能是科学家绕不开话题。在人工智能技术落地的各种应用中，自动驾驶，或称无人驾驶是最具代表性的场景之一。

我们何时能实现L5级别的自动驾驶，当无人驾驶汽车出错，造成了事故，该怎么办？澎湃新闻特此整理世界顶尖科学家论坛往届参与者关于无人驾驶的讨论，希望能为读者理清无人驾驶技术的发展脉络、挑战和困难。

除了人脸识别外，当下，人工智能技术发展最有代表性的另一项落地技术应该要算无人驾驶了。在第二届世界顶尖科学家论坛上，科学家们就以无人驾驶为例，阐述了技术发展下的伦理道德约束，以及技术与人之间的关系。

首先，与飞机和火车在出厂时都经过严密的安全测试不同，无人驾驶汽车出厂的时并不安全，它就有一个“计算黑盒”，来进行端对端的计算控制。在无人机驾驶起初出厂前，众多科技公司都认为自己的路测公里已经达标。

这一点，在科学家们看来，并不如此。“他们也是认为公里数统计可信度就够了，公司会说我这个无人驾驶汽车测过几百万公里的运作，都是安全的，因此我就认为它是安全的。而这种说法只是统计学上面的安全可靠性。做特斯拉的那一位就说我们这个车已经很安全了，如果出问题我可以付钱等等，但这些都是非常盲目乐观的情绪。” 2007年图灵奖得主约瑟夫·斯发基斯说。

针对自动驾驶安全公里数，斯发基斯认为不能盲目信任数据，更重要的是应该是在不同的危险场景下去实验，需要有各种各样的标准，尝试各种各样的选择，覆盖所有的场景，才能更好地保证自动驾驶汽车的安全。

2018年，美国优步（UBER）公司的一辆自动驾驶测试车18日晚间在亚利桑那州撞倒一名中年女性，这名女性在送医之后不治，全球首例自动驾驶致死案就此发生。从这场事故开始，公众对于无人驾驶就有些敌对的情绪。

“这可能也是要引起重视，尤其是在技术的接纳程度上。关键问题就是我们什么时候能够接受自动系统，就算不能够完全理解它采取什么样的行动或者什么样的决策，但我们该怎么样接受这种技术，这是我们必须要讨论的问题。”约瑟夫·斯发基斯。

在约瑟夫·斯发基斯看来，人的行为、情绪也是影响技术的因素之一。在谈论人与技术的关系时，人的行为发生什么样的改变，公众对于这个会有什么反应，也必须是要讨论和考虑的。

未来，我们或许会进入这样的场景：到处都是无人驾驶的车，或者无人驾驶车和人开的车混在一起。当发生交通事故了，如果这个事故是由人造成的，公众可能还能接受。但是如果这个事故是机器造成的，那人们的反应会非常剧烈。为什么，这也是技术公司在开发自动驾驶汽车时，应该要考虑到的。

如果真是无人驾驶汽车出错造成了事故，那么该采取什么措施。在2013年诺贝尔化学奖获得者、美国南加州大学教授亚利耶·瓦谢尔（Arieh Warshel）教授看来，惩罚措施是绕不过去的话题，比如，如果特斯拉的车造成人类死亡，这个公司可能需要配上数十亿。

“如果你想要算系统责任的话，比如说责任乘以十，你惩罚的后果可能要乘以一千。现在的情况是，对于政府来说，如果开发的成本降一点，许多制车厂其实已经这样做了，下降一点就可以把省下来的钱付一笔给保险公司，从而用保险的方式来解决安全隐患。但这样的后果是很严重的。”约瑟夫·斯发基斯说。