马斯克终于“认栽”了？7月3日，马斯克在推特上“忏悔”，他低估了开发完全自动驾驶汽车的难度，万万没想到想要实现通用自动驾驶如此艰难。马斯克感叹道：

Nothing has more degrees of freedom than reality.

犹记得今年1月初，特斯拉迎来了股价大涨，马斯克净资产超过了1885亿美元。但近几个月有关特斯拉的安全事故，也频频登上舆论热榜。

湛庐君翻到了马斯克在6年前曾发过的一条微博：

However,when self-driving cars become safer than human-driven cars,the public may outlaw the latter.Hopefully not.

彼时，马斯克还在担心人类驾驶员与AI驾驶员相处的公平性，然而令人“欣慰”的是，今天的自动驾驶仍然需要人类驾驶员的高度参与。如果有某家车企宣称制造出了完全自动驾驶的汽车，它要么就是在布施一场骗局，要么就是将测试驾驶环境与真实的复杂驾驶环境混为一谈。

那些痛骂马斯克的网友与坚信马上能实现自动驾驶的网友，他们也并无过错。就算是科学家、技术专家，都常常陷入“虚幻进步坑”：

误以为AI解决了简单问题，就相当于在难题上取得了进步；误以为找到了在某些时候发挥作用的AI方案，只要再多一些数据，此方案就能在所有时刻发挥作用。事实并不见得如此。

我们离真正的自动驾驶还有多远？换句话说，先要脱离“人工”实现“智能”，还有哪些技术需要突破？从理想跨到现实，需要越过哪些鸿沟？一个完全自动驾驶时代，又意味着什么？就算特斯拉此时推出完全不需要人类参与的自动驾驶汽车，你真的准备好将自己的生死大权“拱手相让”给机器吗？

消费者、商家、决策者……我们都是科技变革时代的参与者，什么是真实的？什么又是新科技发展中的幻象？如果我们对AI技术的认知，只是由科幻电影和小说所塑造的话，我们就无从应对它即将对我们的生活和工作带来的真实影响。

湛庐君今天透过三本人工智能的书，和你聊聊让马斯克“狂热”又“失落”科技现状。哪怕你仅仅是想要入手一台人工智能汽车，又或者想要投资一家科技企业，请记住：植根于事实的认知永远是更好的向导。

1.

几年还是几十年？

我们离真正的自动驾驶还有多远

自动驾驶汽车还要多久才能普及？这取决于你怎么定义“自动驾驶”。美国国家公路交通安全管理局为车辆定义了6个自动等级：

0级：人类驾驶员执行全部的驾驶任务。

1级：车辆能够偶尔通过控制方向盘或车速来对人类驾驶员提供支持，但不能同时进行。

2级：在某些情境下（通常是在高速公路上），车辆可以同时控制方向盘和车速。人类驾驶员必须时刻保持高度注意力，监控驾驶环境，并完成驾驶所需的其他行为，如变换车道、驶离高速公路、遇到红绿灯时停车、为警车让行等。

3级：在某些特定情境下车辆可以执行所有的驾驶行为，但是人类驾驶员必须随时保持注意力，并随时准备在必要时收回驾驶控制权。

4级：在特定情境下，车辆能够完成所有的驾驶行为，人类不需要投入注意力。

5级：车辆可以在任何情境下完成所有驾驶行为。人类只是乘客，并且完全不需要参与驾驶。

来自圣塔菲研究所的梅拉尼·米歇尔教授在《AI3.0》一书中，阐释了自动驾驶的分级，并指出了那个非常重要的限定条件：在特定的情境下。她解释道：我们无法为这个特定情境列出一个详尽的清单，比如说，对于一辆4级自动驾驶汽车而言，尽管你能想象到许多有可能会对其造成挑战的情境：恶劣的天气、城市交通拥堵、在建筑区域内导航穿行，或是在没有任何车道标志的、狭窄的双向道路上行驶。

在梅拉尼写作《AI3.0》一书时，路上行驶的大多数车辆都处于0级和1级之间，它们都有巡航控制系统，但没有转向或制动控制系统，其中，一些最近生产的带有自适应巡航控制系统的车型，被认为达到了1级。仅有少量几款车型目前处于2级和3级，例如，装备了自动驾驶系统的特斯拉汽车，这些车辆的制造商和使用者仍在学习哪些情境属于人类驾驶员接管的“特定情境”。

当然，也有一些试验车辆可以在相当宽泛的情境下实现完全自动驾驶，但是它们仍然需要一个随时待命、收到通知就能立刻接管车辆的人类“安全驾驶员”。目前为止，已经发生了好几起自动驾驶汽车引发的致命事故，其中也包括一些试验用车，这些事故都发生在应由人类驾驶员接管车辆，但却没被及时注意到的场景。

图源：《速度与激情》系列

自动驾驶汽车行业迫切希望生产和销售完全自动驾驶汽车，也就是5级自动驾驶汽车（特斯拉造车的终极目标与终极难点）。事实上，完全自动驾驶是我们消费者一直期盼的，也是自动驾驶汽车的相关各方所努力的方向。

对于自动驾驶汽车的未来，还存在一个尤为棘手的问题：汽车行业应该以实现部分自主驾驶——汽车在特定情境下执行所有驾驶行为，但仍然需要车内驾驶员保持注意力并在必要的时候接管为目标？还是应该以实现完全自主驾驶——人类能够完全信任车辆的驾驶并且完全无需花费注意力作为唯一目标？

在梅拉尼看来，实现足够可靠的、在几乎所有情境下都能自主行驶的、完全自动驾驶汽车的技术还不存在，我们也很难预测这些难题什么时候才能被解决，专家们的预测为从几年到几十年不等。

2.

The AI Chasm

理想与现实的鸿沟

从业界到普通群众，狭义AI短期成绩上的痴迷，以及大数据带来的唾手可得的“低垂的果实”，都将人们的注意力从长期的、更富有挑战性的AI问题上转移开来。这一问题，就是如何为机器赋予对世界产生更深刻理解的能力。梅拉尼在《AI3.0》中写道，“车辆的完全自主需要我在14章中描述过的一些核心直觉知识，包括：直觉物理学、直觉生物学，特别是直觉心理学”。

图源：《速度与激情》系列

理想与现实之间，存在着一个被称为AI鸿沟（The AI Chasm）的大坑，纽约大学教授盖瑞·马库斯在《如何创造可信的AI》一书中告诉我们，以自动驾驶汽车为例，此大坑可以一分为三，每一个都需要我们坦诚面对。

第一个坑，我们称之为“轻信坑”。从表面上看，机器的行为常常与人类行为有相似之处，于是我们会不假思索地认为机器也拥有和人类一样的某种思想机制，而事实并非如此。

2016年，一位特斯拉车主将自己的性命完全交托给自动巡航系统，据说，他是一边看《哈利·波特》电影，一边任由系统载着他在路上行驶。在安全驾驶数万公里后，车辆遇到了预期之外的情境：一辆白色货运卡车横穿高速公路，特斯拉直接钻到货车下面，车主当场毙命。事故调查表明，车辆似乎向车主发出过几次报警，请他将双手放在方向盘上，但车主似乎心不在焉。

这场事故背后的道理十分清楚：某些东西在某些时刻貌似拥有智慧，并不意味着它的确如此，更不意味着它能像人类处理所有的情况。

第二个坑，我们称之为“虚幻进步坑”。误以为AI解决了简单问题，就相当于在难题上取得了进步。一句值得记住的格言是：对于一项复杂的技术项目，完成其前90%的工作往往需要花费10%的时间，而完成最后10%则需要花费90%的时间。

计算机安全专家已经表明：当今我们驾驶的许多非自动驾驶汽车正越来越多地受到软件的控制，因而它们与无线网络（包括蓝牙、手机网络和互联网）的连接很容易受到黑客的攻击。由于未来的自动驾驶汽车将完全受软件控制，它们更有可能受到黑客的恶意攻击。

图源：《黑客帝国》

另一个进步难题是“人为干扰”。人们难免会想对完全自动驾驶汽车搞一些恶作剧，以探索它们的弱点，例如，在车前面来回走动假装要过马路，来阻止汽车前进。

第三个坑，就是我们所谓的“鲁棒坑”。正如杜克大学人类与自动化实验室主任米西·卡明斯所言，问题不在于某辆自动驾驶汽车能在不出事故的情况下跑多远，而在于汽车本身的适应能力有多强。

为了让车辆在所有情况下都能可靠地驾驶，司机（可能是AI）需要了解共享道路的其他司机、骑自行车的人、行人和动物的动机、目标，甚至情感。打量一眼负责的情境并瞬间判断谁有可能横穿马路、冲过街道去追赶公共汽车、不打信号灯就突然转向，或者在人行横道上停下来接打电话、整理书包……这是大多数人类司机的第二天性，但自动驾驶汽车还不具备这些。

从AI的角度来看，驾驶的大部分挑战来自驾驶的开放性。好天气下在高速公路上驾驶的情况，狭义AI还有能力处理，因为高速公路本身还算是个封闭系统，行人不能穿越，就连车辆的进入也有所限制。但是，在熙熙攘攘的城市道路上，任一给定时刻会出现什么状况，有着无穷无尽的可能性。

盖瑞·马库斯指出，将车辆在理想情况下的行驶表现与车辆在极端情况下的表现混为一谈，是将整个行业置于生死边缘的重大问题。行业目前的状态，就是拿着数十亿美元在无人驾驶汽车的技术研发上打水漂，因为这条老路的鲁棒性差得太远。

3.

个人公共交通

道德、伦理，终极世界

对于更多普通人来说，完全自动驾驶当然也会带来“友善”的改变。人工智能专家杰瑞·卡普兰就在《人工智能时代》一书中告诉我们，相关研究表明，实现自动驾驶后的交通事故将会减少90%。相应的还有交警的开支、损坏的车辆、车辆的维修以及交通法庭。汽车保险将成过去，我们也不需要“考驾驶证”这一环节了。

图源：《变形金刚4》

自动驾驶技术将会革命性地改变我们对交通的理解，同时也会对社会造成强烈的影响，然而在杰瑞·卡普兰看来，对于完全自动驾驶汽车来说，一个更好的描述应该是“个人公共交通”。他在书中这样描述，“一旦这种科技变得随处可见，也就没有什么必要非要拥有一辆车了。当你需要车的时候，你只需要召唤一辆，就像今天的出租车一样，只不过到时车会出现得更可靠、更及时。当你下车后，车会静静地跑到最近的集结待命，等候下一位乘客的召唤。几十年后，你不会再去考虑买一辆属于自己的车，就像今天你不会想买一节私人火车车厢一样。”

我们假使马斯克期望的完全自动驾驶可以投入使用，但请你想象一下，如果你心脏病发作，而你的自动驾驶汽车却拒绝加速乃至超速把你送到医院，你该怎么办？明天，你召唤的自动驾驶出租车可能决定不载你了，因为你看起来喝醉了。等我们发现这些问题时，可能为时已晚。这就是未来的先兆，也就是我们想要的完全自动驾驶的世界。

我们把权力交给机器后，也就把重要的道德决定、甚至个人决定交给了它们。以防抱死刹车系统（ABS）为例。现在的情境是，你的车仍旧听你的，除非你踩刹车踩得太重。如果我们把对刹车的控制完全交出去，就是把做出生死攸关的道德决定的能力委托出去。

最开始，智能汽车调整的可能仅仅是避免拥堵的行车路线，但是最终，在完全自动驾驶时代，这些系统可能会控制你生活的地点、你学习的内容，甚至是你约会的对象。就像你的智能手机中的芯片越来越小一样，始终都好像是它们在为我们的福祉做贡献，直到它们开始介入我们的生活，防止我们伤害自己。那时我们才会明白真相——谁是圈养者，谁又是被圈养者。

写在最后：

在微博#马斯克承认开发自动驾驶比想象更难#的话题讨论中，有人嘲讽他不争气；有人吐槽说“XX公司已经实现了，特斯拉你快去抄作业”，还有人哭诉，“别搞了，很多人都失业了”，也有人助威留言说，“加油，科技就是要一直向前”。

不是就业问题、不是技术壁垒、不是不明就里的指责，对于“完全自动驾驶”我们最应该担忧的问题是：我们在没有充分意识到人工智能的局限性和脆弱性时，就赋予了太多的自主权；我们倾向于拟人化人工智能系统，我们把人类的品质灌输给这些系统，却又高估了这些系统可以被完全信任的程度。

图源：《复仇者联盟2：奥创纪元》

10年？50年？100年？人类终归会迎来完全自动驾驶时代，通用的、人类水平的人工智能或许就会出现。它们能感受到情绪吗？它们具有生存的本能和对死亡的恐惧吗？它们需要意识吗？梅拉尼说，我们应该感到害怕，不是害怕机器太智能，而是害怕机器做出一些它们没有能力做出的决策。

人工智能对我们所有人的影响都将持续深化。不管是“当头棒喝”的《AI3.0》，还是“泼冷水”的《如何创造可信的AI》，再或者“指导我们如何与AI相处”的《人工智能时代》，它们都在帮助我们成为一个有思想的人，能更好地去了解人工智能的现状，包括尚未解决的问题、技术的潜在风险和益处，以及它所引出的关于理解人类自身职能的科学和哲学问题。

人人都想要那辆完全不需要费心操控的AI汽车，不管是在城市、在乡村，是在山路还是高速上行驶，都能做一个自在惬意的乘客。为了实现那一刻，请你认真把握方向盘。