“人类创造技术的节奏正在加速，技术的力量也正以指数级的速度在增长。指数级的增长是具有迷惑性的，它始于极微小的增长，随后又以不可思议的速度爆炸式地增长——如果一个人没有仔细留意它的发展趋势，这种增长将是完全出乎意料的。”

被誉为《Inc.》杂志称为“托马斯·爱迪生的法定继承人”的雷·库兹韦尔（Ray Kurzweil）在《奇点临近》一书中这样写道。这位拥有13项荣誉博士头衔的世界领先的发明家，为人们描绘了未来人工智能社会图景。

“盲目的乐观可能是最致命的大规模杀伤性武器。”皮埃罗•斯加鲁菲认为：“人工智能并不是一个新概念，它起源于1956年或更久之前，只不过，过去由于计算机处理系统还不够强大，人工智能并没有得到长足快速的发展。”

从现实中人工智能的应用的程度来看，目前AI无人驾驶领域的进展似乎也印证了皮埃罗•斯加鲁菲的观点。回顾人类历史重大变革节点不难发现，无论是蒸汽机的改良还是内燃机的发明，出行领域一直都是先进技术应用的最前沿。

追本溯源，近年来无人驾驶技术的爆发的技术基础也源自于2006由Hinton在深度学习领域的革命性成果，由此基于神经网络的深度学习算法得以在计算机视觉、语音识别、以及计算机行为决策方面深度应用，从而构成了无人驾驶软体层面的技术基础，而在实现无人驾驶的工程应用上，已经不存在较大的技术障碍，因而，无人驾驶的天花板依旧在于基于深度学习的AI技术的局限性。

而另一方面，基于AI技术的L4级别的自动驾驶已经开始进入商业化阶段。目前，google Waymo、特斯拉AutoPilot、百度Apollo以及通用Cruise均已实现L4级别的自动驾驶。

无人驾驶的阿喀琉斯之踵

2016年的美国，一辆自动行驶中的特斯拉Models撞上了一辆白色拖挂货车，致使驾驶员死亡，这是第一例无人驾驶车祸致死的案例。

事后，有专业人士据车祸地点的环境分析后指出，在强光直射下，依赖摄像头的图像识别系统失效，未能及时检测出前方正在穿过道路行驶的白色货车，同时由于毫米波雷达位置较低，而一般的毫米波雷达垂直视角在±5°以内，导致当Tesla靠近拖挂卡车侧面时，雷达波束从下侧穿过了卡车，导致漏检，从而致使事故发生。车祸发生后，特斯拉改进了无人驾驶系统，并修改了官网关于AutoPilot的释义。

实际上，安全问题确实是无人驾驶技术全面落地的阿喀琉斯之踵。以深度学习算法为核心的AI技术构筑的无人驾驶系统至今尚未真正解决由“计算机理解偏差”而带来的驾驶安全性的问题。

从AI技术演化的角度来看，深度学习算法为核心的“智能化”实际上并不是真正意义上的智能，而是基于大数据和深度学习算法在“动态规划”原则下对统计意义上“最优解”的达成。因此，当下要想解决无人驾驶的安全性问题，必须在这个框架下将“不安全”的可能性降低到一个低于人类车祸概率的红线之下，才具备无人驾驶走进千家万户的“接受底线”。

今年五月，在宁波举行的第六届中国机器人峰会上，中国工程院院士郑南宁发表了主题为《直觉性AI与无人驾驶》的演讲。郑南宁院士提出，在算法模型下，建立覆盖全部的场景模型是不可能的，但“构造一个基于认知构建的类人自主驾驶，使AI自主驾驶具有类人的决策机制，则能应对高动态和强随机性的交通场景变化。

在小编看来，基于人类思维决策机制建立算法模型，使AI具有类人的“意识”以当前的技术条件还无法达成，一方面，人类的决策往往通过自身多方面的经验达成，而并非固定的在驾驶场景下形成单一的决策机制，另一方面，在大多数人的决策过程中，感性因素常常会占主导地位，而算法决策则是百分百的理性决策，而在某些特定情况下理性决策往往不是“最优选择”。

在电影《机械公敌》（又名《我，机器人》）中，由威尔史密斯主演的戴尔·史普纳在一场车祸中与一位小女孩一同掉入水中，而在人工智能机器人经过计算后选择就起生产率更高的戴尔·史普纳而放弃了小女孩的生命，而假如现实中发生类似的事件，作为人类的救援人员显然会优先选择拯救女孩，因为这才人性约束下的“最优解”。

“AI安全陷阱”下，AI驾驶技术的“奇点”