田耕

    因自动驾驶系统导致的美国本土第一宗车祸致死事件经半年调查之后，于上月由美国国家高速公路交通安全管理局公布结果:并未发现特斯拉的自动驾驶功能存在问题，同时不会要求特斯拉对汽车进行召回。

    尽管调查结果对特斯拉有利，但事故本身却暴露出了人工智能的一大缺陷。

    去年6月，在连续因自动驾驶造成交通事故，并导致驾驶员出现伤亡后，美国国家高速公路交通安全管理局　(NHTSA)　针对特斯拉的自动驾驶功能展开调查。

    经过半年的调查后，NHTSA在当地时间2017年1月19日宣布，并未发现特斯拉自动驾驶功能存在问题，同时不会要求特斯拉对汽车进行召回。

    尽管调查宣告结束，并得出了对特斯拉有利的结论，但这并非终极结论，因为美国国家运输安全委员会针对这一事故的调查仍在进行之中。

    自动驾驶系统“被亮瞎了眼”

    强烈日照和拖挂车的白色车身，让自动驾驶系统的摄像头短暂“失明”。

    美国国家高速公路交通安全管理局　(NHTSA)　的结论是，特斯拉的Autopilot　（自动驾驶功能）　不是一个完全自动驾驶系统，它根本无法应对所有路况，司机不应该依靠它来防止此类事故。在接受调查时，特斯拉公司也向NHTSA下属的缺陷调查办公室提供了配置Autopilot技术的Model S和Model X等汽车在2014年至2016年期间所有行驶里程，以及与安全气囊相关的数据。

    调查人员利用这些数据计算了Autopilot系统安装前后的撞车率，得出“特斯拉安装了Autopilot系统后更安全”的结论。

    NHTSA在报告中也认同这一观点，因为自从特斯拉汽车于2015年安装了Autosteer　（方向盘自主转向软件）　以来，撞车率已经下降了40%左右。Autosteer是Autopilot　系统的旗舰功能，能够让特斯拉汽车保持在自己的车道上，即使是遇到弯道，仍能够让汽车自行转弯。

    另一方面，上述调查结果还不是事故的全部原因。根据特斯拉的调查，另一个原因才是此次事故的根本原因———

    强烈的日照和拖挂车的白色车身让Model S的Autopilot系统摄像头短暂“失明”，未能够在白天强光下及时发现拖挂车白色侧面的反光，导致在自动驾驶模式下的刹车功能未能紧急启动。Model S与拖挂车相撞，其前挡风玻璃与拖挂车底部发生撞击，车主布朗不幸身亡。

    这个原因既是人工智能的技术问题，也道出了人工智能的本质———既然特斯拉Autopilot没有错，人就有错，因为特斯拉Autopilot的摄像头有问题。即便摄像头没有问题，人也没有完全教会自动驾驶汽车正确识别道路上的所有障碍物和危险情况。

    事实上，这反过来还是说明是人工智能的错误，因为它们还不能像人一样学习并获得和符合实际情况的正确知识。

    人工智能尚难比肩人类智能

    谷歌的人工智能要看过几千万张猫的照片后，才能从图片中识别猫，且准确率大大低于幼儿。

    人工智能赖以立身的基础是机器学习　(算法)　和深度学习。对于前者，或许是人工智能的优势，因为在涉及数据和演算方面，人确实不是计算机的对手。因此，当计算机掌握了某一游戏的所有算法、棋谱时，人类当然无法与之抗衡。但是，在深度学习上，人工智能还处于非常幼稚的阶段，例如对图形和实物的认知，对逻辑推理的学习，以及对所有未知事物的学习和认知。

    一个幼儿园的小孩看过一张猫的图片后，就能马上辨认出另一张图片中的猫;同时，几岁的孩子在生活中见过猫之后，能在之后一看见猫就辨认出来。但是，谷歌图像识别系统　（一种应用人工智能）　要在看过几千万张猫的照片后，才能从图片中识别猫，且准确率大大低于幼儿。即便人工智能在图片上认识猫之后，现实生活中也未必能识别真实的猫。也就是说，人工智能区别实物和图像或虚拟系统事物的能力，完全无法与人类相比。

    特斯拉Autopilot在强烈阳光照耀下“亮瞎了眼睛”固然是技术原因，但也说明，即便它的摄像头没出故障，它学习和识别道路上的某些障碍物还不及儿童。原因是，它可能没有遇到过诸如光的折射、彩虹一类的情况，而且人类还不足以教会它识别这类情况。

    即便汲取这次事故教训，改进了特斯拉Autopilot的摄像系统，使其能识别白色汽车和其他障碍物，并采取躲避或刹车，但是，遇到阳光照射到黑色、蓝色、红色或所有其它颜色的汽车时，特斯拉Autopilot的摄像是否都能识别出来，也还是个问题。如果不能，车祸依然难以避免。

    现阶段，尽管深度思维　(Deep Mind)　公司设计的Master能连续战胜包括棋圣聂卫平在内的60名围棋大师，但总体而言，人工智能目前的智能还是非常低级，有时连婴儿的智商还不如，再加上技术问题，如特斯拉Autopilot的摄像头在强烈阳光反射白色物体后会短暂失明，就更容易造成事故。

    当然，强烈阳光反射白色物体也会令人目眩而看不清前方的情况。但是，如果是车主布朗自己开车，在受到强烈的眩目刺激后，就会有本能的躲避行为，提前预判前面可能有障碍物，一是缓行，二是刹车，从而避免车祸的发生。

    人工智能的学习广袤无边

    就本质来说，即便人工智能学习了，能感知人类社会的东西，但其感知也与人的不一样。

    这实际上涉及人工智能无论是算法还是深度学习的广度问题，凡是人工智能没有看过、学习过和接触过的东西，它都无法感知、辨认和识别，从而无法理解，因此难以形成正确的决策。

    对于人工智能来说，这种学习的广度实在是广袤无边。凡是人类社会的事物，都是其未学习和接触过的，就本质来说，即便人工智能学习了，能感知人类社会的东西，但其感知也与人的不一样。例如，战胜60位围棋大师的Master并不知道它在做什么，只是按一定的算法和程序在做决定。

    对于它未学习过的东西，人工智能就会不知所措，而且由于不知道逻辑推理，犯错误和出现事故也在所难免。2011年2月16日，在美国益智类电视节目　《风险》　上，经过3天(三轮)　人机大战，IBM的超级计算机沃森　(Watson)　战胜了人类顶级高手肯·詹宁斯和布拉德·拉特。但是，沃森在非常简单的一些问题和逻辑推理上却不如人类。

    例如，在回答“一个语言的方言包括吴语、粤语和客家话，这种语言是什么”时，沃森答错，詹宁斯答对。因为沃森没有学习过吴语，在逻辑上并不理解吴语、粤语和客家话其实就是中国人除普通话以外的方言。

    人工智能仍然值得探索

    即便人工智能的深度学习能与人媲美，人类也不能完全把命运交给人工智能来处理。

    如果人工智能不具有像人一样的识别和辨认现实环境的能力，自动驾驶或无人驾驶就永远是一种理想。既然部分自动驾驶以及完全自动驾驶存在危险，为何还要研发这类产品并推向市场呢?

    NHTSA的调查报告给出了一个答案，以特斯拉汽车行驶里程数和安全气囊数据为依据，对特斯拉Autopilot推送Autosteer这个软件前后汽车的事故率进行对比，汽车事故率从推送前的1.3次/百万千米，下降到推送后的0.8次/百万千米。汽车事故率下降了近40%左右。特斯拉的CEO埃隆·马斯克此前也提及，即便退一万步讲，现在特斯拉的部分无人驾驶系统只比人工好1%，那么从一年车祸导致的120万人死亡里面，人工智能也能拯救1.2万人。

    另一方面，人工智能的探索也像其他学科的探索一样，只能积跬步至千里，积小流成江海。如果把现实生活中路面情况的各种参数设计得包罗万象，教会人工智能进行更全面和更深度地学习和分析，也许可以逐步达到和人类相同的辨析路况的智能，从而避免车祸。

    当然，最更根本的问题是，即便人工智能的深度学习能与人媲美，人类也不能完全把命运交给人工智能来处理。这才是发展人工智能的不可违背的核心原则。

    特斯拉Autopilot致司机亡的这起车祸，就是司机布朗非常相信自动驾驶功能，一切交由特斯拉Autopilot来处理才导致的。布朗在车祸发生前没有使用刹车，他最后一个动作是将自动巡航速度设置为74英里/小时　(118公里/小时)，但2分钟后就发生了车祸。如果布朗是自己驾驶，他完全可以观察到那辆拖挂车，在事故发生前采取如刹车、转向等方式，遗憾的是，他并未采取任何有效措施。

    所以，NHTSA在关于特斯拉Autopilot车祸的报告中，既指出这一自动驾驶系统不存在导致致命车祸的缺陷，但同时也指出，在遇到交通路口时，人们不应当过度依赖Autopilot来检测相应的路况，因为车主布朗在撞上卡车之前，有充分的时间　（长达7秒）　来踩刹车。