本书是媒体人杨澜第一部跨界作品。作为中国首位全方位探寻人工智能的媒体人，2016年，她带领团队历时一年，走访美国、英国、日本、中国等国家的二十多座城市，采访了三十多个顶尖实验室及研究机构的八十多位行业专家，制作出《探寻人工智能》纪录片。在剪辑纪录片的过程中，杨澜回味和沉浸其中，用媒体人的人文视角、独特的亲身体验以及细腻的情感，通过文字，全面记录了那些改变世界的人和事，书写了一段文科生的人工智能探寻之旅。
“奇点”何时会来？
随着人工智能技术发展越来越迅猛，机器人三定律的缺陷、漏洞也开始被很多学者质疑。有一个更流行的词受到越来越多的关注——“奇点”。
来自美国的科幻作家弗诺·文奇于1993年发表《即将到来的技术奇点》一文，他在文章开头就写道：“在未来三十年间，我们将有技术手段来创造超人的智慧。不久后，人类的时代将结束。”
未来学家、美国奇点大学校长雷·库兹韦尔在2005年出版书籍《奇点临近：当人类超越生物学》中，高举“奇点”大旗。他认为“奇点”将在2045年出现。他还认为，如果人类想要理解和控制“奇点”来临后的局面，必须要与机器相融合，将大脑与机器相连，极大地增强智力，变得更加强大。
英国著名物理学家史蒂芬·霍金多次公开表示出对人工智能的担忧，他觉得：“对人类来说，强大的人工智能的出现可能是最美妙的事情，也可能是最糟糕的事情，我们真的不知道结局会怎样。”特斯拉汽车公司掌门人、人称“钢铁侠”的埃隆·马斯克宣称：“随着人工智能的发展，我们将召唤出恶魔。”
博斯特罗姆创立人类未来研究所已经有十年之久，研究所出版过一份关于全球灾难风险的报告，他在报告中描述了十二种主要风险，并认为人工智能比诸如核武器、环境灾难这样的问题还要严重。博斯特罗姆还经过调研出版了《超级智能》一书。什么是超级智能？博斯特罗姆认为在任何实践领域都比最强的人类大脑表现得更好的智能就是超级智能。
超级智能会出现吗？会不会有一天，机器人自己把定律给改掉？会不会有一天，人工智能技术反噬人类？会不会有一天，机器成为“终结者”，奴役甚至毁灭人类？人工智能会是人类最后的发明吗？
“会不会毁灭人类，不取决于机器有多智能，而在于它有没有自我意识。机器变得聪明，至少从我们现在研究的角度来讲，它表现得跟我们人类一样聪明，但是它并不是用跟我们人类一样的方式，所以它最后不一定会产生自我意识。”科大讯飞执行总裁、消费者事业群总裁胡郁如是说。
是啊，毕竟现在最聪明的人工智能还不具备人类正常三岁孩子拥有的智商，现在的人工智能处于弱人工智能阶段，至于何时能出现，或者会不会出现强人工智能，甚至超级智能，没人能给出具体答案。见证硅谷发展四十年的《纽约时报》资深科技记者约翰·马尔科夫说：“我在硅谷时间够久了，我相信任何超过三到五年的预测，意味着永远只是科幻。”一边说，马尔科夫一边笑着摆了摆手。让机器在无监督学习下认出猫脸的华裔科学家吴恩达觉得：“现在担心邪恶的智能机器人奴役人类，就像担心火星上人口过剩。”
博斯特罗姆却认为：“我们担心的不是人工智能会恨我们、奴役我们，而是它们会对我们冷漠无情。就像我们和蚂蚁的关系，假设商场外要建个停车场，也许那里正好有一个蚁穴，我们会将其铲平，这不是因为我们恨蚂蚁，而是我们要将那些资源另作他用。”他向我做了一个假设。如果有一个人工智能，它被设计出来尽可能多地生产回形针，又或许它是被设计出来运作一个回形针工厂。在它是弱人工智能的时候，它越来越多地生产回形针这个目标是对人类有利的，它更加有效率地运营着回形针工厂。突然有一天，它变成了超级智能，它会按照自己的意愿去优化自己的利益。它会发现尽可能多地生产回形针不一定要通过建造更多的回形针工厂，还有很多其他方式。它可能会阻止人类关掉它，因为如果人类关掉它的话，生产出的回形针就会变少了。它甚至会将它能触及的地方夷为平地，让这些地方用来生产回形针，变成回形针工厂。这只是个开玩笑的例子，但可以想象一下，人类可以给人工智能植入任何一种目标，你不知道人工智能最终会用怎样足够强大的优化流程，让这个世界最大化地变成符合这一目标的样子，这个时候，人类将会无立锥之地。
博斯特罗姆坦言，对于超级智能毁灭人类会何时发生，他并不能确定，但是他觉得一旦产生了超级智能，那将是一种非常强大的技术，会对人类造成不可估量的影响，他希望会是好的影响，但也有可能会把它错误地设定成与人类利益不相符的模式。
美国麻省理工学院计算机与人工智能实验室里，实验室主任丹妮拉·鲁斯和她的伙伴们优化着可以安全上路的自动驾驶汽车，设计着可以端咖啡、可以排雷、可以上天入水的机器人，畅想着一个机器人无所不在的未来。同一座校园的另一处地方，天体物理学教授马克斯·泰格马克却忧心忡忡。他的观点是：“我们现在当然不知道怎样造出超级智能，但万一我们实现了呢？我们当然希望已经有所准备，这将是人类历史上最大的突破，我们不能盲目地去实现。机器会执行我们的指令，所以我们下令要谨慎。我们需要研究怎样让机器领会我们真正的意图。”2014年，泰格马克参与成立未来生活研究所，这一机构的资助人之一便是埃隆·马斯克。泰格马克、马斯克、史蒂芬·霍金等人又联合发起一份提醒公众警惕人工智能潜在威胁的公开信，至今公开信已在网上征得超过八千人的签名，Skype联合创始人扬·塔、好莱坞著名演员摩根·弗里曼 、苹果联合创始人史蒂夫·沃兹尼亚克，英国人工智能公司DeepMind CEO戴米斯·哈萨比斯，美国哲学家诺姆·乔姆斯基等诸多名人精英位列其中。公开信最后呼吁：“我们相信，让人工智能系统变得强大和对人类有益，同样重要且紧迫，有一些具体的研究方向现在即可着手开展。”这么多重量级人物联名呼吁，是未雨绸缪，还是小题大做？
被算法包围的人类
让我们把时间定格到2010年5月6日。美国道琼斯工业指数发生疯狂下跌，股票价格指数在短短十分钟之内下跌了9%，上万亿美元瞬间蒸发，股灾发生得如此突然、震荡剧烈，引发了全世界的恐慌，究其原因，竟然是“高频交易”的算法发生了错误，从而引发了一系列反应。在华尔街，有一种自动交易股票的人工智能程序被称为“高频交易”，由于其交易速度之快，获利之高，在美国股票市场一度泛滥。然而这次事件却让人们开始对滥用人工智能进行反思。
2016年的一起事件又一次让人们对人工智能不那么乐观，这年5月，一辆特斯拉汽车在美国佛罗里达州与一辆拖车相撞，驾驶员丧生。事故原因是处在自动驾驶模式的汽车在明亮天空下看见拖车的白色车身，误认为是天空。特斯拉汽车自动驾驶是一项辅助功能，每一次自动驾驶模式启动时，汽车都会提醒驾驶员“请始终握住方向盘，准备随时接管”，即使如此，车里的驾驶员还是忽视了“辅助”二字。
让我们再把目光转移到国防和军事化应用上，自动武器的滥用值得警惕。战地机器人、无人机、无人车等各种人工智能技术应用其中，机器人替代人类士兵进到一些高危地带，甚至可以减少人类士兵的伤亡。人工智能技术的发展和运用必然影响到国家之间的军事平衡与竞争力水平，而随着技术设备或军事化应用的成本降低，恐怖主义也完全可以利用它反制。
隐私和监控问题同样也令人担忧，你在做什么，你已经做了什么，好像大数据都能捕捉得到，真有点“集体裸奔”的感觉，隐私会不会被别有用心的人利用？无处不在的摄像机既可以让罪犯无处遁形，也可以让普通人的行踪被一览无余。那些控制了海量数据的公司，谷歌、脸书、百度、腾讯、阿里巴巴，他们会怎样使用或销售我们的消费数据？这些数据创造的价值是否与我们无关？已经是摆在面前的问题。
种族偏见问题亦不可小觑，博斯特罗姆举了个例子：“有人试着在谷歌图片里搜索‘白人青少年’，出来一些图片的内容是一群很开心地玩着球类游戏的孩子。然后他又试着搜索‘三个黑人青少年’，竟然出现了三只马克杯的图片。如此一来，便成了种族主义者而非谷歌的算法。”博斯特罗姆补充了一句：“偶尔地，你还发现，这些恼人问题中的算法以一种无意识的方式在运作。”
从上述例子来看，公开信呼吁“让人工智能系统变得强大和对人类有益，同样重要且紧迫”并非小题大做。
想象一下，当机器作为我们助理时，我们能允许它做到哪一步？如果我们去电影院的时候，发现有一大堆机器人在排队替主人买票，我们会有什么感觉？如果这个助理机器人为了第一时间将咖啡送到主人跟前，一路狂奔撞倒路人怎么办？你的自动驾驶汽车，如果停车时间有限制，它会不会自动重新停一次车？它可以自己开出来然后停到另一个地方去吗？再就是，你的机器会被允许替你投票吗？
诚然，“奇点”是否来临、何时来临这个问题对我们来说，还非常遥远，但人工智能的伦理问题，已经来临，现在思考起来，并不算早。机器的行为目标、行为规范，甚至价值倾向，都来自设计和使用它的人。机器背后的人与人之间的认知差异、价值差异、行为方式的差异，都会让机器本身成为一把双刃剑。
中国人工智能学会理事长、工程院院士李德毅表示：“会不会有一天，机器人跟人类吵架，或者机器人把人类推翻？实际上，这种假设是不存在的，就好比世界上有男人和女人，女人会团结起来把男人打败，或者男人打败女人——这是不可能的。将来也不会有一个阵营，机器人在一边，人在一边，而是人和机器人的混合团体，跟另外一批人和机器人的混合团体，形成一个区域的新的文明，或者一个新的生态系统。”
我们被算法包围，我们通过掌上设备做出大小决定，从选择到哪家餐厅吃饭，到和谁结婚，这些都植入了算法。机器没有自我意识，做决定的是我们，是人类的决定深植于软件之中。人类在人工智能中很重要，我们要研究怎样结合人类智能和机器智能来解决问题。
“如何让人工智能成为一个有效的、对社会有益的工具”是一个宏大的命题。它引出无数开放性的讨论。人工智能改变世界，谁来改变人工智能？霍维茨认为“共生”是人类与机器相处的正确打开方式，也是“一个长远的梦想”，人类与机器可以亲密地工作，感觉合二为一。这一天会来到吗？霍维茨笑着握起拳头，做了一个加油的手势：“如果我们做得够好！”