漫天吹捧或是疯狂打击？细数错误预测AI发展的“七宗罪”

【猎云网（微信号：ilieyun）】10月12日报道（编译：田小雪）

编者注：本文作者Rodney Brooks是全球知名机器人制造专家以及美国国家工程院院士，同时还是波士顿机器人公司Rethink Robotics的创始人。

当下的我们，对人工智能和机器人的未来走向，都有着过分狂热的猜想，想知道它们究竟会变得多么强大、速度究竟会有多快以及会给劳动和就业带来什么样的影响。

最近，我看到了一篇文章，说是在未来10到20年的时间内，机器人会代替大约一半的人类劳动力，甚至还用了一张图表来证明和阐述。

但我认为，这篇文章有不少观点，纯粹都是无稽之谈。比如说，它指出，在未来10到20年的时间内，美国的地面维护人员总数，将会从现在的100万缩减为5万，因为机器人会代替他们的工作。但事实上，目前该领域并没有任何正常运作的机器人，就连未来在该领域投放机器人的设想和计划都没有。除了地面维护，其他行业领域也是如此。说是未来，那些在固定场所需要人力的工作种类，有超过90%都会被机器人所代替，根本就是不现实的。

有人预测，未来人工智能会大范围代替人力。也有人预测，未来人工智能创造出来的不同价值会给人类带来负面影响。不管是哪一种，这类错误预测都会诱导人们产生不应该产生的恐慌情绪。因此，我们需要回过头来，探究这些错误预测产生的根源。

下面，我就简单介绍了这些错误预测产生的七大原因。

（一）高估和低估

Roy Amara是美国知名科学家，同时也是加州未来研究所（Institute for the Future）的联合创始人。这是一个非营利性的智囊团，来自硅谷的心脏之地帕拉奥图。Amara有一句名言，也就是现在所熟知的Amara法则：

我们很容易高估某项技术在短期内带来的影响，而低估它在长期内带来的影响。

虽然这句话只有21个单词，但却很难理解。可谓是仁者见仁，智者见智。乐观人士和悲观人士，往往有着完全不同的理解。

该法则两面性的一个最佳案例，就是美国的GPS全球定位系统。1978年刚开始部署时，它只是在轨道中放置了24颗卫星，希望借此来保证美国军队的准确军需输送。但在随后的几年中，这一系统的发展却是几经波折。第一次真正派上用场，是在1991年的沙漠风暴行动当中，即由美国领衔从伊拉克手中解放科威特的联合国行动。

但现如今，也就是从Amara所说的长期角度来看，该系统的功能已经大大拓展了，完全突破了最初的设想。比如说，带有GPS功能的苹果手表，能够准确记录用户的跑步路线。这一点，早期研发该系统的工程师，是绝对想不到的。这项技术能够保证全球范围内各种运动的同步，对美国电网及其运行起着至关重要的作用，甚至还能在最大程度上帮助经常出入股市的交易者规避时间错误风险。

也就是说，GPS系统最初是本着某一目的才开始部署的。虽然没有收到预期当中的效果，但却以一种意想不到的方式渗透到了我们生活的方方面面。如果没有这一系统，那我们或许会受冻、会挨饿，甚至会死掉。

在过去30年的时间中，与GPS系统发展模式类似的技术，还有很多。用一句话来总结，这些技术在起步时都“肩负重任”，虽然随后的表现差强人意，但却逐渐超出原本的预期范围，在其他方面取得了进展直至收获成功。计算、基因组测序、太阳能以及风能的发展模式均是如此。

人工智能也不例外。无论是20世纪60年代，还是20世纪80年代，又或是现在，我们确实是高估它了。但从长期角度来看，它未来的发展态势和表现，又很有可能会被低估。但问题就在于，这里所说的长期，到底是多久。而下面列出的六项错误，将会帮助解释为什么在人工智能未来发展这个问题上，时间维度在较大程度上被低估了。

（二）将其想象成神奇的魔法

我年轻的时候，亚瑟·克拉克（Arthur C. Clarke）、罗伯特·海因莱因（Robert Heinlein）和艾萨克·阿西莫夫（Isaac Asimov），可以说是“科幻小说三巨头”。其中，克拉克不仅是一位科幻小说家，还是一位发明家和未来主义者。在1962年到1973年之间，他先后提出了三个观点，也就是现在所熟知的克拉克三大法则：

第一，如果一位受人尊敬但是年长的科学家认可某件事情是有可能的，那他基本上就是对的。可如果他断言某件事情是不可能的，那他很可能就是错的。

第二，想要找到可能性当中存在的各种限制，唯一途径就是冒险将其归到不可能的范畴之中。

第三，任何发展足够充分、足够先进的技术，几乎就会像魔法一样神奇。

其中，我想要具体阐述第三条法则。假设我们有一架时光机，让牛顿从17世纪晚期穿越到现在的21世纪，地点还是在剑桥大学的三一学院。

不过，在这里，“苹果”需要换一下。我们用iPhone手机，来代替当时那颗掉下来的苹果。即便牛顿通过三棱镜折射实验将白光分为七色光，证明白光并非单色光，但当看到手机屏幕上各种图标的不同色彩，他肯定会惊讶万分。接着，你还可以用手机播放他熟悉的电影场景或者教堂音乐；给他看看自己所写的《自然哲学的数学原理》，并且教他如何在屏幕上放大缩小、查看细节。

那么，牛顿能够解释这其中所有的原理吗？没错，他是发明了微积分、阐述了光学和重力原理，但却没能从炼金术成功过渡到现代化学。因此我认为，他肯定会很困惑，在对这款设备一无所知的状态下，产生一种体验魔法般的神奇感受。

而一旦某件物品贴上了“神奇”和“魔法”的标签，那就很难去想象它有些什么限制。假设，我们再进一步向牛顿展示，iPhone手机如何拍照、如何录音、如何当作放大镜、如何快速进行算术运算、如何统计行走步数以及如何进行即时通话，那牛顿又会有什么样的反应呢？他会想到要给这样一款设备充电吗？既然不用火也能充当光源，那他是不是甚至认为这款设备能把铅变成黄金呢？

这就是我们在想象未来技术时会遇到的问题。如果某项技术现在理解起来比较困难，那我们也就不可能知道它存在哪些限制。同理，如果某项技术变得像魔法一样神奇，那不管是什么样的预测评论，都不再是可以检验真伪的。

同时，这也是我就通用人工智能这个问题与他人辩论时，时常会遇到的问题。他们说，人类应该提防甚至畏惧通用人工智能，说我根本不知道这项技术的影响力有多大。但我觉得，这根本就不算一个论据，毕竟我们连它究竟会否存在都还不知道。当然了，我个人倾向于认为它存在，这也是我多年来一直从事机器人与人工智能研究的动力和原因所在。但现如今，通用人工智能研究工作，进展得并不是很顺利。几乎我看到的所有证据都表明，人类根本不知道应该如何正确研发通用人工智能。说白了，我们对它就是一无所知。那么，类比来看，它应该很快就会成为一项像魔法一样神奇的技术，影响力大到不受任何限制。

但要知道，宇宙空间中的任何事物，都是存在限制的。所以，说到底，这是一种基于信仰的论据，并不是基于科学的论据。

（三）把表现与能力混为一谈

通常，我们会用某人完成某项特定任务时的表现，来推断他应该也能以相似的表现，来完成其他任务。比如说，你在陌生的城市问路，如果对方信心满满给出了回答，那你就会想当然认为，他同样也能告诉你坐公交应该如何付钱。

举个例子，如果现在有一张照片，照片上有人正在公园里玩飞盘。那么，你看到之后，自然而然就会认为他们了解飞盘，并且能够回答这几个问题：第一，飞盘是什么形状的？第二，玩飞盘时一般要站得多远？第三，一次最多能让多少人同时玩飞盘？第四，今天的天气状况适合玩飞盘吗？

没错，计算机确实能够标记出“在公园玩飞盘”这类图片，但却无法针对上述问题给出具体回答。不仅如此，它们根本就不知道究竟什么才可以被称为人，也不知道公园通常都是在室外的，更不知道照片所呈现出来的效果在某种程度上是由天气状况决定的。

但即便如此，这些系统都还是非常有用的。对于搜索引擎来说，它们可以带来较大价值。那么，问题出在哪儿呢？一旦人们知道，某些机器人或者人工智能系统能够完成某些特定任务，那他们就会想当然地产生一种想法，即把之前看到的某些表现简单归纳为一种固定能力，认为那些机器人和人工智能系统同样有能力来完成其他不同的任务。

可事实上，现如今，机器人和人工智能系统的应用范围是非常狭小的。人类下意识进行的推演和归纳，是完全不适用的。

（四）“行李箱单词”词义较多、难以正确理解

MIT人工智能实验室的联合创始人Marvin Minsky，曾经将那些词义较多的单词定义为“行李箱单词”。其中，“学习”就是一个非常典型的行李箱单词，它可以代表许多不同类型的学习经历。比如说，学习如何使用筷子，与学习如何唱好一首新歌，就是非常不同的体验经历。

因此，当人们听说机器学习在某些全新领域取得较大进展时，就很容易认为人类也可以借助这种相同的心智模式来了解这些全新领域。但其实，机器学习是非常脆弱的。那么，什么叫做脆弱呢？因为这项技术的顺利应用，需要研究人员和工程师提前做好充足的准备工作。除此之外，还需要目的明确的编程代码和训练数据集，以及针对每一全新问题所设计的个性化学习结构。现阶段的机器学习，并不是人们以往那种“海绵式”的学习模式。所以说，如果你不主动做出一些变动，或者说不明确自己的目的，那么就很难快速在全新领域取得进展。

同样地，当人们听说计算机能够打败世界象棋冠军（1997年）或者能够打败全球顶尖围棋手（2016年），也就很容易认为计算机下棋或者取得胜利的方法，与人类下棋或者取得胜利的方法大同小异甚至完全相同。当然，在现实生活中，这些代码程序根本就不知道真正的棋局如何，甚至根本就不知道自己是在下棋。它们对棋局变化的适应能力，要比人类差很多。因为如果是真人下棋，那么规则上的细微变动，是不会带来太大负面影响的，他们能够随机应变。但到目前为止，AlphaGo或者Deep Blue都还做不到这一点。

行李箱单词会让人们错误地认为，机器能够一种完美方式来完成人类要完成的任务。至于这种误导现象产生的原因，有一部分是人工智能研究人员甚至是机构性新闻办公室，迫切地想要向外界展示人工智能所取得的进展和成就。这样一来，不少细节就会丢失。新闻报道头条，歪曲了人们对人工智能发展状态和进度的理解，也夸大了它未来的发展可能性。

（五）过度纠结于“指数增长”

在现实生活中，不少人都深受“指数增长”这一问题的困扰。想必大家都知道所谓的摩尔定律，就是说未来计算机会像发条一样极其规律、极其精准地实现完善和优化。但其实，最开始，戈登·摩尔（Gordon Moore）只是想表述这样一点，即往后每年适用于微芯片的零部件数量将会翻倍。而随后50年微芯片的发展，也成功印证了这句话。

适用于微芯片的零部件数量的翻倍，使得计算机运行速度随之持续翻倍，进而记忆芯片的容量每两年也会实现四倍的扩大。不仅如此，它还会提高数码相机的分辨率，让LCD显示屏的像素数以指数形式提高。

对于那些深受指数增长问题困扰的人来说，他们或许会认为用来判断某一论据的指数数值会持续快速增加。但可惜的是，摩尔定律以及其他一些指数定律可能都不太管用，因此持续快速增加可能也不会出现。

早几十年，我还担任着MIT计算机科学和人工智能实验室（CSAIL）的负责人，需要帮助超过90个不同的研究小组筹集资金。那时候，我就借助iPod上的记忆增加来向赞助商说明，未来技术还将会继续快速变化。下面是以往几年花400美元能在iPod上购买到的音乐储存空间：

2002年：10GB

2003年：20GB

2004年：40GB

2006年：80GB

2007年：160GB

以此类推的话，现在我们应该能花400美元在iPod上购买到16万GB的储存空间。但现实呢？售价超过400美元的iPhone手机，却只有256GB的储存空间。也就是说，如果遇到了某些限制，或者没有更多的经济原理作为支撑，那么指数增长就不再成立了。

同理，得益于深度学习的成功，人工智能系统近来的性能表现已经大大提升了。不少人听到这句话，可能就会下意识认为，未来人工智能的表现，还将会以某种规律继续完善。但其实，深度学习取得成功花费了长达30年的时间，而且这只是一个孤立事件。

当然，这也不是说，未来就不会有更多孤立事件发生。说不定，在人工智能研究人员的努力之下，那些人工智能应用程序就可以取得快速且显著的发展。总之，一句话，我们无法就这一问题给出准确预测，也没有什么法则或者规律能够明确指出这些事件的发生频率。

（六）好莱坞场景

好莱坞的科幻电影通常会有这样的情节，即在新的变数出现之前，世界还是会保持现状。

在《机器管家》这部电影中，有一个场景是机器人管家伺候主人吃早餐。主人边吃早餐边看报纸，注意不是平板也不是亚马逊Echo中的播客，就是打印出来的普通报纸。

也就是说，虽然不少人工智能研究人员和学者，尤其是那些持悲观态度的人，都认为人工智能未来会发展到一种失控的地步，甚至会对人类的生命安全造成威胁，但其实这些都只是他们的想象而已。他们忽略了这样一个事实，即如果我们最后果真能够研发出这类智能设备，那么整个世界都将会大大改变。我们应该不会突然被这种超级智能的存在惊到。从技术角度上来看，它们会随着时间的推移逐渐演化。在考虑那些试图取代人类、威胁人类的超级智能之前，我们可以先想想那些不会咄咄逼人、智能程度稍低的机器。而在这之前，我们又可以先想想那些操作不顺畅、令人恼火的笨拙机器。总之，我们会逐步去改变自己生存和生活的世界，针对新技术及其所处的环境不断进行调整和适应。注意，在这里，我并不是说就没有挑战存在，而是说不会像大多数人所想的那样，突然遇到一些意想不到的挑战。

（七）软件系统和硬件设施的部署速度

在某些行业，新版软件的部署频率是相当高的。诸如Facebook这类平台几乎每个小时都会发布一些新功能。而对于其他许多新功能，只要是通过了集成测试，那在出现问题的第一时间，也就必须要把原来的版本撤回来进行修改和更新。这是硅谷和网页软件开发人员，都已经习惯了的做事节奏。而这种节奏之所以为大家所采纳以及认可，主要就是因为部署全新代码的边际成本几乎等于零。

但是，另一方面，部署全新硬件可就有不小甚至是相当大的边际成本了。在现实生活中，就有很多这样的案例。比如说，我们现在购买的汽车，大多都不是自动驾驶的，也无法完全受控于软件系统，说不定到2040年都还在路上跑。所以，这就给我们提了一个难题，那就是究竟到什么时候才能够让路上的汽车全部都变成无人驾驶汽车。

就是因为存在成本问题，所以硬件设备的部署和更新需要很长时间。我经常能够在一些工厂里，看到“工龄”几十年的台式计算机，还用着早在1990年发布的Windows 3.0系统。工厂的想法就是，只要它们不坏，那就绝对不修。在超过20年的时间里，这些计算机及其软件，一直运行着同一款应用程序，完成着同一项任务，而且极为可靠。

各个国家的工厂，包括美国、欧洲和中国，所采用的最为主要的控制机制，就是以可编程逻辑控制器（即Programmable Logic Controller，简称PLC）为基础的。这种控制器是在1968年引进的，主要用来代替机电式继电器。如果工厂需要改变信息流或者控制流，那至少需要几个星期的时间来详细评估、重新设计各种配置。另外，还需要投入很多人力资源来重新进行硬件部署。

很多人工智能研究人员认为，现在我们已经生活在一个数字化的世界了，因此全新人工智能系统将会在最短时间内给生活各个方面带来巨大变化。但其实并非如此，几乎所有与机器人和人工智能有关的创新，想要实现大范围普及，还是需要一段时间的，远远超过外人的想象。

本文来自猎云网，如若转载，请注明出处：http://www.lieyunwang.com/archives/371083