专栏

超级智能的巨大威胁

14_1人类不是这个星球上速度最快的生物,但人类发明了汽车、火车和飞机。我们虽然不是最强壮的,但我们发明了推土机。人类的牙齿不是最锋利的,但人类可以发明比任何动物的牙齿更坚硬的刀具。

这意味着人类之所以能控制地球,是因为人类的大脑比即使最聪明的动物的大脑都要复杂得多。如果机器比人类聪明,那么人类将不再是这个星球的主宰。当这一切发生的时候,机器的运转将超越人类。

这确实是一个值得人类深思的问题,而《超级智能:路线图、危险性与应对策略》便是一本探讨这课题的书籍,也非常值得企业领导人涉猎的另类知识。作者为尼克·波斯特洛姆(Nick Bostrom),他是全球著名思想家,牛津大学人类未来研究院的院长,哲学家和超人类主义学家。

作者认为,人类大脑拥有一些其他动物大脑没有的功能。正是这些独特的功能使我们的种族得以拥有主导地位。如果机器大脑在一般智能方面超越了人类,那么这种新兴的超级智能可能会极其强大,并且有可能无法控制。正如现在大猩猩的命运更多的掌握在人类手中而不是自己手中一样,人类未来的命运也会取决于机器超级智能的行为。

但是,人类有一项优势:人类有机会率先采取行动。是否有可能建造一个种子人工智能,创造特定的初始条件,使得智能爆发的结果能够允许人类的生存?我们如何实现这种可控的引爆?

作者相信,超级智能对人类将是一个巨大的威胁。在这本书中,作者谈到了超级智能的优势所带来的风险,也谈到了人类如何解决这种风险。作者认为,他的这本书提到的问题将是我们人类所面临的最大风险。

他表示,我们更感兴趣的一个与“奇点”相关的术语是智能爆发,尤其是机器超级智能的前景。肯定会有人意识到增长模式是比农业革命和工业革命还要激烈的另一种可能的飞跃式增长模式。

这些人也会意识到,要想让世界经济实现在仅仅数周内翻倍的增长速度,就需要创造出一种比人类的生物性思维更快、更有效的思维方式。但是我们很难通过分析经济增长曲线以及推断过往经济增长模式来认真严肃地了解机器智能变革的前景。我们将看到,更加强有力的理由会让我们认真考虑这一问题。

自从20世纪40年代电脑被发明出来之后,机器就一直被寄予厚望,人们希望机器能够具备人的一般智能,更确切地说,就是机器要具备普通判断力和有效的学习、推理能力,并且要能够制订计划以应对复杂信息处理过程带来的挑战,这种挑战可能来自自然和抽象领域的各个方面。

在电脑刚面世时,人们就期望能够在未来20年之内赋予电脑人工智能。但一年又一年过去了,实现让机器具备人工智能的日期却一拖再拖;以至于今天,关心人工智能的未来学家们依旧普遍认为智能机器的出现还需要20多年。

在谈到彻底变革所需要的时间时,预言家们总喜欢用20年这个时间跨度:这个时间跨度既抓眼球,又足够长,长到可以让一个目前看起来还是模糊想象的突破成为现实。为什么不是更短的时间跨度呢?因为大多数在未来5~10年内可能对世界产生重大影响的技术目前已经在小范围内被应用了,而全新的技术在不到15年之内就能让世界焕然一新,当然这也只是一个理论假设。另外,之所以喜欢说20年,还有可能是因为一个预言家的职业生命大概就是这么长,这样一来他在做出大胆假设时也不用承担名声受损的风险。