人类制造的最后一台机器？

□ 尹传鸿

史蒂芬·霍金，著名物理学家，半个月前去世，在他的专业领域之外有两个惊人的理论：一个是主张不要主动接触或接触外星人，另一个是警告人工智能可能最终毁灭人类。对于第一个话题，大多数人认为这位科学明星太“科幻”了，不是特别严肃。在比尔·盖茨和埃隆·马斯克的支持下，第二个话题似乎是正确的。

事实上，霍金不止一次用人工智能吓唬人。2014年5月，他和包括诺贝尔奖获得者弗兰克·威尔切克在内的几位著名科学家在《英国独立报》上联合发表了一篇文章，警告人工智能的快速发展，创造一台真正有思维的机器“将是人类历史上最大的事件”。超过人类智能水平的计算机可能“超过人类研究人员和人类领导者的发明”。将所有这些视为科幻小说“可能是我们历史上最严重的错误”。

拥有机器人学博士学位的美国作家丹尼尔·威尔逊出版了一本科幻小说《机器人启示录》，生动地描述了几年前机器人对人类发动的战争。在小说中，一个看似简单、婴儿形状的机器人ACOS教给制造他的人：“你们人类只是一台生物机器，旨在创造更多智能工具。你们已经到达了你们物种金字塔的顶端……你们的最后期限已经到了。你们已经完成了所有你们被设计用来完成的任务。”

自从20世纪40年代计算机发明以来，人们一直对机器寄予厚望。大多数人工智能的先驱并不认为他们的职业生涯会有风险。然而，“计算机科学之父”英国著名数学家艾伦·图灵，早在1951就表示担忧：“一旦思维开始，他们的力量就不会超过我们脆弱的人类……他们可以通过交流来增强他们的思维。因此，在某种程度上，我们将不得不考虑机器控制世界的问题。”

美国应用数学家、信息论创始人诺伯特·维纳最先预见到信息技术的双重可能性。在二十世纪中旬的计算机时代开始时，威纳描述了我们未来的一个可怕场景：…如果我们转向制造机器，这些机器可以学习，它们的行为可以通过经验得到纠正，那么我们必须面对这样一个事实：我们给予机器的任何程度的独立都可能导致对我们自己意愿的抵制。从瓶子里跑出来的灵魂不会自愿回到瓶子里。同样，我们没有理由期望他们对我们好。

英国数学家欧文·约翰·古德可能是第一个清楚解释人工智能未来图景的人。1965年，他指出：我们将超智能机器定义为一种具有超越所有智能人类的智能活动的机器。一旦机器设计成为一种智能活动，超级智能机器就能设计出更好的机器。毫无疑问，将会出现“情报爆炸”这样的情况，人类的情报将远远落后。因此，如果机器不够顺从并告诉我们如何控制它，那么第一台超级智能机器将是人类制造的最后一台机器。

在关于第一台超级智能机器的推测中，古道尔也谈到了科幻小说：“这本书的内容对一些读者来说可能是荒谬的，但对作者来说，它是真实而紧迫的。它不仅仅是科幻小说的内容，应该被认真对待。”

许多行业专家非常重视超级智能机器。美国发明家、未来主义者雷·库兹韦尔（ray Kurzweil）于2005年出版了《奇点逼近：2045年计算机智能超越人类之时》一书。他在书中解释的“奇点”吸引了很多关注和广泛影响。这是一个英语单词，表示独特的事件和奇怪的影响。数学家用这个词来表示一个超过任何极限的值，比如除以一个越来越接近零的数字，结果就会激增。

据说奇点最早是由计算机的重要创始人之一冯·诺依曼提出的，并将其表达为一种撕裂人类历史结构的能力。美国计算机专家、科幻小说作家维诺·芬奇（Verno Vinci）用这个词来描述科学和技术的持续快速发展最终将达到的关键******状态。

关于创新技术的神奇想法听起来像科幻小说，但它们总是如此。在我们创新科技的浪漫故事中，风险和收益总是并存，并且总是在好与坏之间保持平衡。似乎不可避免的是，我们很快就会与前所未有的事物共享这个星球。这真是一件不可思议的事，有着超凡的智慧。

下一步，我们应该考虑和做什么？