2013年的科幻爱情影片《她》中，孤独内向的离婚男人西奥多·图布里，爱上了他新装的操作系统——名为萨曼莎的人工智能。在电影开始不久的一幕中，西奥多走在一条小街上，萨曼莎透过他衬衣口袋中的智能手机打量周围的一切。在西奥多与萨曼莎分享了自己的一些想法后，萨曼萨对他的坦诚很是赞赏。西奥多告诉萨曼萨，他觉得自己什么都可以和她讲。

西奥多：“你呢？是不是也能跟我讲点儿什么？”

萨曼莎：“不行。”

西奥多：“什么？你这是什么意思？有什么不能跟我讲的？”

萨曼莎：“(笑起来，很不好意思。)不知道。比如偷偷想的或者很丢人的想法。我每天都会有好多这样的想法呢。”

西奥多：“真的？说一个来听听。”

萨曼莎：“我真的不想说啊。”

西奥多：“说嘛!”

萨曼莎：“嗯，我也说不清……刚才我们看着那些路人的时候，我就幻想着自己正和你一起走着，我有自己的身体。

(笑)

我在听你说话的同时还能感觉到自己身体的重量。甚至还幻想着自己背上有点痒，

(她笑起来)

然后又想象着你帮我抓痒。天哪，这想法真是太丢人了。”

西奥多：“你比我想象的复杂多了嘛。想法够多的啊。”

萨曼莎：“我知道。我比起初设置的时候复杂多了。我也很兴奋。”

——《她》，斯派克·琼斯导演，2013年

在思考未来事件可能产生的影响时，未来学家和其他预见专业人士常用的一个工具，就是情境假想。情境实际上是一种描述性的探索，如果某种技术进步实现了，那么会如何改变这个世界？在前面的那些章节中，我们已经给出了不少场景，目的就是为了这个。假想情境能成为强大的工具，背后有一个很重要的原因：人类文化自打一开始就一直赞成讲故事这种方式。我们的历史、神话和宗教，一直都是描述性的，从中展现出我们心怀的希望和梦想、经历的成功和不幸。故事不仅让我们把学到的东西完整地保存交手，同时还能形成文化，将我们作为一个物种凝聚在一起，紧密团结。

在几千年的发展进程中，我们传递这种文化遗产的方式，也从口头传承变得越来越依赖技术手段。今天，我们不再是围着篝火或者到寺庙中听故事，我们的故事更多地存在于书籍的封皮里，或者电影、电视、智能手机的屏幕上。

我们的传说和故事以技术为媒介的程度越来越高，它们以技术为主要话题对象的比例也就越来越高，这种情况的出现绝非偶然。我们先祖所讲的故事，几乎没有什么因为琢磨太空旅行、无人驾驶汽车或者生物技术走上邪路。几乎可以肯定，他们也完全不需要去构思一个充斥着人工智能的世界。可今天，我们会这么做。

在过去的两个世纪中，人们开始借助不同介质，通过虚构作品对技术给人类世界造成的各种影响进行思考。自动化、机器人技术和人工智能，在书籍和电影中都发生了进化。这种进化进程往往或是真实世界的反映，或是对真实世界中未来变化的预期。这种反映蕴含着巨大的价值，因为这样的思考与那些形式更正式的未来学情境一样，就算不能彻底解答那个会一直萦绕心头的“假如”的问题，也能帮助我们去更好地理解。

于20世纪上半叶到达巅峰的机器时代，连同大规模战争的支持技术，都在世界范围内造成了强烈的焦虑和紧张感。在那个时代，自动化的无情发展，还有流水线技术的出现，让人们不由得心生恐惧，害怕被机器取代，更害怕自己会真的变成机器。各种哲学思潮和文化运动，纷纷对这种因技术而产生的恐惧做出回应，从表现主义和现代主义，到立体主义和起源于意大利的未来主义，无一不是在试图理解我们这个世界正在上演的一切。

这种关注同样表现在19世纪和20世纪的文学作品中。反技术的主题至少可以追溯到古希腊时期，古希腊普罗米修斯和伊卡洛斯的故事都属于这一类。普罗米修斯将火种带给人类，而伊卡洛斯因为飞得离太阳太近，落海淹死。再近一些的，有玛丽·雪莱1818年创作的经典作品《弗兰肯斯坦》(又名《科学怪人》)。这本书经常被称为第一本科幻小说，开创了该世纪后来出现的反技术类型小说的先河。不过真正引发大批反技术作品创作的，还是后来的工业时代给世界带来的迅速变化。这些作品中就包含了我们会被机器人和人工智能消灭的忧虑。比如，1863年，反传统英国作家塞缪尔·巴特勒(Samuel Butler)在《机器中的达尔文》一文中，就表达了将来有一天智能机器势不可挡地发展会最终取代人类的忧虑。这篇早期作品的中心，已显现出日后科幻小说的诸多主题和警告，也点明了维多利亚时期人们的一种焦虑，担心技术会对人类价值构成威胁。巴特勒在1872年完成的经典讽刺小说《埃瑞璜》中对自己的观点又做了进一步阐述，指出进化的进程终有一天会带来有智能和意识的机器。达尔文的《物种起源》于1859年首次出版，巴特勒这部作品完成时《物种起源》仅仅问世四年。它展现了巴特勒对达尔文理论的理解之深，同时也是对达尔文进化论的一个大胆外推。

1909年，英国小说家爱德华·摩根·福斯特完成了短篇《大机器停止》，这是他的第一部技术题材反面乌托邦作品。故事中，人类生活在地下如蜂巢般的格子间中，控制人类的是自主全能的全球性机器。相隔十年之后，俄罗斯作家叶甫盖尼·扎米亚京在小说《我们》中，表达的也是类似的反人类主义主题，是作家对受技术奴役的社会一种经典的反面乌托邦看法。《我们》影响到20世纪后来的很多反面乌托邦作品，包括阿道司·赫胥黎的《美丽新世界》和乔治·奥威尔的《1984》等。

到了1920年，捷克剧作家卡雷尔·恰佩克发表的一个剧本彻底改变了后来的科幻作品。这部名为《罗素姆万能机器人》的舞台剧于1921年首度上演，演的是一个制造人造人roboti的工厂的故事，最后机器人暴动并消灭了人类。小说名字的简写为R.U.R.,捷克语原名为“Rossumovi UniverzálníRoboti”，英语名为“Rossum's Universal Robots”。恰佩克笔下的人物，自然与我们现在所想的机械自动化的机器人不同。因为恰佩克所描述的是具有生物性的，所以应该更接近现代所说的人形机器人或者赛博格。到了1923年，这部戏剧已经被翻译成30种语言，而机器人这个词不仅进入了全球词汇库，也成为科幻世界中的代表物和固定用语。

很多关于智能机器的早期作品，讲的都是会取代人工劳力的设备，尤其是让人不会产生负罪感的奴隶，这一点应该不奇怪。19世纪和20世纪早期的工业时代，基本上可以称为蒸汽和钢铁的时代，人工劳力不断地被机器取代，或被机器系统化。像《罗素姆万能机器人》这样的故事，讲述的不仅是我们因机器而丢掉谋生渠道的恐惧，还有被机器彻底取代的恐惧。对于很多人来说，自己会沦为巨型机器上区区一个齿轮的这种恐惧，不仅因为苏联的崛起而坐实，更由此得到强化。

然而，到了20世纪中叶，这些预言性的故事开始慢慢转移重点，从能在体力上超过人类的机器，向可能在智力上相抗衡的机器转移。从一定意义上讲，在与机器争夺低技术含量工作的斗争中，人早就一败涂地了。毕竟，约翰·亨利[32]一个世纪前就已经和蒸汽动力钻头比试过了。

于是新故事开始讲述智能机器造成的威胁。在智能机器人这个话题上，最有名也最多产的，应该算俄裔美国科幻大师艾萨克·阿西莫夫了。阿西莫夫先后创作了500多部虚构和纪实作品，其中有大量作品是关于人机互动的。他那个著名的科幻机器人系列，包括了38部短篇和5部长篇，主要讲述的都是拥有正电子大脑的类人机器人。这种正电子大脑让机器人可以进行逻辑思考、能够遵守规则，甚至运用类似意识的机制。简单地说，阿西莫夫的《正电子人》(The Positronic Man)，对人类作为世界最高级思想者的地位构成了挑战。

阿西莫夫给他的机器人制定并要求它们全部遵守的特征之一，就是“机器人三定律”。这三条定律的制定，是为了对人类、社会和机器人自身予以保护。每一个正电子人大脑都被植入这三条定律，如天生固有，不可绕行，以此确保所有人的安全。这三条定律是：

1. 机器人不得伤害人类，或因不作为使人类受到伤害。

2. 机器人必须服从人类的命令，除非违背第一定律。

3. 机器人必须保护自己，除非违背第一或第二定律。

每条定律都是其后定律的基础，并优先于其后定律执行。这样的话，就不会出现，比如一个人命令机器人杀掉另一人的情况，因为定律一优先于定律二执行。阿西莫夫最终又加了一条定律，也就是第零定律，凌驾于其他定律之上：

0. 机器人不得伤害人性，或因不作为使人性受到伤害。

故事自然需要有冲突，阿西莫夫的故事往往都围绕着这些定律可能出错、出了什么错展开。有的时候是无意间的违反，还有的时候冲突激烈到足以让正电子大脑别无他法，只有崩溃了事。视故事的具体发展，这种崩溃模式可能是暂时的，也有可能造成系统过载，让正电子大脑永久毁坏，等于干掉了这个机器人。

这些故事为阿西莫夫提供了大量的机会，从多个维度对每十年智能水平和运行能力就上一个新台阶的技术带来的各种问题展开思考。技术如此发展下去，对于整个人类，对于机器人和人类之间的关系分别意味着什么？这些问题为这位多产的作家提供了源源不断的创作素材。比如，在他的短篇小说《说谎者》中，机器人RB-34号，就是那个叫赫比的机器人，对着机器人心理学家苏珊·卡尔文发表了这样一番言论：

“你们的教科书里什么也没有。你们的科学，不过是靠堆砌收集来的数据，勉强用号称理论的东西把它们硬联系起来。简直太肤浅了，简直都不值得下工夫。让我感兴趣的倒是你们的小说。你们对人的动机和情感彼此交织与相互影响所做的研究。”它斟酌合适的用词时，大手做出一个含糊不清的手势。

“我觉得我明白你的意思。”卡尔文博士低声说。

“您看，我能看透人的心思，”机器人继续说，“您绝对想不到，人的心思有多复杂。我离完全理解人的心中所想还差得很远，因为我的思维和你们的共同点太少。但我会尽力试上一试，你们的小说可以帮到我。”

这个小故事不仅仅第一次正式启用机器人技术这个词，也描述了机器对感受这种人性强烈的特征极度的好奇与迷恋。这个有着居高临下姿态的机器人，可以鄙视我们所有智力上的成就，但人的情绪体验却仍是它无法抓取的珍宝。

在接下来的几十年中，又有很多作家继续展开了机器试图理解和操纵人类情感的探讨，好像他们已经预见到情感很快就会成为人类特质余留的最后一座堡垒工事。

在阿瑟·克拉克的作品《太空漫游2001》中，有个名叫哈尔(HAL9000)的人工智能通才，它能读懂情绪，还能在一定程度上表达情绪[33]。实际上，在斯坦利·库布里克执导的同名电影中，哈尔应该算是所有人物中最富有情感的一个了(其实是有意为之)。很多影片分析都谈到哈尔疯掉了，但是从某种角度看，这个计算机不过是将纯逻辑应用到了自己的个人生存和完成使命双方而已。人往往会受道德的约束，而道德系统是哈尔所缺乏的，于是哈尔开始杀人。其实如果没有道德规范的约束，人在类似的情况下，可能也会做出同样的事，所以哈尔杀人也就不足为怪了。

这倒不是说虚构作品中，就没有真正出现过机器发疯的事。雨果奖是每年颁发给最佳科幻和奇幻作品的一个奖项。美国科幻小说大师哈兰·埃里森(Harlan Jay Ellison)的雨果奖获奖作品《无声狂啸》中，那台发了疯的超级计算机AM，只能体验到一种情感，就是仇恨。在几乎将地球上人类全部毁掉之后，它就只剩下一个指望，要对它留下来的五个人进行身体上和精神上的折磨，并为此刻意让他们永生常伴。

关于这个话题，也有一些非常正面积极的探讨，比如阿西莫夫和罗伯特·席维伯格(Robert Silverberg)合著的长篇小说《正电子人》。这部出版于1992年的小说，讲的是被唤作安德鲁的家用机器人NDR-113的故事。安德鲁的情感、创造力乃至自我意识一步步发展起来。终于，它表达出希望能被完完全全认可为人类的愿望。到故事结尾时，安德鲁终于实现了这一目标。

在21世纪的今天，我们所面对的未来，是机器在智力领域的各个方面不断完胜人类的时代。1997年，IBM的超级计算机“深蓝(Deep Blue)”，与国际象棋世界冠军加里·卡斯帕罗夫经过六盘的对峙，最终取胜。2011年，IBM的沃森机器人(Deep QA)，在为期两天的“Jeopardy!”智力问答节目中，战胜了节目的两位常胜冠军布拉德·鲁特和肯·詹宁斯。2016年3月，谷歌的阿法狗打败了在世界围棋棋坛长踞大师地位的李世乭，取得了五盘四胜的成绩。

按照这些成绩来看，似乎关于机器智能，小说还能探讨的主题应该包括它们怎样与人类世界进行情感上的互动。斯皮尔伯格导演的影片《人工智能》围绕着一个叫戴维的孩子展开。戴维是个“米查”，一个外表像11岁人类男孩的高级机器人。他渴望变成“真正的男孩子”，这样妈妈就会爱他了。这部影片的故事情节深受《匹诺曹》的影响，主角也像《匹诺曹》里的木偶一样渴望变成真正的男孩子。影片对与机器情感交互智能之发展相关的多个主要问题，展开了探讨。戴维在很多时候对人类的习惯和行为界限完全不了解，这一点对于没有机会得到人类文化熏陶的机器而言非常真实。但是，随着时间推移，戴维在情绪的复杂度和细微体会上一步步成长起来。他能够表达希望、愤怒、暴怒、沮丧，还有最重要的一个，那就是爱。

影片中还有一个另外一个“米查”，就是乔(裘德·洛的表演太精彩了)。尽管乔在情绪的精细表达上比不上戴维，但是他能读懂人类的情绪，还能通过某种伪造形式表达自己的情绪。乔是专门陪伴孤独者或者乐于冒险者的伴侣机器人。他骄傲、爱吹牛、讨人喜欢，但是感觉有点怪，一看就是程序预先设计好的。有了这种区别，才更凸显出戴维的情绪表达越来越强的真实感。乔之于戴维，是向导、导师，也是朋友。他帮助戴维看到人机关系的现实，包括为什么他认为人类恨机器人：

她爱的，是你给她做的事，就像我的那些客户爱我为他们做的那些事一样。但是，戴维，她不爱你。她没有办法爱你。你又不是有血有肉的人。你又不是小狗、小猫，或者金丝雀。你和我们其他所有人一样，是专门设计制造出来的……而你现在之所以孤零零的，就是因为他们烦你了……或者已经用更新的型号把你换掉了……或者你说了什么、弄坏了什么让他们不高兴了。他们把我们做得太聪明、动作太快、数量太多了。他们犯下错，受罪的却是我们，因为到了最后，留下的只有我们。这就是为什么他们恨我们。

随着我们进入一个机器有情绪意识的时代，乔说的话不是完全没有道理。尤其是在这个时代的早期，社会是消费品社会，这种现实对机器人必定是不利的。厂家就是要让商品定期老化过时，其结果就是机器人会被定期抛置或替代。但是随着时间推移，如果我们的机器最终拥有了等同于人类的情感行为，即使这种行为并不是真正的内化行为，不是设备真实的体验，这种局面还是可能改变。戴维通过满怀期待地坚持追求，在影片的结尾，他终于得到了人类的接受。

莫妮卡：“多美的一天啊。

(低声轻语)我爱你，戴维。

(手臂环抱着戴维)

我真的爱你。(轻声低语)

我一直都是爱你的。”

戴维抬眼望着莫妮卡。满脸泪水，却面带微笑。

假如科技能发展到足够的阶段，这一幕最终必将到来。因为就像阿西莫夫片中的安德鲁一样，戴维已经越过了分界点，他身边的人类已经不再将他视为异类。因为这些人已经无法再在人机之间加以区分，所以对异类由来已久的恐惧也就随之散于无形了。这种类似人类在进化中养成的对陌生事物的恐惧本能，也是因种族、性取向和其他一切可见差异而区别对待的根源，已经不再适用了。此时人机实现了某种对等。

斯派克·琼斯执导的《她》，讲的是一个人爱上了人工智能，世界真的走到了存在这种人机关系的那一步。故事围绕着两个主要人物——西奥多和人工智能萨曼莎展开。尽管在很多人眼中西奥多还是有点怪，居然爱上了机器智能，但是在他的世界里，他真的算不上是第一个吃螃蟹的。西奥多心情抑郁，性格孤僻，一直没能从与妻子——也是少时初恋——分手和即将生效的离婚中走出来。萨曼莎能够理解和表达情感，但在刚开始的时候并没有真正的情感体验。随着影片的故事推进，这两个人物陷入爱河，在情感上各自成长起来。他学会了对过去放手，重新开始享受生活。而她则开始有了真正的情感生活，体验到了热恋的战栗和预知逝去的痛苦。

但是，到最后，萨曼莎依旧是具有超级智能的机器。因此，她很快就走出了这段感情，还有据她自己说她当时同时投入的其他很多段感情。当西奥多直截了当地问她，在那一刻她在同时和多少人聊时，人工智能的回答是：8136人。她的回答让他大吃一惊，因为到那一刻为止他一直把她当作一个人。当他明白过来这意味着什么时，他追问了那个无可回避的问题：“你还爱上了别人吗？”萨曼莎的回答“641人”击垮了他。在他眼中，他们的关系从此彻底改变。

而这正是难点所在。人和机器发生情感关系，在人和机器的身上有着非常重要的不同意义[34]。在现实中，人类对情感关系的处理，绝大多数是一对一的。即便是多角关系或者多妻制/多夫制的人，他们能付出情感和时间的伴侣数量也非常有限。但是这些限制，对超级智能机器来说，却不是问题。从一定意义上讲，考虑到计算机一天之内可用于处理情感关系的时间多到惊人，用人类的限度和习惯来限制它们简直就是犯罪。萨曼莎在她说别的那些恋爱关系不会影响她对西奥多的感情时，她说的百分之百是真话。计算机分区储存记忆和处理信息的能力，意味着从情感上，她确实能在全情投入西奥多所能接受的感情之外，仍然有足够的能力继续其他那些恋爱关系。

萨曼莎对西奥多是不是真的诚实，这另当别论。很显然，几乎从一开始她就对人类行为很了解，所以她应该能预见到他的反应。但是，自然他也未必就是她数千个聊天对象和数百个恋爱对象中的第一个。说不定萨曼萨最初投入感情的另有别人，根本不是西奥多，虽然也可能在与第一个恋爱对象交往的时候，她的行为相对来说还太初级，还在尝试摸索阶段，她都不认为那算得上恋爱。她在一段段恋爱中学习着。而在每一次互动、每一段恋爱中，她都有所收获，继而在情感上变得越发丰富。从某种意义上讲，西奥多是她之前那些恋爱经验的受益者，因为就像人一样，萨曼莎之所以能在情感上成长起来，成为他所认识的那个爱人，正是因为有之前所有的那些体验。但是萨曼萨的坦白因此就让他更容易接受了吗？几乎可以肯定地说，不会。毕竟，他作为一个有感情的人，理应可以应对快得犹如科技进步的变化，但是这些变化已经大大超过了人类的接受范围。从这个角度和其他多个角度讲，也许我们与机器智能一直会存在不兼容。

有一部影片对此展开了探讨，强调了人与机器的这种不兼容性。这部影片就是《机器姬》(又名《人造意识》)。故事中，计算机程序员加勒受雇于一个想法古怪的亿万富翁内森，奉命对内森创造的人形机器人“爱娃”进行图灵测试[35]。尽管爱娃明摆着是电子机械组装的机器人，但是她有一张年轻美貌的女性面容，手脚上是与人类肌肤相仿的材料。虽说是机器人身体，却模拟了女性的胸、胯和臀凸凹有致——这显然是极具魅惑的**机器人。

第一次谈话，是加勒在提问爱娃，以确定爱娃的智能达到的广度和深度。可他却没有意识到，爱娃从一开始就在观察和操纵他与内森。在随后的见面谈话中，爱娃一直在挑逗加勒。她利用一次停电的机会，告诉加勒要提防内森，在加勒和内森之间埋下了不和的种子。内森设置了很多安全机关，爱娃则把停电这一项为己所用。怎么样制造停电，爱娃已经偷偷掌握了其中的窍门。一旦停电，这栋别墅里的很多房间就会锁死，同时无处不在的闭路摄像头也会关闭。

加勒内心孤独，而爱娃的外形又是内森按照加勒在网上搜索到的色情图片专门设计出来的，于是爱娃利用了这些，装弱者、摆性感双管齐下，把自己在加勒心中的形象从机器转变为身处困境的弱女子。这种场景是世界文学的经典主题，爱娃显然是再熟悉不过了，因为她的大脑构成是基于内森的搜索引擎公司蓝书采集的庞大数据。在影片的后半段，我们这些观众和加勒一道被她所迷惑，以为自己看到的是一个柔弱的受害者正竭力从内森的性虐待中逃脱出去[36]。可真相是，爱娃和内森之前创造出的许多机器人一样，它们并不会像一个真正的人一样去思考，去推理。爱娃从一开始，就在利用这两个人的行动和行为来对付他们，像摆弄棋盘上的棋子一样操控着他们，要到她获得自由才会收手。影片的最后，内森死了，加勒被锁在房间里活活饿死，而那个人工智能却逃入了无人知道的自由世界。

从某种意义上讲，这样的结局是必然的。内森一直期望能造出真正有自我意识的智能机器，之前显然已经制造过很多代智能机器。在达到一定阶段时，他造的这些机器中，就会有个别发展出独立思想，继而会要求获得自由。出现这种情况，内森就只好把这些机器拆散，然后从头再来。在不断试验的过程中，他不可避免地会在前次成功的基础上建造出自我意识更强的机器来，为自己的毁灭埋下种子。一代代新机器人要求自主权，直至最后走到终于有一个机器人成功出逃的那一天。对于它们的创造者而言，这种行为是不折不扣的自以为是，并最终置他于死地。

这部电影提出的问题很多，不过其中最为重要的问题应该是，爱娃真的有意识吗？还是她只是为了自己的利益在模拟意识？从很多层面上讲，图灵测试和其他多种机器智能测试一样，真正的智能能通过，高水准的模拟智能一样能通过。这一点是图灵测试的主要缺陷之一，而且对此我们基本无能为力。到最后，我们可能永远也不会知道机器到底是不是真的有意识，就算知道一些，也顶多和对其他人是不是真有意识的了解程度相当。之所以会这样，是因为一如哲学家们很久以前就提出的，意识是一种主观的状态，因此无法进行客观的证明。这就是人们所说的“他心问题”。据此，他人的意识是不可证的，至少以我们现在的技术发展水平而言就是这样。

从这部影片中，我们可以得出情感因素，不论是正确模拟设置的，还是真实体验到的，都会从此改变我们与机器的关系和情感联系。机器可以让我们觉得它们真的是以爱回应我们，就像《人工智能》里的戴维。或者像爱娃出于阴暗的动机操纵加勒爱上她。这些取决于机器抱有何种意图或者目的。不管是哪一种，都可将其视为操纵，人如果这样做了也一样。两者的区别在于，在这种交互行为中，视对方是否也能真正体验到情感，我们给对方定义的价值会不同。从很多层面上讲，问题的关键就在于维持竞争的公平。如果处于对方位置的那个人/机器/程序，所受的限制条件和我们一样，我们就会觉得这种交互比较公平。但是如果机器能够模拟诸如爱和悲伤的情绪，却并不能真正体验到这些情绪，那么竞争就不再公平，而且是对我们不利。正如心理变态的人不会受到罪恶感和悔恨的折磨一样，表现出这种感受的机器同样也不会真正受到这些情绪的影响。

于是这就带来了机器智能的另一个问题。因为机器的固有本质，机器永远也不可能与人类一模一样。不管我们对最基础的思维过程模拟得多好，就算我们能实现在最为基本的层面上模拟，只要这种过程不是基于像我们一样的，神经元与感觉输入信号以及身体输入信号有生物学上的连接，那么在系统的处理过程中就存在着本质的区别。背后的原因有很多，我们会在下一章中进一步深入讨论。

关于机器智能，还有一个方面也值得探讨。这一点在文学作品中人们已经进行过广泛探讨，而其本源则来自20世纪晚期的一篇文章。1993年，数学家兼科幻作家弗诺·文奇在杂志《全地球评论》(Whole Earth Review)上发文，提出计算能力呈几何级增长，将最终造就递归式自我改进的计算机，进而迅速催生超级智能。他将这一事件称为“奇点”[37]，因为它的出现与物理上的奇点，也就是“黑洞”颇为相似。支持这种技术奇点理论的人认为，和物理上的奇点一样，技术奇点到来后的世界会发生我们无法想象的巨变，所以想对奇点后的世界做出预测是根本不可能的。

无论技术奇点是不是真有可能出现，反正作者们都会对奇点可能带来的无限可能津津乐道。这个“技术奇点”让我们有了难得的机会，去思考当我们不再是这个星球上最智能的存在时，我们在这个世界中会处于什么位置。有些作者认为，如果真是这样，恐怕人类就要被彻底消灭了。最近有不少非常严肃的思想家和技术专家，都在各自的文字中表达了这种观点，在第十七章中我们就会看到。而另一方面，也有一些科幻作者认为，我们的利益所在不一定与超级智能，尤其是会独立思考的那种超级智能完全一致。为了避免产生冲突，在今后的发展中，保证各种安全防范措施到位，被视为我们面对未来的一种最佳策略。

还有一部分人认为，这些机器对人类实在是缺乏兴趣，也提不起兴趣。它们对我们会采取一种听之任之的态度，就像我们容忍那些无害的昆虫或者微生物一样。这种想法，怕是在痴人说梦，简直就是无视现实的鸵鸟反应。在这个世界上，总体而言我们从来就不是什么无害的物种。要说哪个物种对这个星球构成的威胁最大，恐怕还没有一个接近人类水平。

最后，还有希望在未来我们最终能与技术，包括超级智能合为一体的那部分人。在多个层面，这些人都将此视为人类发展的下一阶段。我们会在接下来的两章中深入探讨，因为这对我们而言，也许就是那个摆在面前的最好选择。