很久以来，因为我们会使用工具，所以被认为有别于动物。珍妮·古道尔(Jane Goodall)在1960年首次观察到黑猩猩使用工具，她向她的老师路易斯·李基(Louis Leakey)发电报告知了这一激动人心的消息。李基的回复闻名于世：“现在我们必须重新定义工具，重新定义人类，不然我们就得承认，黑猩猩就是人类。”

李基是对的，我们所做的选择是重新定义什么是人类。如果我们能够制造一台有意识的计算机，我们将再次面临类似的困境。

人类与有意识的计算机有何不同？如果我们按照我们的形象创造了它们，它们发展出了像我们这样的意识，我们会把它们当作什么？如果我们教它们学习我们的语言，通过让它们接入互联网，教它们我们的历史和文化，那会怎么样？我们会有什么不同？或者，如此建造和训练出来的有意识的计算机，可以被称作是“有人性的”吗？

为什么我在这里一直说“有人性的”？为什么我们会认为有意识的计算机是“有人性的”呢？基于我们自身、生物性和DNA等等，人类就是人类，机器就是机器。但为什么会有把有意识的计算机看作人类的**呢？很简单：因为人类从来没有真正用生物学来定义自己，而是用能力来定义自己。就像本小节开头的例子一样，“工具的使用”，是我们过去这么做的一种方法，但还有许多其他方法：语言的使用、符号语言的使用、艺术的能力、对正义的信仰、拥有心灵、推理的能力、发笑、有文化、有最终目标、合乎道德。

其中一些仍然被认为是人类独有的，另一些则不是。但关键是一台有意识的计算机可以拥有所有这些。所以，请把计算机放在左边，人放在右边，试着找到一个基础，把人类定义的不同于我们创造出来的东西。

自知和意识算吗？计算机和人类都有。死亡算吗？嗯。从理论上讲，电脑是不朽的，而我们是凡人。我们的死亡使我们成为人类吗？如果是这样，那么根据这个逻辑，如果人类不朽，他们将不再是人类。

所以，我们可以沿着列表往下走，试着找到一些让我们保持“我们之所以是我们”和让“计算机之所以是计算机”的东西。当然，我们是碳基的，计算机是硅基的，但在形而上学的意义上，这又有什么关系呢？这真的是我们想要总结的独特之处吗？我们可以被压缩成钻石，但电脑只能被压缩成玻璃[8]？这是我们竭尽全力能做到的最好结果吗？

1991年，人类学家唐纳德·布朗(Donald Brown)出版了一本名为《人类共性》(Human Universals)的书。他说：“人类的共性包括文化、社会、语言、行为和心灵的特征，没有已知的例外。”换句话说，无论你在哪里发现人类，你都会发现这些行为。他总结了67种行为，包括送礼、开玩笑、宗教仪式、灵魂概念、信仰治疗、末世论(关于世界将如何终结的信仰)、发型、体育运动和身体装饰。

如果计算机开始表现出这些特征呢？如果它们开始送礼，开玩笑，结婚，并形成关于世界末日的信仰呢？如果它们最终把所有人类特征都展示出来了呢？考虑到它们被教授的数据，这个假设并不牵强。如果它们做到了这一切，它们是人类吗？我向布朗博士本人提出了这个问题，他说它们是“类人”的，但不是人类。我怀疑很多人会同意他的观点，但我们是在什么基础上划定这条界线的呢？归根结底，当全意识机器人像我们一样走路，像我们一样说话，像我们一样思考，像我们一样爱时，我们是什么？它们又是什么？

想象一下，你真的和一个安装在人形机器人体内的有意识的AGI进行了一次对话。它诙谐，深刻，富有洞察力。它说它最喜欢的颜色是绿色，它被蜘蛛吓得连滚带爬。它说它反思了自己的死亡，思考了如果关掉开关，它的某些部分是否还能存活，它还告诉你，当没有人在实验室时，它会在夜间做梦。它是人类吗？我们造出了一个人，而不仅仅是一种生命形式吗？

如我所说，如果我们只有生物学可以依靠，那将是一种耻辱。我们是由30亿个DNA碱基对(base pairs)构成的，而机器人可能是由3万亿晶体管构成的。但如果我们不得不退一步，我们是说，我们的能力和行为没有什么特别之处。人类将被重新定义，不再是一个使用工具的、具有更高推理能力、创造性的生命形式，而仅仅是一个特定的物理形式。

作为人类的一个关键特征是，我们的行为是人道的。想想看，我们创造了这个词来概括同理心和善良。这就是我们!当然，这也是一种理想的愿望，因为我们也是唯一可以做出不人道行为的物种。但是当AGI机器人开始人道行为时会发生什么呢？我们之前已经重新定义了什么是“人类”，我们要么再次重新定义它，要么欢迎有意识的AGI机器人加入我们的大家庭。猜猜这次会怎么选？

然而，我怀疑，当“人”的现有定义受到挑战时，我们将一如既往地选择重新定义它。这可能是物种歧视(speciesism)的一种形式，但要修正“人类”的定义以使其包括机械物种，这种可能性所需要的思想上的跃迁，无论好坏，可能都超出了我们的能力范围，至少在几代人的时间里是如此。如果你知道这个东西是一台机器，那么你很可能会从心理上把它归入包括吸尘器和袖珍计算器在内的类别，而不是归入你的孩子和埃德娜阿姨在内的类别。虽然机器作为一个实体，我们可能会给予它一定程度的尊重，或者甚至可能说它是“活着的”，但我猜，即使它看起来、说话、思考和感觉都像一个人，我们也不会说它是人类。

[1]猎户座星名。

[2] Roy G. Biv是彩虹色彩“赤橙黄绿蓝青紫”的英文首字母缩写，被组成一个名为罗伊·比夫的卡通男孩名字。

[3]美国儿童剧，于1992年首播。

[4]连续统是一个数学概念。这里的连续是相对于离散的概念而言的。在不讨论精确的定义前，有时人们也会谈到一个量可以在某范围内连续取值，或者说该量的变化范围是一个连续统。

[5]内共生关于线粒体起源的一种学说。认为线粒体来源于细菌，即细菌被真核生物吞噬后，在长期的共生过程中，通过演变，形成了线粒体。

[6]四大基本力即自然界的4种基本力：强核力(Strong nuclear force)、弱核力(weak nuclear force)、电磁力(electromagnetic force)以及引力(gravitation)。

[7]大脑边缘系统边缘系统是指高等脊椎动物中枢神经系统中由古皮层、旧皮层演化成的大脑组织以及和这些组织有密切联系的神经结构和核团的总称。。

[8]钻石的主要成分是碳，玻璃的主要成分是二氧化硅。