北卡罗来纳州布拉格堡沃马克陆军医疗中心，2022年1月17日

马克已经记不得自己上次好好睡一整晚觉是什么时候了。他知道那至少也得是三年前，远在他从美国陆军第十七心理战大队光荣退伍之前。每夜，他都要拼尽全力才能醒来，感觉要窒息，想尖叫却叫不出来。好像永远也睡不着，终于睡着了却不过是一个黑暗为另一种黑暗所替代，于是他又惊醒过来，浑身冷汗湿透。然后是急促的呼吸、浑身颤抖，他挣扎着想平复夜惊症。

他们小队当时在坎大哈城外执行空中战术任务。小队成员正乘坐着UH-60黑鹰直升机，通过直升机上的扩音器进行心理鼓动。突然，飞机被下面街巷里发出的敌方火力击中。好像他们掉下来就是几秒钟的事，而马克成了那次坠机的唯一幸存者。从那一刻起，马克的记忆和梦魇就纠结缠绕到了一起，成了充满恐惧、折磨和痛苦的迷云，直到他被营救出来并因伤病撤离后很久。

“马克。”一个女性的声音从马克床头上方一个扩音器中传来，“我是帕蒂尔医生。你感觉怎么样？脑电图显示你进入了快速眼动期[15]。是不是梦到你跟我说的那个梦了？你每天都梦到的那个？”

马克从**坐起身来，反应了一下，才想起来自己正在睡眠监测中。“差不多吧。”他回答道，一边尽量控制自己的声音，“每次总有一点儿不同，不过基本上都一样。”

“很好。”帕蒂尔医生说，“我不是说你又受一次折磨好，我是说我们采到了非常好、信号很强的数据——是说这个好。这回我们就能找到治疗你的神经元靶点了。我敢保证到下周这个时候，你的创伤后应激障碍、你的所有恐惧，都将成为过去。”

马克抬头望着装在墙上的扩音器：“太好了，医生。希望能有效。我真的希望能有效。谢谢你，女士，谢谢。”

知道了那黑暗很快将成为过去，马克泣不成声。

在平民眼中，一提起军队和战争，往往就会去想技术、战术和指挥权之类的事。而每一个军事行动都会涉及的一个因素——情感，却常常被我们大多数人所忽视。从决定走向战场，加入战斗开始，到决战后老兵的诸多特殊要求，情感一直发挥着独特而重要的作用。

从普通百姓，到具有高度凝聚力的战斗团队中的成员，这种转变的过程对一个士兵的身心健康，以及他们最终是否能活下来至关重要，对他们的战友也同样重要。从入伍的那一刻起，漫长的训练就开始了，其重点就是要对这个新兵进行调试。各种体能训练，是为了强化身体的力量和韧性。心理上的施压，是为了培养他们面对各种挑战的心理承受度，但同样重要的，还有对他们的情感调试。

这一点很关键。这些年轻男女多年来一直是平民，他们的社会化过程、他们所受的行为教导，已经让他们惯于以文明方式对待别人。这远不只是举止习惯的习得，它已经延伸到社会希望他们深植于心的是非观。其中就包括这样一种观念：不管是出于信仰，还是世俗观念，总之对他人造成身体伤害是恶行，甚至是不道德的，杀人便更不用说了。对很多人来说，这种观念已经根深蒂固，任何与之相悖的行为都会造成他们身体上和心理上的巨大痛苦。

可是，军队的目的与这种社会化正好背道而驰。部队训练固然培养了战士对国家的个人忠诚、与战友的紧密团结，但也在培养他们要对敌人采取截然相反的态度。部队的训练项目中有很多如何压制自己不对敌人产生同情的技术，例如如何系统地将敌方人员去人性化，这样杀敌时就相对容易下手。杀人不过是工作的一部分。这对国家的保卫者有效且高效地发挥作用非常重要。做不到这一点，就可能导致最终的失败。

话虽然这么说，合格的士兵也肯定不是情感僵硬的武器。恰恰相反，在战场上，如何评估风险，如何应对冲突双方的平民，如何维系战友间的纽带关系，处处都需要不断地调动情感智能。

这些对战士情感彼此冲突的要求，可能造成创伤和认知失调，从而导致创伤后应激障碍、抑郁和其他心理问题。这些心理问题又会带来其他问题，不论他们是继续服役，还是已经退役。因战场经历造成的情绪失调，可能导致多种后果，家暴、精神崩溃还有自杀，不过只是其中区区几种而已。根据全球政策智囊兰德公司的报告，参加过越战、伊拉克战争和阿富汗战争的老兵中，至少有20%患上了创伤后应激障碍和抑郁症。而那些多次被派入战区的士兵，发病率更是攀升到30%。按照参加过以上战争的老兵中目前还有超过五百万人在世来计算，那意味着在这些战争彻底烟消云散之后，还有一百至一百五十万人依然在忍受它们的折磨。

说到这里，大家肯定会认为军方一定极想解决这个问题。事实也的确如此。2009年，美国陆军启动了一个韧性培训项目，其主旨就是要强化士兵的情感和心理承受力。尽管也取得了一些成效，但貌似效果非常有限。因此，目前军方正在尝试从其他方向入手，特别是从情感研究及技术领域入手。

美国国防部高级计划研究局(DARPA)目前已签订多个研究项目合同，就如何治疗或缓解现役军人及老兵所受身体及心理创伤展开大量研究。其中有一个项目叫“用于新型疾病诊疗的系统神经技术”，简称SUBNETS，已于2014年正式启动，目标是要开发出一种可以植入士兵大脑的芯片。这种大脑芯片拟设计为闭环系统。首先用它来收集士兵的大脑活动，实时读取各神经元发出的信号，然后根据这些信息为不同大脑系统及通道在正常和非正常状态下的活动建模。最后研究小组会“利用这些模型来决定使用哪些安全有效的治疗性刺激”。治疗过程采用低剂量电流刺激，来治疗创伤后应激障碍、抑郁症和焦虑症等疾病。可能是通过直接的电刺激或磁场刺激来改变受损神经元，扰断导致士兵出现障碍的神经信号。

美国劳伦斯利弗莫尔国家实验室、加州大学旧金山分校和全球最大的医疗器械公司美敦力(该公司是可植入式神经刺激系统的主要制造商)，正在共同开发一种新型芯片，能通过电极到达大脑深处实施治疗。按照美国国防部高级计划研究局(DARPA)主管SUBNETs项目的贾斯丁·桑切斯博士所说：“DARPA正在寻找各种方法，对不同病征所涉及的脑区定位，从脑神经网络连接一直检测到单个的神经元，希望能研制出可以记录神经活动、进行靶向刺激，最重要的是能随着大脑状态变化自动调整治疗方案的仪器。”美国国防部高级计划研究局计划在五年内研发出原型芯片，然后再就芯片的使用向美国食品药品监督管理局提起申请。桑切斯最后谈到：“他们希望采用电子行业最前沿的微加工技术，制造出对植入者终身安全有效的可植入式精密仪器。”

这种治疗方法已不乏先例：对深脑刺激术(DBS)的应用研究至今已有数十年历史。所谓深脑刺激术，是通过精确定位的电极对深脑部位放电，扰断特定神经元间的长期增益效应(LTP)，有效地对病态神经活动加以重置[16]。目前，深脑刺激术主要用于治疗原发性震颤、帕金森症、肌张力障碍和强迫症。截至2016年，全球已有十万余人植入了深脑刺激器。目前，科研人员正试图采用类似方法，治疗因参战引发的一系列心理疾患，特别是多次参战士兵的心理疾患。

这些芯片所用的电极，同样可用于读取脑信号，为治疗提供宝贵的诊断信息。这种芯片就是侵入式脑机界面，简称BCI。与非侵入式脑机界面相比，这种界面有很多优势。比如，提起脑电图，大家就会想到一个人戴着满是电极电线的帽子，这种就属于非侵入式脑机界面。脑电图易于操作，时间分辨率很好，但是空间分辨率非常有限，换句话说就是它无法有效区分信号是来自单个神经元还是一小组神经元，造成它在读取大脑信号时很难取得高精确度[17]。因为脑电图使用安全，成本较低，所以有时电脑游戏玩家也会使用，甚至网上还可以找到多个脑电图的开源项目。

功能性核磁共振(fMRI)和脑磁图(MEG)也都是非侵入式脑机界面。比较而言，这两种技术空间分辨率高，也能区分单个神经元。只可惜，设备过于昂贵，而且体积庞大得相当于一个小房间，还需要液氮或者液氦来保持超低温。

与这些非侵入式技术相比，美国国防部高级计划研究局的试验性大脑芯片，准确性远高于脑电图，成本和便携性又远优于功能性核磁共振和脑磁图。不仅如此，大脑芯片还可能在很长时间内提供持续的数据流。这样的芯片，不仅能帮助研究人员在大脑研究领域取得更大进展，更极有可能成为一种应对已呈流行病趋势的疾患的治疗手段。

话虽如此，SUBNETs项目的公开发布也让各派政界人士提出了疑问，将大脑芯片植入保卫我们国家的士兵脑中，这背后是不是有什么险恶用心？一时间网络上关于思维控制和僵尸战士的讨论如野火蔓延。这种不着边际的假想，既没有考虑到高层决策者的道德水平，也没有考虑当今技术是否有那么先进。反正现在的情况就是如此，至于再过几十年，别的什么政府或者政权动用了这项技术，那就另当别论了。

来看看我们今天脑机界面的技术水平。2015年，得克萨斯农工大学推出了一种迷你计算机，通过电极与蟑螂的神经系统连接，电极包装在活蟑螂的背上，就像背了一个小背包一样。人可通过远程通信，遥控蟑螂的动作。同年底，一家小型众筹初创公司Backyard Brains开始推出赛博蟑螂[18](RoboRoach)。这套小工具包用于制作他们广告中所说的“世界上第一个上市的赛博格[19]”。业余人士可将其安装在蟑螂上，装好后即可用智能手机通过蓝牙控制蟑螂。

2013年，美国杜克大学的研究团队进行了另一种大脑界面试验，通过微电极阵列在两只小鼠间实现了脑对脑交流。同年晚些时候，哈佛大学的研究人员则让人类志愿者仅通过意念便让老鼠的尾巴摆动了起来。试验中志愿者佩戴脑电图仪接受脑部扫描，其脑电波变化最后被转化为一束聚焦的超声波，刺激了小鼠的运动皮层。几个月后，华盛顿大学的两位研究人员，完成了世界公认的首例非侵入式脑—脑界面，一个人遥控了校区另一侧的一个人的手部运动。到了2016年，另外一组研究人员又开发了一种脑—脑界面，几乎是兜了一圈又回来了，这回是由人来控制蟑螂的动作，用精神控制!

通过这些项目，我们可以清楚地看到个体间进行精神控制和脑-脑交流的可行性。这种研究终有一天会为我们找到新的治疗方法，找到互动和交流的新途径。用不了太久，我们就可能实现彼此之间思想、图像甚至感受的直接传递。这种借助电子设备的精神感应，会随着时间推移越来越精密，并最终成为交流的首选方式，至少在某些互动活动中会是如此。

了解了这些技术进步，应该就好理解为什么给士兵植入大脑芯片，会让一些疑心重的人那么担心了。我们当然是希望军方的决策者们道德水平足够高，不至于让这些实验可能引发的噩梦不幸成为现实，但未来我们无法向每个人保证能做到这一点。如果恐怖分子掳去一批人，控制住这些人的思想和身体，把这些人变成一批人体炸弹，那就真成噩梦了。

还有一个军方机构，也正在研究如何通过神经刺激改变大脑，这就是美国空军研究实验室。实验室位于美国俄亥俄州的怀特-帕特森空军基地。在这里，711人机工程分部的任务，就是“充分利用生物与认知领域的科学与技术，最大限度地优化和保护飞行员的飞行和战斗能力，在空中、空间及网络空间夺得胜利”。实验室目前已运用经颅直流电刺激(tDCS)和经颅磁刺激(TMS)技术完成多项试验。试验的两个主要目标是：提高人的清醒度、增强认知功能。在清醒度试验中，以背外侧前额叶皮层为重点的经颅直流电沉积，能让大脑反复多次进入清醒状态，就相当于一杯连着一杯地喝咖啡，但是对身体并没有副作用。在持续四十分钟的测试过程中，脑部扫描显示，那些接受经颅直流电刺激的受试者，其清醒程度在整个测试过程中没有出现丝毫下降。这种表现，在平时是从未有过的。在认知能力试验中，学习相同的一套动作，接受经颅直流电刺激的测试组，与未接受刺激的控制组相比，前者在后续测试中的表现优于后者150%。这意味着，在不久的将来，我们学习新东西的能力也许能大大提高。此外，这些技术还可用于刺激或抑制大脑给定区域的活动。关于经颅直流电刺激的很多其他研究也已表明，这项技术还可能影响计算能力、冒险倾向及规划能力等其他多种能力，但影响程度是否会大到值得一用，目前还未可知。

大量研究结果表明，在实验室环境下，经颅直流电刺激还能改变人的情绪反应。正如它会影响我们认知的其他层面一样。通过对人脑不同区域进行刺激，此类工具应该能够刺激或抑制情绪的产生。尽管这并不符合研制这些设备的初衷，但是它们被用到最初设计用途之外只是早晚的事。不管是为了让人对某一刺激产生正常的反应，还是阻断自然的情绪反应，还是引发与情景程度完全不相符的过激或过弱反应，总之它们会被用于强化或减弱人对某些特定情境的情绪反应，这一点是肯定的。不管是哪种情况，视具体应用，最终结果可能是好的，但如果应用不当，结果也可能是灾难性的。

美国军方近年来一直在研究的多项技术，尤其是在无人机和机器人领域，也会从情绪意识提高中受益。尽管无人机(也称无人驾驶飞行器)已经存在了近一个世纪，但真正开始被广泛用于战争，也只是最近二十年的事[20]。与此同时，大批机器人和其他自主武器(AWS)也陆续出现，并在多种军事行动中投入使用。这种越来越依赖于自主或半自主工具和武器的发展趋势，让人们不由得担心会最终出现“杀人机器人”。尽管技术水平要达到那个层次还需要一些年，但是对这种潜在威胁的认识，已经足以让军方内部开始讨论各种利弊，并引发非军方人士的全面抵制运动，希望通过制定国际法规，全面禁用此类武器。机械武器控制国际委员会(ICRAC)就是这类民间组织之一。他们认为，留给我们的时间不多了，我们必须尽快控制住这一威胁，否则就太晚了。机械武器控制国际委员会非正式地隶属于一个名为“阻止杀人机器人运动”的非政府组织团队。他们的目标是要抢在致命性自主武器出现前，实现全球范围内的全面禁用。

人们对这种武器的主要担心之一，是它们没有同理心，没有情感智能。机器武器控制委员会的创办人之一诺尔·夏基是英国谢菲尔德大学的人工智能和机器人专业教授，他指出：“这绝不仅仅是视觉歧视的问题。我们要看背后的逻辑关系。军方就给了我一个很好的例子。一群海豹突击队员在巷战中堵住了一群叛乱分子，准备把这群叛乱分子干掉。他们已经端起枪来准备开火了，却发现这群叛乱分子正抬着一口棺材。于是海豹突击队员们放低枪口，还摘下头盔以示尊重，放他们过去了。他们如果真的杀了这群叛乱分子，那才是惹了大麻烦。你不能在葬礼上杀人。如果这换成了机器人，肯定会把这些人全部扫倒。当然你也可以把机器人设置成遇到这种情况不开枪射杀，但那样的话，叛乱分子就会人人扛着棺材四处行走了。”

这就又绕回到软件的脆性问题。从长远看，对一个无法进行明确预判的东西，把条件反应的代码写死难以奏效。不是条件最后落在了预设区域外，就是被类似人为因素这种东西钻了程序的空子。情感智能和能对周边环境中不同因素及条件定性的能力，对这个问题的解决会大有帮助。如果一个智能体不仅能给自己定性，还能给所有涉及到的其他因素定性，那就更好了。换句话说，那个智能体要能展示出心智理论，能表露同理心。

在制造杀人机器人不可接受这件事上，模拟情感是否是未来我们可能接受的关键呢？也许是。但如果最后真能接受，希望我们不用等得太久。指挥官们可不想为自己根本没有真正控制权的杀人决定负责。不管人工情感智能的反应看着多真实，就算它达到了人的智能水平，对它那些反应和思维过程到底有多“人”性的质疑，仍会在很长时间内继续存在。再说，要想机器拥有几近真实的、实时的同理心，应该还要跨越漫长的年月。

设计自主武器系统的目的，就是要它在无人操控的情况下独立运行。这种自主状态，可能一次只持续几秒钟、几分钟，但是也可能持续数月，乃至数年之久。理论上讲，它可以在冲突结束很久以后依然保持活动状态。美国国防部对自主武器的定义，是“一种一旦激活，可在无人继续干预的情况下选择和攻击目标的武器系统”。如果你真以为永远也不会有人故意把长期性自主武器系统随便放出去，那请你记住全球范围内据估计还有一亿一千万颗防步兵地雷埋藏在地下。虽然这些杀人机器在定义上并不真的属于自主武器，但它们也没有同理心，也没有能力去关心杀的是谁。它们可以运行几十年，在战争早已结束了很久以后继续伤人杀人。由此你可以联想出一个能追踪、选择和发动攻击的机器，它的攻击目标曾经是敌人，但现在可能已经不是了。想想这些，你就知道那会是怎样的噩梦。

2015年，宇宙学家马克斯·泰格马克在国际人工智能联合会议上发表了一封公开信，呼吁在全球范围内禁用自主武器。迄今为止，全球已有超过2500余名人工智能和机器人技术研究人员在信上签名。因为选择和追踪目标的能力靠的是人工智能，这些科学家担心，武器竞赛会最终催生各种成本不高，而且很容易弄到的大规模杀伤性武器。可能一些国家会选择不使用这类武器，但它们百分之百会出现在黑市上，这对任何恐怖分子和独裁者来说都是无法抵挡的**。正如公开信的署名者们所指出的：“自主武器非常适合用于执行诸如暗杀、动摇国家政权、镇压人民及选择性屠杀特定种族等任务。”在随后的一篇文章中，公开信署名者们还指出，指望将道德功能写入这种武器的程序中，等于是假定人人都会表示同意，但很明显一些反对者必然会关闭武器上的这项功能，就算国际法禁止也无济于事。

具备人工情感和同理心设计的机器人和人工智能也是一样。鉴于几乎没有哪种设备和系统是破解不了、没办法进行逆向工程[21]的，我们至少必须考虑一部分人类玩家图谋不轨的情况。

可能有些人会觉得，赋予无人机和机器人情绪意识，应该会减少平民的伤亡，降低无人机和机器人在战争中的误用。但很多情况下，装备了情感的自主武器一样可怕。拥有了高等情绪智能，还顶着一副朋友、亲戚，甚至母亲或者孩子面容的类人机器人，就算守卫森严的地方，它们也能轻而易举地渗透，夺走无数人的生命。在菲利普·迪克(Philip K.Dick)1953年创作的经典短篇科幻小说《第二终结者》中，在一个世界末日后的绝望之地，人们面对的是能自我复制的机器人出没横行的世界。其中一些机器人已经进化到在人群中无法区分出来的地步，而它们的目标就是要渗透和杀戮。与迪克的其他多部作品一样，随着时间的推移，这本书似乎正变得越来越可能成为现实。可以很肯定的是，这绝不是我们任何人想要的未来。

对于我们这个时代的人，很不幸的一点是可能发生的冲突不胜枚举。网络战就是新型冲突中的一种。随着网络的形成和发展，网络战的规模也越来越大。听到网络犯罪或者网络战这类词时，绝大部分人都不会将其与情绪联系起来，但事实上情绪是其中一个关键因素。任何有水平的黑客都会告诉你，安全维护中最薄弱的环节往往是人。黑客们把对这一弱点的操纵称之为社会工程学。他们可能利用人性的弱点，去猜一个设置时没有慎重考虑的密码。从别人肩膀头偷看，或者装个网络摄像头偷窥别人的即时贴也非常有效。也可能是通过看似稀松平常的谈话，获取司空见惯却非常重要的信息。这种活动需要创造力，它从对人的了解中获利，从熟稔如何操纵人们中获利。换句话说，这就是情绪智能。

随着计算机软件对情绪的知觉度越来越高，黑客们自然也会纳为己用，实践他们的社会工程学。而流程自动化的能力，也意味着在同一时间可以联系到的人更多，不管是用电子邮件，还是电话[22]。通过调动目标的情绪，这种大规模社会工程活动会造成大量的信息泄露，继而被用来破坏系统的防御机制。

正是因为情绪对人类身心健康如此重要，我们的对手会绞尽脑汁用情绪武器对付我们，我们当然也会想方设法去对付他们。无论是什么新技术，即使发明者的出发点再好，也总有人要想办法把这些成果挪作他用。我们固然可以预测和规划对新技术的有效利用，但因为人类过去经验中可比对者不多，不能尽数所有的应用可能性。现代战争俨然成为技术和文明的产物。世界各国都同意遵守的那些行为准则、那些杀人与避免被杀的方式方法，都是人类历史上晚近出现的事物。20世纪中叶，我们将原子弹的恶魔放出瓶子，从此便生活在它的阴影下。为了应对这一恶果，我们已付出了多少生命、金钱，还有内心安宁的代价？制止自主武器泛滥，留给我们的时间已经不多了。错过这个机会，就要来不及了。制造这些武器的方法和原材料，比制造核武器的要简单、常见得多。防止出现自主武器，或者把握先机拖延自主武器领域军备竞赛的出现，显然是我们最明智、最文明的选择。

无论如何，人类彼此间的摩擦、战斗和战争似乎还会存在一段时间。应用一些情感技术，对冲突双方都更人道。比如，美国特种部队中的心理战部队[23]，作战重心就是要赢得人心、掌控思想。他们的任务，就是要“影响他国政府、组织、团体和个人的情绪、动机、客观推理，以最终影响其行为”。考虑到情感计算和人工情绪智能现今和最终能做的事，我们有理由认为，心理战部队为了完成自己的使命，会愿意使用这些技术，不管他们想影响的是冲突中哪一方。这样，冲突时间会缩短，人员伤亡也会随之减少。看起来这似乎是一种积极应用。但这显然只考虑了战斗中的一方，因此也只是方程式的一侧。视这一技术的强大程度和说服能力不同，会构成不可小觑的威胁。

这项技术的另外一种应用，是将它用于治疗，这方面我们必须继续探索。身着戎装的军人为大众冒险和牺牲，他们的伤痛理应得到治疗——不论他们伤在身体、心理，还是身心俱损，我们都应该尽可能治疗。近年来，对战争造成的肢体和知觉损伤，无论是治疗，还是以假体进行功能替代，已取得长足进步。如果现在还有方法可能帮他们治愈心理创伤，为他们驱逐梦魇，探索这种可能性责无旁贷。不过在此过程中，我们也要小心路上的陷阱，不要失足滑倒。一旦我们改变了他们与记忆相关的情绪，就改变了他们的记忆本身。一个人的记忆与情绪是一个人极核心的部分，改动这些稍有不慎就会跌落分界治愈与伤害的细钢丝。

不管怎么说，这些军人最终要重返平民生活，而回来的他们与当初离开时相比已经物是人非，我们也该为他们寻找治愈或者治疗的方法。随着技术变革的速度加快，这个世界会想方设法地对军人施加情绪控制，他们与其他人一样，也会变得越来越脆弱。正如下一章所谈到的那样，我们要面临的挑战也许才刚刚开始。