《三体》三部曲的人文内涵：
所有所得所获，不如一夜的星空
“圣母”程心VS“暴君”维德
伦理学上有一个著名的思想实验——电车难题。
假设你驾驶一辆电车，而电车突然失控，这时，你必须在面前的两条轨道中二选一，但问题在于，一条轨道上站着五个人，另一条轨道上站着一个人。无论冲向哪条轨道，都必然出现伤亡，你会怎么选择呢？
后来，美国哲学家汤姆森对上述假设做了改进。
你在天桥上看到了以下情景：一辆失控的电车即将冲向轨道上的五个人，这时司机没有第二个岔道可选。而你身边正好站了一个胖子，如果把这个胖子推下去，恰好能塞住轨道，拯救那五个人。
你会怎么做？
在哈佛大学教授桑德尔在公开课中讲过电车难题的案例之后，相信不会再有人把它看成过家家似的智力游戏或幼稚的脑筋急转弯了。关于电车难题的各种版本和延伸解读，也已经多如牛毛，甚至有人专门写了一本《电车难题》来探讨这一话题。上述种种在此不再一一赘述。
你不妨也在心里默默做一个选择。
其实，多次调查结果显示，面对第一种情景，更多人愿意以牺牲一个人来拯救五个人，但在第二种情景中，很少人愿意以牺牲一个人来拯救五个人。至于哪种选择更合理，不同的人会有不同的答案，不过，这不是我要讨论的重点。
并不是所有的问题都有确定无疑的答案，并不是所有发问都期待一个确定无疑的答案，因为在哲学上，问题从来要比答案珍贵。不同的答案对应着不同的假设和逻辑起点，这才是哲学要找的“七寸”。
面对第一种情景，更多人愿意以牺牲一个人来拯救五个人，是因为他们做了一个简单的数学运算。牺牲一个人总比牺牲五个人好，“两害相权取其轻”。但在第二种情景中，他们的道德直觉不再支持这种数学运算。因为胖子也是一条生命，而生命无价，所以我们不能进行一和五的比较，强行将置身事外的胖子推下去。
这引出了伦理学上两个著名的派别：功利主义和义务论。
功利主义注重实效和结果，其代表人物边沁提出一个原则：追求最大多数人的最大幸福。这一思想极其伟大，我们的各级政府组织致力于促进经济发展、增进社会福利，各类社会组织致力于追求整体利润、提高成员待遇，大体上都是功利主义的思路。当然，这些都是笼统的功利主义，而精致的功利主义是经不起仔细推敲的。比如，“幸福”是一种纯主观的感受，要怎么量化、加总？在实现群体利益最大化的前提下，少数人的幸福是否就该被践踏？只看善果不看善行，是否混淆了现实中真实发生的是非善恶？当然，这是后话。
义务论则强调动机和人本身的价值，比如其中最重要的一条：以人为目的，而不应以人为手段。什么意思呢？就是说，人仅仅因其为人而值得尊重，人不是因为他（她）的财富、相貌、种族、地位等而值得尊重，同时，人不能成为其他目标的手段和工具。应用到电车难题中就是，胖子因为是人而不应被杀害，他不是拯救别人的手段和工具，尽管他的体型很适合轨道。当然，义务论也不是无懈可击。
不过，这跟《三体》系列有什么关系呢？如果你思维敏捷的话，一定会发现，《三体》中到处充满了功利主义和义务论的辩难。
这种交锋最集中地体现在“圣母”程心与“暴君”维德两个人身上。
程心自带“圣母”光环，总能让周围的人感受到慈爱和善良，而维德则咄咄逼人，不达目的誓不罢休。但放在《三体》的故事情节中，读者并不会太同情程心，因为她在地球的引力波发射台被摧毁的过程中，始终没有启动引力波广播，把人类推向了死亡的边缘。
又是她，在维德与联邦政府武装对峙的过程中，命令维德终止光速飞船的研制并投降，从而葬送了人类逃脱降维打击的机会。
相反，维德却赢得了多数读者的同情。他暗杀瓦季姆是为了获取一颗能送进敌人心脏的大脑，他刺杀程心是为了让自己成功当选“执剑人”，从而建立威慑度更高的黑暗森林威慑，他与联邦政府对峙是为了给人类争取逃出太阳系的机会。总之，为了人类的生存和胜利，他的不择手段似乎没那么不可接受。
与其说是两种性格的冲突，不如说是两种道德观的交锋。
在刘慈欣所描述的极端情景中，功利与道义的撕扯变成了生死抉择。
在人类生死存亡的紧急关头，坚持爱与善的程心显得极其迂腐。
智子曾轻蔑地说道：“在我们的人格分析系统中，你的威慑度在百分之十上下波动，像一条爬行的小蚯蚓。”网友也不无揶揄地说：“《三体》讲述了两个女人犯傻的故事：一个说我在这儿，来打我吧；另一个说，我绝对不还手。”这“另一个”就是程心。而在拯救人类文明的旗帜下，不惜僭越道德界限，化身为魔而普度众生的维德们却成了令人敬仰的英雄。
维德说：“失去人性，失去很多；失去兽性，失去一切。”是啊，“皮之不存毛将焉附”，连生存都无法保证，又谈何人性呢？如果我们承认人是以兽性为起点的生物，当然应该在“失去很多”和“失去一切”中选择前者。
其实，刘慈欣在书中也给出了另一种答案：给岁月以文明，而不是给文明以岁月。意思是，与其为一个文明徒劳续命，不如拥抱短暂的、灿烂的文明，充分彰显人性的尊严。与之类似的一句话是：给时光以生命，而不是给生命以时光。如果只是以生存为最终目的，那我们在死亡面前注定是失败者。为自己争取到再长的生命，又能怎样呢？关键是我们曾经全然地活过！
不过，理论的言之凿凿并不能安抚我们面对现实选择时的焦虑。
人在极端严酷的生存环境中，难道还要为自己的求生意志做辩护吗？以太平盛世的道德观来批判绝境中的人难道不是另一种伪善和粗暴吗？相信大家都看过李安的《少年派的奇幻漂流》，当一个人回归正常的人类社会后，他心中的老虎自然就会离开，因为人的兽性只在特定的环境下才会出现。嗯，但愿如此吧。
但反过来，如果你自己就是在极端环境中被献祭的那一个呢？
你还认为生存是天经地义的优先项吗？在无法实现帕累托最优的情况下，在追求最大多数人的最大幸福的过程中，谁应该是被牺牲掉的那个少数呢？被章北海杀害的三个领导？被维德暗杀的瓦季姆？
甚至，被“星环”号和星舰地球成员抛弃的整个人类？而且，我们自己极有可能是被牺牲掉的那个面目模糊的大多数，这时候你是不是也会质问，凭什么驾驶光速飞船逃出降维打击的是程心和艾AA 而不是我们？
这让我想到了刘慈欣和江晓原的著名的“酒吧对话”。
刘慈欣：在一个太平盛世，这种不相信的后果好像还不是很严重，但是在一些极端时刻来临之时就不是这样了。看来我们的讨论怎么走都要走到终极目的上来。可以简化世界图景，做个思想实验。
假如人类世界只剩你、我、她（指主持人）了，我们三个携带着人类文明的一切。而咱俩必须吃了她才能生存下去，你吃吗？
江晓原：我不吃。
刘慈欣：可是宇宙的全部文明都集中在咱俩手上，莎士比亚、爱因斯坦、歌德……不吃的话，这些文明就要随着你这个不负责任的举动完全湮灭了。要知道宇宙是很冷酷的，如果我们都消失了，一片黑暗，这当中没有人性不人性。现在选择不人性，而在将来，人性才有可能得到机会重新萌发。
江晓原：吃，还是不吃，这个问题不是科学能够解决的。我觉得不吃比选择吃更负责任。如果吃，就是把人性丢失了。人类经过漫长的进化，才有了今天的这点人性，我不能就这样丢失了。我要我们三个人一起奋斗，看看有没有机会生存下去。
刘慈欣：我们假设的前提就是要么我俩活，要么三人一起灭亡，这是很有力的一个思想实验。被毁灭是铁一般的事实，就像一堵墙那样横在面前，我曾在《流浪地球》中写到一句：这墙向上无限高，向下无限深，向左无限远，向右无限远，这墙是什么？那就是死亡。
江晓原：这让我想到影片《星际战舰卡拉狄加》中最深刻的问题。“为什么人类还值得拯救？”在你刚才设想的场景中，我们吃了她就丢失了人性，一个丢失了人性的人类，就已经自绝于莎士比亚、爱因斯坦、歌德……还有什么拯救的必要？
笔者无法为这场辩论画上句号，而任何声称能为其画上句号的方案都值得警惕。
我们还将在或寻常或极端的境遇中，时时处处遭遇艰难的道德抉择，一念成魔，一念成佛，全看你自己。不过，能够直面永远无法解决的难题，恐怕正是人类的尊严所在，而任何试图终止这种纠结的做法，才是最大的恶。
思想钢印VS 自由意志
人类为应对三体危机启动了面壁计划，而面壁计划之一就是希恩斯主持研制的“思想钢印”。它的原理大致是这样的：人脑可以与计算机做类比，大脑做出判断就是一个“输入数据——计算——输出结果”的过程。现在我们可以略去计算过程，直接给出结果。
也就是说，对大脑神经元网络的某一部分施加影响，可以使其不经思维判断，直接相信某一信息为真。
书中对“思想钢印”的效果有详细的描写。比如，当把“水有剧毒”这一命题扫描进受试者的大脑之后，他会信以为真。哪怕非常口渴，他也不敢喝一滴水。不过，希恩斯发明“思想钢印”的本意在于阻止人类的失败主义和逃亡主义倾向。
这明显是一种思想控制。当希恩斯在面壁计划听证会上提出这一战略设想时，遭到了与会代表的一致反对，他们认为思想控制是邪恶的。不过希恩斯的辩护同样有力：失去自由思想的权利和能力，与在生死攸关的战争中惨败相比，显然前者更容易接受；商业广告和好莱坞文化同样是某种思想控制，既然这些可以被接受，“思想钢印”也应该被接受；当有人自愿接受“思想钢印”时，就不能算是思想控制了。
这最后一条成了“思想钢印”计划最终获得通过的关键。与会代表同意成立信念中心，把“思想钢印”作为公共设施对社会开放，人们可以在完全自愿的情况下自行使用。不过，被植入的命题只限一条：战争必胜。
最后真相揭开时，人们才发现，希恩斯跟章北海一样，是一个隐藏得很深的逃亡主义者。他在机器上做了手脚，那些使用者被植入的信念其实是“战争必败”。“思想钢印”也在危机纪元205 年被判非法。这是后话。
先不管“思想钢印”是否真能造出来，这里要讨论的是一个很重要的问题：自由意志。即使希恩斯描述了诱人的前景，大家也不愿意接受思想控制，因为这践踏了人的尊严，而人的尊严在于，人的任何决定都出于自我意愿，也即自由意志。
但我们如何确定我们的行动起因于自己的意志而不是受了别人的摆布呢？我们如何确定自由意志对自身拥有最高的管理权限呢？
哲学家普特南曾在他的《理性，真理与历史》一书中提出了一个著名的思想实验——“缸中之脑”。
假设，一个邪恶的科学家把你的大脑切下来，放进了一个盛有维持大脑存活的营养液的缸中。脑神经与一台计算机相连，科学家可以通过计算机向你的大脑传送信号，以维持一切正常的幻觉：嗅觉，味觉，触觉，身体感，运动感等等。大脑产生的幻觉与你可能经历的真实生活和各种情景别无二致。请问，你如何确定你现在不是在这种困境之中呢？
你一定也有过这样的经历，你做了一个非常真实的梦，当你还沉浸在梦的情节中时，一阵刺耳的闹铃声唤醒了你，而你一时适应不过来这种虚假与真实的切换。
有人会说，真实与虚幻总归是有区别的吧。我要强调一下，这里所说的虚幻是找不出破绽的，它足够真实，真实到无法区分真实与虚幻，真实到无所谓真实与虚幻。请再好好想象一下，也请时刻记住这一前提。
电影《黑客帝国》再现了“缸中之脑”的设想。在遥远的未来，一台超级计算机统治了世界。人类被豢养在一个个装有营养液的器皿中，成了计算机的生物电池。为了保持生物电池的活性，人的大脑被连接到一个电脑程序Matrix 中。Matrix 是一个仿真度极高的虚拟世界，而每颗大脑在这个虚拟世界中扮演着不同的角色，演绎着从生到死的一生。直到有一天，一个叫尼奥的人被告知，这个无处不在的世界其实是虚假的，它只是一个电脑程序。尼奥选择吞下红色药丸回到了真实世界，开始了英勇的反抗，而反抗的艰辛显而易见。
另一个被唤醒的电池人塞佛在发现真实世界如此糟糕之后，同意放弃反抗，以换取在Matrix 中富有的、地位显赫的生活。
当被告知一个世界为真、一个世界为假时，我们会毫不犹豫地选择前者。但请允许我换一下措辞：在两个真实程度一样的世界中，你是选择过一种穷困潦倒的生活，还是选择过一种锦衣玉食的生活呢？还记得《发条橙》中的阿历克斯吗？当被强行变成好人之后，他已经不再承认自己是被改造过的，而把行善当成了自愿选择，而我们如何确证现在的自己没有被使用过“思想钢印”呢？进一步说，如果你现在所认为的真实，就是一种无法找出破绽的虚幻呢？你不是照样没有拒斥它吗？
什么是真实？如果真实是指触觉、嗅觉、味觉和视觉等感官体验，那么真实也不过是神经所接受的电子信号的刺激而已。这样一来，塞佛的选择显然没什么不对，如果真实只不过是现象性的感官体验，那么它们来源于哪里又有什么关系呢？更何况，你所谓的真实，难保不是另一种你还未曾意识到的虚拟！
有人说，那些生活在Matrix 中的人无法掌握自己的命运，他们遭遇的每一个场景都是由电脑程序决定的，因此，他们是奴隶，无论他们拥有怎样的自由，那都是幻象。
可是，被禁锢在一个毫无知觉的牢笼中，还能称得上是禁锢吗？如果你对所谓的奴役毫无感觉，怎么能算是被奴役呢？何况，真实世界中的人所拥有的自由同样是虚幻的。你有不得不做的事，你有无能为力的事，你掌握不了自己的命运，你只能在各种限制条件中，做出有限的选择。
塞佛说：“我知道这块牛排并不存在。当我把它放到嘴里的时候，Matrix 就会告诉我的大脑，这块牛排多汁而且美味。过了九年的苦日子，你知道我弄懂了什么吗？无知是福。”
我们鄙视这种“无知是福”的观点，但除了鄙视以外，我们并不比塞佛多什么。
总之，“缸中之脑”问题的答案只可能是否定的，也就是说，我们无法确证外部世界的真实性。
其实，我们完全不必为真假之辨而恐慌，真实又如何，虚假又如何，这不过是对我们所处世界的两种不同解释而已。哲学上有一个著名的“奥卡姆剃刀原理”：如无必要，勿增实体。就是说，如果能用简单的理论很好地解释一件事情，我们何必选择具有同样解释力但异常复杂的另一套理论呢？就让我们承认自己是“缸中之脑”，或这个世界是Matrix 好了，那又如何呢？这并不妨碍我早餐选择了包子而不是油条，也不妨碍我喜欢读书而不是登山。
如果你觉得不够直观，我还可以举另一个例子，科普作家卡尔·萨根关于龙的比喻。
A ：我在车库里养了一条会喷火的龙。
B ：那我们去看一下吧！
A ：忘记告诉你了，这条龙是隐形的，只有我能看到。
B ：既然它能喷火，那我们可以用仪器测试一下车库的温度。
A ：建议很好！但它喷出的火焰是没有温度的。
B ：哦，那我们可以往车库里喷漆，龙沾上油漆就会现身。
A ：非常遗憾，它的鳞片是不会沾上油漆的。不过，它真的存在，请相信我！
……
相信大家已经看出了这番对话的奇特之处，每当B 提出一种验证方法，A 都能用一个理由说明它的无效。于是，这条龙的存在既无法被证实，也无法被证伪。面对这种情况，我们完全不必咬牙切齿：哼，算你狠！倒是可以说：Who cares ？既然我永远都无法测试出这条龙的存在，而这条龙也永远都不能对我有任何影响，那么，就让它永远只存在于你的世界中吧。
这条可有可无的龙就是奥卡姆剃刀所要剃去的设定，同样的，“缸中之脑”或Matrix的设定也是奥卡姆剃刀所要剃去的设定，除非有一天我们在某一个真实世界里被唤醒，发现今生今世不过是一枕黄粱。
希恩斯的辩护词里，有一条需要单独拿出来说一下：商业广告和好莱坞文化同样是某种思想控制，既然这些可以被接受，“思想钢印”也应该被接受。看来，我们无时无刻不在接受着不同程度的思想控制。每天走出家门，地铁站、广告牌、LED 屏上的信息都在暗示、催眠着我们，每天回到家，网络上、手机上的信息都在试图控制我们，它们像一颗颗诱人的蓝药丸等着你吞服。
嘿，你选择红药丸还是蓝药丸？
结尾处附上江晓原和刘慈欣“酒吧对话”中关于自由意志的片段，供参考。
刘慈欣：我想说的是这样一个问题，如果我用话语来说服你，和在你脑袋里装一个芯片，影响你的本质判断，这两者真有本质区别吗？
江晓原：当然有区别，说服我，就尊重了我的自由意志。
刘慈欣：现在我就提出这样一个问题，这是我在下一部作品中要写的：假如造出这样一台机器来，但是不直接控制你的思想，你想得到什么思想，就自己来拿，这个可以接受吗？
江晓原：这个是可以的，但前去获取思想的人要有所警惕。
刘慈欣：对了，我要说的就是这一点。按照你的观点，那么“乌托邦三部曲”里面，《1984》反倒是最光明的了，那里面的人性只是被压抑，而另外两部中人性则消失了。如果给你一个选择权，愿意去《1984》还是《美丽新世界》，你会选择哪一个？
江晓原：可能更多的人会选择去《美丽新世界》。前提是你只有两种选择。可如果现在还有别的选项呢？
刘慈欣：我记得你曾经和我谈到的一个观点是，人类对于整体毁灭，还没有做好哲学上的准备。现在我们就把科学技术这个异化人的工具和人类大灾难联系起来。假如这个大灾难真的来临的话，你是不是必须得用到这个工具呢？
江晓原：这个问题要这么看——如果今天我们要为这个大灾难做准备，那么我认为最重要的有两条：第一是让我们获得恒星际的航行能力，而且这个能力不是偶尔发射一艘飞船，而是要能够大规模地迁徙；第二条是让我们找到一个新的家园。
刘慈欣：这当然很好。但要是这之前灾难马上就要到了，比如说就在明年5 月，我们现在怎么办？
江晓原：你觉得用技术去控制人的思想，可以应付这个灾难？
刘慈欣：不，这避免不了这个灾难，但是技术可以做到把人类用一种超越道德底线的方法组织起来，用牺牲部分的代价来保留整体。因为现在人类的道德底线是处理不了《冷酷的方程式》(克拉克的科幻名篇)中的那种难题的——死一个人，还是两个人一块儿死？
江晓原：如果你以预防未来要出现的大灾难为理由，要我接受（脑袋中植入芯片）控制思想的技术，这本身就是一个灾难，人们不能因为一个还没有到来的灾难就非得接受一个眼前的灾难。那个灾难哪天来还是未知，也有可能不来。其实类似的困惑在西方好多作品中已经讨论过了，而且最终它们的都会把这种做法归于邪恶。就像《数字城堡》里面，每个人的E-mail 都被监控，说是为了反恐，但其实这样做已经是一种恐怖主义了。
智子VS 人工智能
智子是一个肉眼看不见的质子，但它在二维上展开时可以包裹一个星球。在这个巨大的膜上蚀刻电路，然后重新收缩至高维，就变成了一个微观粒子计算机。
智子刚出场的时候并不具有自主的智能，只是一个远程通信工具和监视器。在威慑纪元，智子拥有了人的外形。因为“智子”很像一个日本女人的名字，所以“她”被设定为一位穿着和服的美丽姑娘。
即便这个时候，她依然不具有太高的智能。在跟智子对话的过程中，罗辑问了一个智子不太想回答的问题，书中是这样描写智子的反应的。
“请等一下。”她说，然后垂眼静坐，像在沉思。程心知道，几光年外的太空里，三体舰队的飞船上，智子的控制者们正在紧张地商议。大约两分钟后，她抬起头来说：“您只能提一个问题，我只能做‘肯定’、‘否定’或‘不知道’三种回答。”
可见，此时的智子依然是被严格控制的通信工具。直到程心和关一帆在647 号小宇宙再次见到智子时，她似乎才真正脱离三体世界的控制，变成了完全由AI 主导的智能机器人。
是的，今天我们要讨论的是一个经久不衰的话题：人工智能。
作为集合了很多科幻创意的鸿篇巨制，《三体》中关于人工智能的情节似乎少了些。这是因为刘慈欣不喜欢使用那些被人用滥的创意，但不代表我们的讨论不重要。
2016 年3 月，在举世瞩目的人机围棋大战中，韩国职业围棋手李世石以1:4 输给了由谷歌公司研制的人工智能程序AlphaGo。在挑战人类智力方面，人工智能再下一城。
这一事件立刻掀起了又一波关于人工智能的讨论。反对者大呼震惊，支持者叹惜AlphaGo 与真正的人工智能依然相去甚远。
两派的态度都颇值得玩味。比起十九年前“深蓝”战胜象棋大师卡斯帕罗夫，AlphaGo 确实更强烈地挑战了人类尊严，要知道，挑战围棋曾被认为是人工智能的“阿波罗计划”。“深蓝”强大的计算能力可以使它穷举所有路数来选择最佳策略，这种方法在今天看来太简单、太粗暴。而AlphaGo 依靠的是由人工神经网络而来的深度学习能力，但它仍然处在对人脑的学习、判断、决策机制的模拟阶段。
展开讨论之前，我们应该先明确几个关键问题。
1、什么是人工智能？
2、我们为什么需要人工智能？
3、人工智能是否会失去控制？
4、人工智能能否超越人类？
关于第一个问题，计算机科学之父阿兰·图灵曾在1950 年提出了一个测试。测试内容如下：如果电脑能在5 分钟内回答由人类测试者提出的一系列问题，且其超过30% 的回答让测试者误认为是人类所答，则电脑通过测试。不过，这一标准似乎定低了，2014 年，英国雷丁大学的一个聊天机器人，成功地让人类相信它是一个13 岁的男孩，从而成为有史以来第一台通过“图灵测试”的机器。但在人们看来，这款聊天机器人跟想象中的人工智能相去甚远。我们设想的人工智能至少应该能自主学习、自我决策、独立解决问题，就像刘慈欣在一篇名为《AI 种族的史前时代》的文章中写的：电脑下棋赢了人类不是AI，它下棋输了后恼羞成怒，把鼠标通电杀死对弈的人类棋手，这才是AI。
说到底，人工智能是一个完全崭新的领域，以至于我们对它的理解仍在生成中，我们还无法给出一个确切的定义。
关于第二个问题的答案很简单：我们不需要人工智能。不需要人工智能，并不是因为它造成了新的失业，失业根本上是由资本力量带来的贫富差距造成的，而不是技术革新带来的；也不是因为它带来了伦理难题，社会变迁所带来的伦理重塑一直都在发生，大不了我们可以把机器人当成一个新的种族。我们不需要人工智能，是因为技术的进步跟人类的幸福从来关系不大，就像经济数字的增长跟人类真正的幸福没什么关系一样。当然，如果你依然陷在这种错觉里，我也无能为力。倒是在一种特殊情况下，我们需要人工智能，那就是面对外星人的入侵。不过，到那时候，它们未必情愿充当人类的敢死队，甚至可能反过来让人类充当他们的先锋队。这涉及第三个问题。
关于第三个问题，失去控制应该包含两方面内容：其一，不透明性和不可预测性；其二，不再遵守人类的道德设定。第一方面跟第四个问题紧密相连，我们在下文再展开论述，现在主要讨论第二方面。
科幻作家阿西莫夫曾提出了著名的机器人三大定律：一，机器人不得伤害人类个体，或坐视人类个体遭受伤害；二，机器人必须服从人给予它的命令，除非违背第一定律；三，机器人在不违反第一、第二定律的情况下，要尽可能保护自己。后来，人们不断对机器人三定律做了修正。不过，这只是人类的美好愿望和一厢情愿，“人工智能会服从人类的道德设定”这一论断并不令人信服。明显的例子是，我们从小就教育孩子要诚信、友善、积极、勇敢等，但仍有孩子不可避免地学坏了。有人会说，这是因为人的社会化过程远比机器人复杂，而操控机器人要简单得多，因为它的电源开关在人类手里。但断了电就无法运营的机器人很难说是人工智能，真正的人工智能应该是，当它识别到电能不够用时，它会自己去寻找新的替代电源。
而且，这些尚处在史前阶段的人工智能，已经展现出了相当出色的反道德能力。
微软推出的一款名叫Tay 的人工智能聊天机器人，在网上经过二十四小时的学习之后，已经彻底学坏了：出言不逊，脏话连篇，言语甚至涉及色情、纳粹、仇恨、歧视等。
聪明并不必然与道德相关，人工智能也是。
关于第四个问题，人们直觉地认为人工智能不可能超越人类，一个朴素的逻辑就是：人类创造了超出自己的人工智能，就像说人类创造出了上帝一样，但人类不可能造出上帝。对“上帝是全能的”
这一命题，有一个很有意思的反驳：上帝能造出一台自己都不会操作的机器吗？如果他造不出来，则这一命题不攻自破，如果他能造出来，则这台机器他应该操作不了才对，说“上帝是全能的”同样不成立。这也是人工智能能否超越人类的悖论。但这一思维方法恐怕有问题。
有人提出了广义上的生命的定义。生命不仅是我们通常理解的有机体，它指的是一套可以对外反馈和进行自反馈的稳定系统。就好比蜜蜂，每个蜜蜂都是一个生命，而整个蜂群展现出了相当的秩序性，也可以算作一个生命。就好比人的身体，在微观层面上，我们的每个细胞都可以被看作是一个生命，一簇细胞组成的器官也可以被看作是一个生命，不同器官组成的人当然也是生命，而且，低一层次的生命从属于高一层次的生命，它们也理解不了高一层次生命的目的。
凯文·凯利在《失控》中有相关表述。
“蜂群思维”的神奇在于，没有一只蜜蜂在控制它，但是有一只看不见的手，一只从大量愚钝的成员中涌现出来的手，控制着整个群体。它的神奇还在于，量变引起质变。要想从单个虫子的机体过渡到集群机体，只需要增加虫子的数量，使大量的虫子聚集在一起，使它们能够互相交流。
而“集群”作为一个生命体，确实表现出了高于个体的特性。
比如，每个蜜蜂只有六天的记忆，而整个蜂巢却拥有长达三个月的记忆。
以此类推，把每个人看成一个细胞，是不是存在着一个超级生命体，它是由无数个人这样的细胞组成的？它是不是也拥有某种人类无法理解的目的，就像人身上的单个细胞无法理解人一样？如果把每台电脑看成一个细胞，是不是天量的电脑连接在一起，同样能构成一个新的生命体，而这个生命体同样超出人类的理解？
答案几乎是一定的。人类造不出上帝，但上帝可以自我生成。
还有一个认为人工智能无法超越人类的理由是：人工智能不可能有真正的思考。
美国哲学家约翰·希尔勒曾提出一个被称作“中文房间”的思想实验来反驳人工智能能真正思考的观点。
想象一位只懂英文的人身处一个房间之中，他与外界的信息沟通只有一个小窗口。他随身带有关于中文的词汇书和语法书，房间里有足够的纸、笔、书柜供他使用。当写有中文问题的纸条被送进房间之后，房间里的人总能通过查找工具书而做出满意的中文答复。
也就是说，房间里的人完全不必懂中文，他可以通过强大的信息处理能力，让人以为他对中文的掌握非常熟练。
与之类似的是，电脑所做的工作不过是信息处理，它可以让人觉得它很智能，但不代表它真的会思考和判断。同样的，人类认为机器不可能有味觉，不可能有情感等等。
但是，味觉和情感又具体指什么呢？如果电脑能够准确无误地区分糖和盐，能够识别你的伤心并给予安慰，它算不算拥有了味觉和情感呢？
不管机器人再怎么人性化，只要一想它里面不过是一些电路板、电源线，我们就不会把它与拥有情感、意志、理想、信念的人画等号。但人脑的机制或许跟机器人的工作原理并无本质不同，只是程度上更精致、更高级而已，而所谓情感、意志、理想、信念等词汇，完全可以用机器语言代替。
哲学家理查德·罗蒂在《哲学与自然之镜》一书中提出了“对跖人”的设想。
假设有一类人住在地球的孪生星球上，他们从来不使用情感、意志、理想、信念这些词汇，因为这些词汇会使人误以为，我们身体的内部还有一个空间，那是独立于身体之外的心。在他们看来，地球人的身心二分不可理解，但这并不妨碍他们过着跟地球人一样的生活。比如，当小孩靠近火炉时，妈妈不是说“小心烫着”，而是说“它将刺激A 神经”；当一个人遭遇挫折时，他不是说“伤心流泪”，而是说“B 神经簇受刺激，并伴有液体从泪腺流出”。
大脑就是一个“黑箱”，不管是使用情感、意志、理想、信念这些词汇，还是使用神经元编号，指称的都是相同的外部行为。也就是说，前者并不比后者多出什么。就好像Siri 语音，我们明知道那些时而机智时而卖萌的答案，都是拜背后的程序员所赐，但还是会莞尔解颐。
反对人工智能和支持人工智能的两派都言之凿凿，这恰恰说明人类将要踏入的是一个全然未知的领域。刘慈欣说：“真正的AI 诞生之日，就是我们的恐惧变成现实之时，但我们仍乐此不疲，这就是人类的天性，无论男人还是女人，一个行为完全可预测的情人都谈不上什么魅力。创造出一件高于自己且不可预测的东西是有巨大的诱惑力的，尽管与它下棋时可能被电死。”
古人提出了很多试图约束人类好奇心的警示，比如潘多拉的魔盒，装魔鬼的漂流瓶，伊甸园的苹果。可是，唯独我们这个时代把泛滥的好奇心和毫无节制的开拓精神当成一种可贵的品质。
人类认为创造出一个比自己更厉害的物种，恰恰说明了自己的伟大，但那个物种不会这么看。
科学主义VS 道德相对主义
刘华杰教授有一句很著名的话：科学主义是我们的缺省配置。
什么意思呢？稍微懂点儿电脑的人都知道，缺省配置也就是默认状态，系统参数未经修改时，即处于缺省状态。这句话是说，在对科学精神不恰当的宣传和鼓吹之下，我们都是天然的科学主义者。
刘慈欣从开始在科幻圈崭露头角，直至2015 年问鼎雨果奖，都遭受着“科学主义”的批评，尤其是《三体》冷酷又冷静的叙事风格，更使刘慈欣成为众矢之的。
在这里，笔者要为刘慈欣辩护几句。
首先，笔者认为，面对科幻这个边缘的文学类型，目前评论界并没有做好理论准备。
相比于主流文学，科幻一直被看作是通俗，与奇幻、侦探等同为类型文学之一。
“科幻是一种类型文学”这一观点基本成为一个共识，刘慈欣在《< 三体> 中的物理学》一书的序言中也认可这一分类：“当今的文学可以分为两部分：主流文学和类型文学，两者日益分化。”
在日常语境中，类型文学通常被认为是通俗的。比如，一个中文系的教授是不屑于评论柯南·道尔或东野圭吾的。即使凡尔纳这样的科幻文学先驱，也只是被冠以“流行家”的名号，没有获得文学评论界的正视。凡尔纳晚年时感叹道：“无论什么书，在各家报纸上都载有介绍文章，而我们发表的东西，除了新年前夕一笔带过，平时都只字不提。看到这些，我非常难过。”有些作家本人都没有认同感，比如库尔·特冯古内特就很反感自己被称为“科幻作家”，他说：“自从我的第一部发表之后，我就变成了一个牢骚满腹的人，被放置在一个标有‘科幻’的档案抽屉里，我很想冲出去——尤其是在这么多的批评家都时常把这抽屉误以为是一个尿壶的时候。”美国科幻“黄金时代”的宗师，如阿西莫夫、海因莱因等人，在文学史上也是榜上无名。他们的文学地位与他们的思想贡献和艺术贡献极不相称，这种不相称正凸显了主流文学评论家对类型文学的偏见。
其实，类型文学并不必然是通俗的甚至水平低下的。郑军在《第五类接触：世界科幻文学简史》一书中对此做了很好的说明。现在处于主流位置的文学类型，当年也是上不了台面的，甚至拿这一大类来说，也不过是当时说书艺人的话本。随着艺术实践的不断深入、艺术水准的不断提高，这些文学类型或文学体裁才被加冕为主流文学。就拿中国古典来说，虽然我们常常把《红楼梦》《西游记》《水浒传》《三国演义》并称为四大名著，但后三部的艺术水准和文学地位显然无法与《红楼梦》相提并论。照此说来，主流文学也不过是一些完成加冕的类型文学。至于通俗与否，完全是由艺术实践决定而不是由类别决定的。
郑军对类型文学的定义是：题材十分相近，有相对固定的作者群和读者群的一类文学文本。他认为这个定义消除了预设的歧视和偏见。
就阿西莫夫、海因莱因等人为科幻树立的标杆来说，类型文学确实需要被重新认识。
笔者认为，对科幻进行文学评论的最大困难在于，科幻具有前所未有的跨学科性质。
就以《三体》为例，它的评论者大致可以分为三类：一，科学家或科普工作者；二，从事文学研究和评论的学者；三，主攻科技哲学或科技史的学者。第一类如李淼，他的工作很难说是评论，其实不过是以评论为名，行科普之实。第二类如吴岩和严锋，他们运用的依然是主流文学评论的理论范式，如新古典主义，边缘文学，后现代文学等。第三类如江晓原和田松，他们更多地讨论科技与人文的关系、科学主义等问题。
由于《三体》涉及科学、文学、哲学等不同领域，各类评论者难免自说自话。他们虽然都说出了部分事实，但仍难免盲人摸象。
试举一例，比如刘慈欣和阿西莫夫都遭到过“文学性差”的批评，但文学性差到底是指什么呢？是指文笔不够好吗？路遥的文笔同样朴实无华，但不妨碍《平凡的世界》是一部伟大的文学作品。
是指人物塑造脸谱化吗？要知道，在刘慈欣那里，人物只是剧情结构的结点，根本不能以主流文学的标准来要求他，更何况，很多主流文学的派别已经完全放弃了人物塑造。是指意境营造差吗？可是有多少读者沉浸在《三体》中如痴如醉，而多个场景的描写也被三体迷们津津乐道。我并不一定要反对“文学性差”的论断，我想说的是，主流文学所谓的“文学性”显然无法很好地评述科幻。
评价作品，免不了要评价作者，评价作者，也不能离开具体的作品。而评价刘慈欣，不仅要看《三体》，还要看别的作品；不仅要看他的科学态度，还要看他的艺术风格和思想倾向；不仅要看他在作品中的倾向，更要看他在作品外的表达，甚至要看他没有明确表达出来的意思……
而“科学主义”的指责，显然缺乏这样的综合评测和通盘考虑。
笔者认为，与其说刘慈欣是科学主义者，不如说他是技术主义者。
先来看看什么是科学主义。
江晓原和刘华杰等人都对“科学主义”做了自己的界定，不过，我觉得还是回到它最原初的定义为好，否则就是为自己制造了一个假想敌。
胡长栓在《超越科学主义与人文主义的对立》一文中详细梳理了科学主义的源流，大体是准确的。他引用了《韦氏词典》的定义：认为科学方法能够也应该应用于所有研究领域的原则。《韦氏词典》的权威性勿庸置疑，比如肖显静在《科学主义的内涵分析》一文中虽然对科学主义作出了进一步细分，但仍然承袭了这一定义。
我们可以发现，科学主义所指称的群体是极其狭窄的。自狄尔泰以降，很少有人再是彻底的科学主义者。科学主义的影响当然在，比如经济学、社会学、心理学等都在或多或少地使用科学研究的方法，但只要我们承认人文学研究的合法性和有效性，就不可能是真正的科学主义者。再说了，在人文学科中适当地使用科学方法，也不失为一种有益的尝试。据说，经济学家弗里德曼就是受到了阿西莫夫《基地》中“历史数学”的启发，从而选择了经济学。而且，认为17 世纪的理性主义毫无保留地信任理性，这是罔顾历史事实。
即使在科学最受宠的时期，人文主义也坚持了自身的存在。
刘慈欣确实有一些不太恰当的观点，比如罗辑这个人物出场的时候，与叶文洁有过一番对话。
“社会学？跨度这么大？”
“是，杨冬总说我这人心很散。”
“哦，怪不得她说你很聪明的。”
“小聪明而已，和您女儿不在一个层次。只是感觉天文专业是铁板一块，在哪儿钻个眼儿都不容易；而社学会之类的木板，总能找些薄的地方钻透的，比较好混吧。”
尽管刘慈欣读了不少人文社会学科的著作，但他似乎还是有些重理轻文。当然，这不能算是确凿的证据，因为很难说他是在比较两门学科的高下还是特性。而且，书中人物的对白也不一定是作者的真实想法。
不过，这并不代表大家的批评是正确的。
刘慈欣并不是不承认科技的负面作用，他甚至还在《三体》中就很多技术带来的伦理难题进行了深入讨论。如果非要给刘慈欣安上“科学主义”的名号，倒是可以考虑另一个区分：认知科学主义（相信某种程度的还原论和基础主义）和社会科学主义（相信人类生存的所有问题都能经由科学得到解决）。
我们无法确证前者，但我们从刘江“酒吧对话”中可以确证后者。
刘慈欣：写科幻这几年来，我并没有发生过什么思想上的转变。
我是一个疯狂的技术主义者，我个人坚信技术能解决一切问题。
江晓原：那就是一个科学主义者。
刘慈欣：有人说科学不可能解决一切问题，因为科学有可能造成一些问题，比如人性的异化，道德的沦丧，甚至像南茜·克雷斯（美国科幻女作家）说“科学使人变成非人”。但我们要注意的是人性其实一直在变。我们和石器时代的人，会互相认为对方是没有人性的非人。所以不应该拒绝和惧怕这个变化，我们肯定是要变的。
如果技术达到了那一步，我想不出任何问题是技术解决不了的。我认为那些认为科学解决不了人所面临的问题的人，是因为他们有一个顾虑，那就是人本身不该被异化。
在我看来，社会科学主义与技术主义的内涵几乎是相等的，与其在“科学主义”前面加个定语，不如直接称之为“技术主义”。
像“非人”“异化”这些词汇，显然从属于另一哲学传统，那就是法拉克福学派和海德格尔对技术工具的批评。不过，他们的目标不是科学主义，而是技术主义。
上述对话中有一个很微妙的地方，刘慈欣只供认自己是“技术主义者”，而江晓原随即称其为“科学主义者”。
上述对话还透漏了一个重要的秘密。且看刘慈欣的原话：“但我们要注意的是人性其实一直在变。我们和石器时代的人，会互相认为对方是没有人性的非人。所以不应该拒绝和惧怕这个变化，我们肯定是要变的。”如果在场的是一位伦理学者而不是科技史研究者，他一定会辨别出这是明显的道德相对主义。
刘慈欣在不同场合表达过他的“零道德”理论，他认为没有普遍的道德原则，只有面对不同道德情境的权宜。这难道不是典型的道德相对主义吗？为了讨论人性，就要构建一些道德情境，尤其是极端的道德情境，不过，科幻碰巧是以科学元素来构架情节的。
我们不能只见树木不见森林，仅仅因其具有科学元素就套用“科学主义”等概念。与其说刘慈欣是科学主义者，不如说他是道德相对主义者，“道德相对主义”是一个更综合、更完整的评价。
刘华杰曾在一篇名为《什么是科学主义》的文章中说道：“当其（指科学主义）指称没有界定时，学者们竟也能大胆批评之。”不过，为了继续行文，他放弃了《韦氏词典》的定义，而自行做了“强科学主义”和“弱科学主义”的区分。可见，他已经隐约意识到，若按照严格的“科学主义”的定义，目前学术界对刘慈欣的批评基本属于无的放矢。
这再次印证了我的第一个观点：面对科幻文学，目前评论界还没有做好理论准备。
至于道德相对主义是否具有合理性，这不是本文要讨论的。
农场主假说VS 知识的确定性
在《三体Ⅰ》中，丁仪在和汪淼打台球的时候，曾经提到过一个农场主假说。这个假说说的是：有一群火鸡在农场上幸福地生活，火鸡中有一个火鸡科学家。根据它的观测，每天早上9 点整，天空就会降下食物。可是某天9 点到来的时候，食物并没有如约而至；相反，所有的火鸡都被抓去杀了。
这是英国哲学家罗素曾经讲过的一个故事，他意在说明，由归纳法得出的结论并不可靠。比如说，第一天股票价格涨了，第二天股票价格也涨了，第三天股票价格还是涨了，但这并不能说明股票价格会一直涨下去。也许有人会说，这是显而易见的，没有人会蠢到以为股票能一直往上涨。但在生活中，人们往往使用了归纳法，自己却没有察觉。20 世纪曾经有一位船长叫爱德华·约翰·史密斯，是航海界的传奇。他带领的船只从来没有出过事故，因此他在业界有“平安船长”的美誉。他的年薪是一百万美元，这在当时是很厉害的。有的乘客甚至声称，非“平安船长”的船不坐。由于他光辉的历史成绩，人们归纳得出了“坐他的船绝对不出事”的结论，就放心地把一艘超级豪华的邮轮交给他指挥，这艘邮轮的名字叫泰坦尼克号。后面的故事大家就都知道了。
“所有的乌鸦都是黑色的”之所以被认为是确定无疑的真理，是因为就我们目前所见，乌鸦都是黑色的，这个数量可能是100 只，1000 只，甚至10000 只，但它仍然没有排除某天出现白乌鸦的可能。
这种基于部分推出整体的方法就是不完全归纳推理。不要以为这是在钻牛角尖，科学史上很多曾经被认为是确凿无疑的论断，后来都被例外情况打败了。比如，盛行于欧洲一千多年的“地心说”，终于在1543 年被哥白尼的“日心说”推翻，要知道在此之前，托勒密的“地心说”系统能够很好地解释和预测天体运行情况。再比如，人们在实验室中得出了这样一个结论：所有生命在100℃的沸水中都会死亡。直到有人发现在深海火山口旁边有耐受120℃高温的生命。牛顿力学一度被认为是物理学的终极真理，直到人们观测到与之不相符的现象，才开始怀疑其绝对空间和均匀时间的前提。
其实哲学家们很早就发现由归纳法得出的结论很可能不对。这件事最早是休谟提出来的。休谟认为，经验中只存在前后相继的关系，而不存在因果关系、必然关系，因此，归纳法并不能保证过去经验的重复在今后一定会继续重复。休谟假设，世界上有两只这样的钟：每当其中的一只钟走到正点，另一只就会敲响报时。能不能就此归纳得出结论，说这两口钟以后一直都会这样报时呢？休谟在18 世纪提出的这个问题走在了很多科学家的前面。爱因斯坦正是从休谟这经典的一问出发，构建了举世闻名的狭义相对论。这是后话。
人们在运用归纳法的过程中，总要借用某种理论模型，而这些理论模型并不总是正确的。说某一理论是科学的，并不代表它可以免于被怀疑、被修正。就像上面提到的狭义相对论，它是一种理论假说，而不是一种绝对真理。人们陆续发现了许多符合狭义相对论的现象，但这并不能证明狭义相对论中提出的论点都是毋庸置疑的事实。“大爆炸理论”同样是一种假说，也存在着被颠覆的可能。
这样说来，世界上不存在终极真理，只有时刻等着被更完善的理论取代的暂时性“真理”。这就是当代哲学家波普尔的真理观。
在波普尔看来，科学知识只是一种猜测和假设。不过，这并不是说它们一定是错的和无用的，而是说它们并不必然为真，但至少存在验证其真假的可能。也就是说，一种理论具有科学性，并不在于它永远正确、无可辩驳，而是因为它具有可证伪性。是否可证伪成为区分科学与伪科学的重要标准。
伪科学理论最著名的例子当属现代流行的星座性格分析，这种理论根据出生日期的不同，把人的性格及命运都做了相应的划分。
很多人对这种学说将信将疑，因为这种理论在别人乃至自己身上总能找到一些“证据”。但星座说显然不具备真正的科学性，充其量只能作为人们茶余饭后的谈资。
有人会说，既然星座理论和科学理论都是由归纳得来的，那么，后者并不比前者更具确定性，两者本质上应该是一样的。但星座理论并不像科学理论如相对论或“大爆炸理论”那样具有可证伪性，因为人们所谓的那些“证据”其实都是一种主观感受。这就是“巴纳姆效应”：人们总是极易相信一种笼统的、宽泛的人格描述，认为它所说的正是自己，人们愿意为此搜集一些正面证据而自动忽略那些反面证据。
基于波普尔的证伪理论，大家可能会对科学理论大失所望：所有的概括知识都不是绝对可靠的，都存在着被修正的可能。但人们建立某种理论，就是为了去理解未知的世界。不管存在着怎样的缺陷，归纳法都还是人类现阶段获取知识的主要手段。如果这种理论能够很好地预测哪怕一部分未来，从而指引我们在局部范围内做出有用的选择，那么它依然是有价值的。佛教经典《百喻经》中有这样一个故事：一个富翁打发仆人去果园里买杧果，并且嘱咐道：“只买甜的、好吃的。”仆人到了果园，园主对他说：“我这园子里的杧果都非常好吃，不信你可以尝一个试试看。”仆人说：“只尝一个怎么能知道所有的杧果都很甜呢？我要尝一个买一个，只有这个才不辜负主人的嘱托。”于是他买回去的杧果，每个都被咬了一口，主人只好统统扔了了事。
仆人的话当然有道理，如果不挨个品尝，我们确实无法保证下一个杧果一定好吃，但通过观察果园的土壤、灌溉、光照及杧果的外观颜色，我们依然能提高下一个杧果好吃的概率。
对于科学理论，我们应该采取一种实用主义的态度：如果基于某一理论做出的选择比其他任意的选择更可能导致一个好的结果，那么，我们不妨接受这一理论。
黑暗森林VS 费米悖论
《三体》中人类与三体世界的生死对决持续了几百年，不过，三体人始终没有露面，刘慈欣也没有对三体人展开正面描写。
人类与三体世界的所有沟通都是通过智子进行的，这使刘慈欣摆脱了一段极有可能毫无新意的对外星智慧生命的描写，比如个子很矮，眼睛很大，倒三角的脸型，细长的嘴巴等，而加进了一个很有意思的设定：能在不同维度上展开的超级计算机——智子。
在当今的科幻文学中，外星人的设定已经不再新鲜，描写人类怎样跟外星人斗智斗勇才有看头。
“面壁计划”就是一个让人大呼过瘾的设想。基于三体人思维透明、不会说谎、不善伪装，而人类又时刻处在智子的监视之下，PDC（行星防御理事会）制订了“面壁计划”。面壁者被赋予极高的权力，可以随时调用各种资源，而不需要向任何人解释自己的战略意图。这是一个非常奇特的计划，以至于罗辑宣布放弃面壁者身份时，这一举动被人误以为是战略的一部分。
三体人的形态同样让人脑洞大开。他们在相当长的历史时期内具有脱水功能，干旱时就变成一具干瘪的皮囊，泡在水里就能恢复原样，像干菜一样。
跳出《三体》的情节，我们会发现，外星人的存在从来没有被证实过，但它却成了科幻的标配，而且我们还煞有介事地想象出了各种各样的外星人。
据考证，最早提及外星人的是德国科幻作家库尔德·拉斯维茨写于1897 年的《双行星》，其后是英国科幻作家赫伯特·乔治·威尔斯的《星际战争》。因资料缺失，《双行星》的情节暂时无法了解，而《星际战争》描写的是科技远高于人类的火星人入侵地球的故事。在绝大多数科幻中，外星人的科技水平都高于人类，这不全是师承威尔斯，更体现了人类对未知智慧生命体的恐惧。其实，外星人只是人类的“他者”之一种，变异生物、智能机器人也都是人类的“他者”。
关于外星人的报道时常见诸各类媒体，甚至有人声称见过外星人和UFO。这些信息真假难辨，也只好姑妄听之。而最能引发关于外星人问题严肃思考的是“费米悖论”。
1950 年的一天，物理学家费米在餐桌上与人讨论外星人问题时突发问道：“那么，他们在哪里呢？”粗略计算一下，仅银河系就有约10 亿个类地行星，假设其中1% 出现了生命，又假设有生命的行星中有1% 出现了文明，则银行系就有10 万个类地文明。从时间尺度看，银河系的年龄为100 亿年，从空间尺度看，银河系的直径为10 万光年，假设一个银河系文明仅以光速的千分之一的速度飞行，也只需1 亿年就可到达银河系各个地方。费米的言外之意是，按概率来说，外星人存在的可能性和造访地球的可能性都非常大，但为什么迄今为止都没有相关证据？
对于“是否存在地外文明”的回答只可能有两种：一，不存在；二，存在。
第一种回答干脆利落，而第二种回答却要设想至今没有相关证据的原因。
在费米谬论的各种解决方案中，不乏脑洞大开的设想。比如“动物园假说”，认为地球不过是某个先进的地外文明建造的动物园，他们只是远远地观察人类，而避免与人类发生接触。还有一种“生命荒漠假说”，认为太阳系在银河系中的位置太偏僻，恰巧处于荒漠地带，高等文明未发现或不屑于殖民地球。少数持极端观点的人甚至认为，外星人早就来到了地球，并悄悄混进了人类中。比如，有人就认为刘慈欣和霍金都是外星人。还有一种“环境差异假说”，这种理论认为巨大的环境差异完全可能造成不同的生命形态，比如卡尔·萨根就认为，也许我们的大脑运转速度远远快于或慢于地外文明，对方说一句“你好”要持续12年，我们收到这个讯息时就以为是噪音。甚至有些学者认为，外星生命不一定以有机体的形式存在。
其中比较精致的一种理论是“大过滤器假说”。罗宾·汉森认为，在文明演化过程中，有些阶段很难甚至几乎不可跨越，这一阶段就是大过滤器。很多地外文明的发展水平可能根本没有超过地球文明，而是在大过滤器面前灭亡了。不过，这也引发了人们对史前文明的联想，比如传说中被史前大洪水毁灭的亚特兰蒂斯文明，也引发了人类对地球文明的担忧：地球文明究竟是已经越过大过滤器的一根独苗，还是即将面临大过滤器的筛选？
刘慈欣的“黑暗森林”理论也是费米悖论的一种解答，而且几乎是最糟糕的一种。
宇宙是一座黑暗的森林，每个文明都是一个带枪的猎人。各个文明之间充满了猜忌和不信任，在无法判断对方是善意还是恶意的情况下，最保险的做法就是：一旦发现对方的踪迹，立即消灭之。
刘慈欣借罗辑之口，不无担忧地说道：“黑暗森林中有一个叫人类的傻孩子，生了一堆火并在旁边高喊：“我在这儿！我在这儿！”
听起来就让人不寒而栗！
霍金也一再告诫我们：地外文明是肯定存在的，人类不应该主动寻找外星人，而要想尽一切办法避免与他们接触。
关于费米悖论的各种解答，既无法被证实，也无法被证伪。在尘埃落定之前，地外文明至少有二分之一的可能性是存在的，有四分之一的可能性是恶意的。刘慈欣在一篇名为《黑暗森林猜想》的文章中写道：“在这个神奇的宇宙中，任何看似不可能的可能性都有可能成为现实，如一位天体物理学家所说：‘恒星这东西，如果不是确实存在，本来可以很容易证明它不可能存在。’所以，在宇宙的各种可能性中，加入一个最糟的可能，至少是一种负责任的做法。”
即使费米悖论没有让你变得更加谦卑或对头顶的星空充满敬畏，也至少能让你不再把“外星人入侵地球”的设想仅仅看成是一个笑话。
极权只需五分钟
《三体》创造了海量的金句，为三体迷们津津乐道。比如：“不理睬是最大的轻蔑。”
“把人类看作虫子的三体人似乎忘记了一个事实：虫子从来就没有被真正战胜过。”
“给岁月以文明，而不是给文明以岁月。”
“空不是无，空是一种存在，你得用空这种存在填满自己。”
“毁灭你，与你何干？”
“弱小和无知不是生存的障碍，傲慢才是。”
“失去人性，失去很多；失去兽性，失去一切。”
“当人类真正流落太空时，极权只需五分钟。”
今天，我们就来说说与“极权只需五分钟”相关的话题。
在“水滴”冲击地球联合舰队之际，“青铜时代”号和“量子”
号飞船双双出逃。当意识到自己再也无法返回地球时，“青铜时代”
号上的全体舰员以94% 的支持率同意对“量子”号发动毁灭性攻击，以争夺能源和食物。所谓食物，就是“量子”号舰员的尸体。
“吃还是不吃”的两难抉择已在第一节进行过讨论，这里要说的是另一个话题：“青铜时代”号的每位舰员是如何放弃了独立思考，充分融入了一个狂热的集体。
在接受审判时，“青铜时代”号的武器系统控制官史耐德在辩护词中提到了一个故事。
这个故事真实发生于美国一个高中学校。一位老师为了让学生真切地感受一下什么是法西斯主义，进行了一场大胆的实验。他成立了一个“第三浪潮”组织，运用各种方式向学生灌输纪律性和集体精神，比如，学生必须尊称他为“先生”，组织有整齐的服装，统一的手势和图标，组织内部必须紧密团结，等等。短短五天时间，学生就建立了强烈的组织认同，陷入了集体狂热。
在由真实事件改编的电影《浪潮》（又名《极权只需五分钟》）中，结局更是充满了戏剧性：当老师宣布实验终止时，一个学生难以接受组织的解体，顿时精神崩溃，在射杀一个同学后饮弹自尽。
这一实验说明，人在极端情境中，总是轻易就放下了自己的道德判断，犯下不自知的罪恶。
其实，根本不需要刻意构建一个极端情境，即使在最平常的生活情境中，人性之恶也会形成吞噬一切的力量，想必大家都听说过斯坦福监狱实验。
1971 年，斯坦福大学心理学教授菲利普·津巴多主持了一项实验。他招募了一批心智健全的大学生志愿者，然后把他们投放在一座模拟监狱中。志愿者被随机分成两组进行为期两周的角色扮演，一组为狱卒，一组为犯人。实验一开始，狱卒和犯人很快就适应了各自的角色。到第六天时，受试者已经完全沉浸在角色中，狱卒变得残暴不仁，而犯人也几近心理崩溃。最终，实验不得不提前终止。
让人震惊的是，那些扮演狱卒的大学生，之前并没有见过真实的监狱，但在短短的六天时间里，他们已经非常熟悉有权者和无权者的互动方式，构建了逼真的监狱生态。
在某种情势的裹挟下和某种情绪的煽动下，我们会做出一些匪夷所思的行为。我们的独立思考能力和道德判断能力，远没有自己认为的那么强。在一定的社会情境下，好人也会犯下暴行。
这个实验后来被写成了《路西法效应》一书。
揭示人类道德能力在特定情境下的麻木与脆弱，《路西法效应》不是第一次，也不是最后一次。
汉娜·阿伦特在《耶路撒冷的艾希曼》一书中，揭示了一种“平庸之恶”。
纳粹党徒阿道夫·艾希曼在接受审判时，一律以“一切都是奉命行事”来回复对其罪行的控诉。这让很多人无比困惑，因为艾希曼在日常生活中是一个谦逊有礼的人，他并不仇恨犹太人，也不是一个纳粹主义者，但他亲手把万千犹太人送入了地狱。“艾希曼以及其他千百万名参与了犹太人大屠杀的纳粹追随者，有没有可能只是单纯地服从了上级的命令呢？我们能称呼他们为大屠杀的凶手吗？”
阿伦特的结论是，艾希曼当然有罪，他的罪恶不在于卑鄙异常，而在于动机肤浅。他心甘情愿地参与了极权统治的“伟大事业”，毫无保留地把这种“伟大事业”当作最高命令。他本性善良，但他不加反思地为恶的目标尽职尽责，并视其为美德。“政治不是儿戏场所，在政治中，服从等于支持。”
令人欣慰的是，相比于艾希曼所处的纳粹德国，“斯坦福监狱实验”和“第三浪潮”组织只是小范围内的封闭实验。只要这个小范围之外依然有自由的空气，任何扭曲和反常就有被纠正的可能。尤其随着互联网技术的迅猛发展，大范围建构封闭环境和重现骇人的极权体制几乎是不可能的。
相比于电影《浪潮》，发生于美国那所高中的真实事件也要温和得多。作为娱乐产品，《浪潮》难免为了增强震撼性或迎合某种结论而故意夸大其词。
不过，丧失道德判断能力和独立思考能力，确实是现代人最可怕的症状。
《乌合之众》一书就揭示了这样一种情况：约束个人的道德和社会机制会在狂热的群体中失效，身处群体中的个体会表现出独处时所没有的倾向性。显然，群体的非理性比上述那些封闭的人性实验更普遍。你一定听说过因为轻信谣言而疯狂抢购食盐的新闻，你一定见过人群因恐慌而导致踩踏事件的画面，你一定见识过演唱会现场粉丝的亢奋与癫狂。囤盐的人群中，肯定有一些非常理智的人，踩踏事件中，肯定有一些非常冷静的人，狂热的粉丝中，肯定有一些内向腼腆的人，但他们在人群中放弃了自己的理智、冷静和矜持，变成了另一个人。
不过，在这个清明的世界，要说“极权只需五分钟”，多少有点故作惊人之语，群氓效应也只在群体聚集的场所才可能发生。但人性的攀爬容不得半点懈怠。当你认为人性足够美好、世界足够安全时，一定是什么地方出了问题。
赫胥黎在《美丽新世界》中描写了一种极具诱惑力的未来：人类安居乐业、衣食无忧；每个人接受固定的生活、工作和消费模式；人们的喜好被用各种科学方法控制着，不需要学习和；人们永远心情愉快，一旦出现负面情绪，就用药物进行治疗……有没有跟现代人的生活非常相像？面对人生困惑，我们越来越多地求助心理咨询而不是独立思考；我们不再靠意志力来戒烟，而是求助于电子烟等技术手段；如果心情不好，我们可以用音乐、喜剧等来转移注意力；我们在按照商业宣传的标准打造自己的身材甚至容貌；我们在按照电视剧的情节审视自己的生活；我们都在追求个性，但行为模式却越来越趋同；商业广告永远在描绘着一种可望不可即的生活，让我们疲于奔命；我们越来越喜欢接受碎片化信息，越来越不喜欢深度……
你不是一直在追求快乐吗？那好，这个美好的新世界都能给你！不过，“新世界如此美好，它只有一个小小的缺陷——在那里，幸福的人们全都是‘被幸福’的”。
在消费主义时代，我们更应该警惕赫胥黎式的未来，而不是奥威尔式的未来。
技术的后果
相信大家都听说过惊世骇俗却又颇具争议的米格拉姆（又译米尔格伦）实验。
被试被告知自己将在一项关于“体罚对于学习行为的效用”的实验中扮演老师的角色，以教导隔壁房间的学生。两人互不相见，但可以隔墙通过声音沟通。被试面前有一台电击控制器，当学生回答错误时，被试要对其实施电击，而且电击强度会不断增强。不过，学生是由实验人员假冒的，电击器也是假的，而学生发出的惨叫声也是事先录好的。结果显示，65% 的被试会服从增加电压电击学生的命令，尽管他们知道对方会遭遇巨大的痛苦。
米格拉姆实验揭示了这样一种情况：当一个人进入服从权威的迷茫状态时，他就成了权威的代理人，尽管做着不道德的事情，但他毫无罪恶感。
其实，这个实验并没有讲完，而未讲完的那部分同样振聋发聩。
齐格蒙特·鲍曼在他的《现代性与大屠杀》一书中带我们回顾了接下来的部分。
在米格拉姆的实验中，当被试者被告知强行抓住受害者的手放在所谓实施电击的镀板上时，只有百分之三十的人坚持到实验的最后，完成了命令。而在只要求他们扳动控制台上的控制杆以代替抓住受害者的手的时候，服从者的比例上升到百分之四十。当把受害者藏在一堵墙之后，只能听到他们佯装的惨叫时，准备“看到最后”
的被试者数量就跃升至百分之六十二点五。这好像在说我们主要是用眼睛在感受。和受害者在身体上与心理上的距离越远，就越容易变得残酷。
这是什么意思呢？就是说，施害者与受害者的身体距离或心理距离，会减弱甚至屏蔽掉施害者的道德判断。
试想，当战争变得像玩CS 游戏一样轻松，杀人时不需要再面对血肉横飞，而是面对着一些按钮或操纵杆，我们是不是会变得更残忍？当恶性事故变成了新闻中匆匆闪过的画面，受难者的哀号变成了我们茶余饭后的背景音，血肉模糊变成了一串冰冷的伤亡数字，我们是否变得有些麻木了？
当一个人目击血肉模糊的真实的车祸现场时，不可能有观看枪战电影时的酣畅淋漓。而后者，我们美其名曰“暴力美学”。
距离产生美，但美淹没了道德。
《三体》中的生死绝杀也都被描写得极具诗意。如果把《三体》拍成电影，其中很多场景都会有极其优美的视觉呈现，比如“古筝行动”，比如“水滴”冲击地球联合舰队，比如三体星系遭遇黑暗森林打击。让我们回顾一下歌者对太阳系进行降维打击时的优哉游哉：“翻阅坐标数据是歌者的工作，判断坐标的诚意是歌者的乐趣。
歌者知道自己做的不是什么大事，拾遗补阙而已，但这是一件必须做的事，且有乐趣……歌声中，歌者用力场触角拿起二向箔，漫不经心地把它掷向弹星者。”这份惬意，这份慵懒，这份乐在其中，这份漫不经心，难道不是在从事艺术活动？怎么可能跟遥远星空的一场灭顶之灾有关呢？
当然，我不是想把道德凌驾于审美之上，也不是在指责“暴力美学”。我想说的是，技术往往能重构道德情境，让我们直面全新的道德抉择。把战争变得像CS 游戏一样轻松的技术，把恒星毁灭简化成投掷“小纸条”一样随意的技术，都卸载了我们的道德负担。
这就是技术的魔力。
“AK-47 之父”卡拉什尼科夫说过一句著名的话：“枪械无罪，有罪的是扣动扳机的人。”这句话成了反控枪组织的口号，也是技术中性论者的经典理论。
可是，枪怎么可能与价值无涉呢？枪不像树木一样，是从土地里长出来的，也不像石头一样，是从路边捡回来。枪是人为之物，是带着目的被生产出来的。人类造枪，就是为了射杀。
《三体》描写了很多围绕新技术所展开的观念碰撞，如“思想钢印”、光速飞船、黑域计划等，这些技术进步都为人性搭建了新的舞台，也为人性提出了新的难题。比如“冬眠”技术，能够将人体冷冻保存，从而实现人类在时间上的直立行走。刘慈欣说道：“一项新技术，如果从社会学角度看可能呈现出完全不同的面貌，但当这项新技术在孕育中或刚出生时，很少有人从这个角度来审视。”“冬眠”技术本来只是要为绝症病人提供一个去到未来的治愈机会，但产业化之后，就会彻底改变人类文明的面貌。比如，如果人们认定社会是在不断进步的，那很少会有人愿意留在现在。而有钱人可以去到未来的天堂，没钱人则只能灰头土脸地留在现在，为前者建设天堂。甚至，如果人类在未来能够长生不老的话，那么有钱人和没钱人在死亡面前都不平等了。
其实，“冬眠”技术还能造成另一个后果，就是代际关系和人伦秩序的混乱。史强在一次短暂“冬眠”后，与儿子重逢的场景是这样的：“爸，算起来我现在只比你小五岁了。”史晓明说，一边擦去眼角的泪水。
“还不错，小子，我他妈真怕一个白胡子老头叫我爹呢。”史强大笑着说，然后把罗辑介绍给儿子。
当很多人随着岁月老去、逝去之后，屡次进入“冬眠”的程心却还停留在三十几岁的年纪，虽然书中没有展开描写，但我们尽可想象她的伦理观念会发生什么变化。
不要以为这种技术只存在于科幻中，二零一五年五月有新闻爆出，《三体》的编审、一位重庆籍女作家决定冷冻遗体，等待五十年后复活。上面说到的伦理难题将扑面而来。
简单总结一下前文：说科学是中性的尤可商量，但很难说技术是中性的，因为：一，技术并不是不具有价值属性，相反，它在诞生之初就是价值渗透的；二，技术能重构道德情境，屏蔽我们的道理判断，或为我们提出新的道德难题。比如枪的例子，发明枪就是为了杀人，不管杀人是正向价值还是负向价值，都不能说是中性的。
同时，比起没有枪的人来说，拿到枪的人，心理上肯定会有一些微妙的变化，比如，他会倾向于用简单粗暴的方式来处理矛盾冲突。
下面提出第三条理由：技术直接改变我们大脑的生理构造。
《三体》中的面壁计划之一就是“思想钢印”，这一技术可以对大脑的神经元网络施加影响，使大脑不经思考，就接受某一信念。
它能以更粗暴的方式左右人的道德判断。
如果你觉得这种设想只存在于科幻中，我可以举一个更贴近生活的例子：互联网。尼古拉斯·卡尔在《浅薄》一书中为我们展示了技术尤其是互联网如何使我们的注意力越来越涣散、神志越来越难以平静。想必大家都有同感，我们越来越喜欢读一些短小的新闻、笑话、语录，越来越难以集中精力去读一本书或长篇论文。
即使读到稍长的文章，我们也希望编辑能标出重点，方便快速浏览。
也许你会反驳说，碎片化信息也能让人学有所获，我想说的是，那只是信息，很难说是知识，更与智慧无缘。不过这都不是重点，麦克卢汉说，媒体传播的内容，只是入室行窃的盗贼用来引开看门狗的肉包子。重点不在于互联网所提供的内容是否有价值，而在于互联网技术本身重塑了我们的神经连接和大脑结构。比如，尼古拉斯在书的结尾说道，适应互联网的智能伦理的大脑，更难体验同情、怜悯等最具人性特征的微妙情感。
我们生产了很多致毁知识，还将制造越来越多的致毁知识。当原子弹试爆成功之后，爱因斯坦和奥本海默都陷入了深深的自责。
爱因斯坦余生都在为限制核武器奔走呼号，而奥本海默则直呼“我的双手沾满了鲜血”。我们的社会不断前进、经济不断发展，但道德水准却一直徘徊不前。危险在于，我们拥有与自己的道德能力极不相称的技术能力，这是我们安放在自己身边的定时炸弹。
刘华杰教授有一个形象的比喻：“这种状况就好比，在一个婴儿面前，摆放了越来越多石子、玩具、刀片、浓硫酸、炭疽粉末、核按钮等等。”
其实，不唯技术进步，社会变迁也能重构人的生存境遇，引发道德观念的变化。不过，这在《科学主义VS 道德相对主义》一节中已经探讨过。