《沙丘》中为什么禁止了AI？

作者

王小西

人工智能，危险？危险！

  责编丨查攸吟

  编辑丨别致

《沙丘》可以说是2021年最重磅的科幻电影，也号称是“最不可能被改编成电影的科幻小说”。

因为，它的故事，主要发生在厄拉科斯行星，一颗几乎全是沙漠的行星，但宇宙中唯一的神秘“香料”产地也就是在这个星球。

电影的男一号，是厄崔迪家族的继承人保罗，在父亲被杀害后，开挂成为《黑客帝国》尼奥那样的“救世主”，也就是“The One”。然后，保罗领导弗里曼人反抗强权，并最终成为银河系大帝。

但是，这个人物弧光（影评专业术语，指人物的成长历程），从一开始就已经设定好了，或者说“套路”已经设定好。所以很多人对电影的批评是“十分钟能说完的事，用了150分钟的时间”，觉得很冗长。

不过反过来看，就像导演所擅长的，随着宏大叙事的展开，通过上帝视角的感觉，让我们享受到一场“视觉盛宴”。也让我们超脱出当下的琐碎，去宏大地思考一个宇宙人类的问题。

比如，我们仅仅是看这些中世纪式的宫廷剧吗？为什么《沙丘》能够在科幻小说史上封神呢？

还有，除了反方邪恶的哈克南男爵，四大帮派门泰特、姐妹会、宇航工会，还有搞生物基因、复制人的特雷厄拉克斯人，这场博弈中最重要的四股力量的量子纠缠，是怎么缘起的？背后造成了哪些不可预知的未来呢？

所以，我们这篇文章主要关心的是，为什么《沙丘》中没有人工智能？反观现在的人类，是不是会被AI灭掉？从《沙丘》中我们能得到哪些启示？

01

《沙丘》中为何禁止了AI？

其实，《沙丘》背后是宏大的宇宙叙事。电影里面发生的故事之前，是有人工智能曾经统治宇宙的历史的。但是，经过一场叫做“巴特勒圣战”的战争后，人类彻底禁止了AI。

所以，我们在电影中能看到，虽然有着先进的屏蔽场，但是，人类厮杀仍然用的是刀、矛之类的冷兵器，甚至类似《斯巴达300勇士》的排兵布阵。

那么，巴特勒圣战（the Butlerian Jihad）是怎么回事呢？大致上来说，巴特勒圣战发生在《沙丘》故事的一万多年前。也就是宇航工会成立前的BG 200～108年。

而巴特勒圣战前的一千年，人类的足迹已经可以冲出地球，就像马斯克移民火星一样，也像《银河帝国》里讲的那样，扩张到银河系的许多星球上。然而由于政治上越来越腐败，旧帝国奄奄一息。就在这时，厄拉科斯星球和“香料”被发现了。

于是，一个叫做“特拉洛克”的变种人，带领着20个年轻人组成的“20泰坦”组织，通过先进的科技攻打并推翻了旧帝国。旧帝国被推翻后，成立了由AI机器和机器人主导的政府，而“泰坦”组织的领袖阿伽门农则担任起机器人政府与人类间沟通的代理人。

由于人类大量使用智能科技，包括阿伽门农在内的“20泰坦”利用人工器官替换而不断延长寿命。经过七百多年的岁月，情况发生变化，有人不再愿意让人类的命运置于机器人的绝对掌控。

而被视为接班人的阿伽门农的儿子佛力安，因为后来发生的一件事改变了看法和命运。

在机器人的奴隶集中营内，佛力安认识了一位巴特勒家族（后来改名科里诺家族）的美丽少女，而对以前的价值观产生怀疑，最后和那位少女坠入爱河一同逃亡，并且投身对抗机器人的行列。

此外，佛力安宣布改家族名称为厄崔迪（House Atreides）。这就是电影中厄崔迪家族的起始。当然，那名少女最后被机器人所杀。佛力安·厄崔迪投身反抗阵营后，阿伽门农也对机器人举起反旗，但是也被杀了。

除了厄崔迪家族，还有哈克南家族（House Harkonnen）也在反抗AI机器政府。原本哈克南家族是由伍尔夫和卡达莉娜夫妇统治。而且，当时哈克南在经济上是个相当强盛的家族，尤其是矿业方面。

但是，由于发生了一些事故，机器人大举攻击哈克南家族。伍尔夫和卡妲莉娜遇害，哈克南家族唯一的活口泽维尔·哈克南，发誓一定要打倒机器人军团。不过，后来泽维尔为避免人类走向失败的命运而暗杀了教团领袖，两人同归于尽。

而教团在后来的宣传中，将被暗杀的领袖树立成为烈士，泽维尔则成为卑鄙小人。佛力安·厄崔迪为了替自己的好友恢复名誉，努力收集证据。泽维尔·哈克南之前和巴特勒家族通婚并有一子，由于哈克南的名誉已被玷污，他的姓氏被改为巴特勒。

后来到了泽维尔的孙子阿布鲁德·哈克南，佛力安告诉了他真相，而他也将姓氏改回哈克南并且誓言为祖父恢复名誉。

战争末期，人类节节胜利。机器人最后做出孤注一掷的举动，威胁人类如果发动总攻击，他们要炸死手中的百万人质。

当时佛力安·厄崔迪已经负责掌管人类所有部队的指挥权，阿布鲁德·哈克南则是萨多卡军官（就是电影中的皇家卫队，御林军）。而佛力安强调自己绝不接受威胁，攻击行动将照常进行。但是阿布鲁德希望拯救那些人质的性命，最后，他“黑”了部队指挥系统并逃离军营，想按照自己的计划行事。

基于某种原因，机器人最后并没有杀死那些人质。佛力安对阿布鲁德的举动相当愤怒，除了剥夺阿布鲁德一切军职并以懦弱之名处以流放。阿布鲁德则指责佛力安为了争取所谓的个人荣耀草菅人命。

就这样，厄崔迪家族和哈克南家族的关系彻底破裂。阿布鲁德·哈克南和其妻在流亡途中因病去世，他的后代们则不断诅咒厄崔迪家族。但哈克南家族的名誉却没有机会恢复了。这就是《沙丘》中两大家族成为死敌的由来。

圣战之后，人类最终击败机器人兵团，并制定了一条被称为《奥兰治天主教圣经》中的戒律：“尔不得制造映象人之意识的机器。（Thou shalt not make a machine in the likeness of a human mind．）”

这成为一条绝对原则：“人不能被取代”。

02

人工智能真的会威胁人类吗？

巴特勒圣战，实际上是由于该家族的一名少女而得名。

此前，人类与AI机器之间的冲突持续了近1000年，直到在姐妹会中一位圣女贞德·巴特勒的带领下，并经过两代人差不多92年的战争，最终推翻了机器统治，并确立了“人不能被取代”的最高法则。

所以，整个《沙丘》宇宙中，在任何可能的地方都会用人类替代品取代技术，例如，训练人类像计算机一样处理和思考，成为“门泰特”，从而取代AI。比如，星际旅行的“领航员”。

实际上，《沙丘》给我们的启示是：人类肆无忌惮地使用人工智能，极度依赖智能科技，最终，机械智慧的拥有者又会通过“机械本身”奴役自然人类。

那么，除了那些对于现实的隐喻，我们还要问的是，“巴特勒圣战”真的会发生吗？通过AI的机械暴力，人类会被奴役吗？

比如，现在的人类已经在机械和算法的帮助下，省去了大量的麻烦，但同时，人类的核心能力也在退化着：

由于每天开车，人类的跑跳、腿部的肌肉力量正严重下滑，甚至身体素质一代不如一代。我们的祖先能轻松攀岩，肌肉线条非常优美，现在肥胖却伴随着我们着几代人……

更需要我们警惕的是，现在的各种人工智能算法（AI算法），代替人类思考、记忆、判断等等，碎片化的时代也渐渐地让我们人类的大脑开始被“封印”。

而《沙丘》除了让导演维伦纽瓦再次证明自己驾驭科幻题材作品的能力，也证明了人脑的强大可以穿越宇宙空间和时间。

被我们忽视的人脑，到底有多强大呢？

通过对人脑的研究，21世纪最伟大的未来学家和思想家雷·库兹韦尔发现，人的大脑记忆是层级结构，有3亿多个“模式识别器”，也就是参与学习、感知的基本单元“皮质柱”，包含大约100个神经元的集合。换句话说，就是300亿个神经元。

无疑，大脑是超级复杂的。这也是人工智能通过图灵测试的一个巨大的阻碍。但他也提出了惊人的预言，“2029年，新一代智能机将通过图灵测试，非生物意义上的人将在这一年出现。”2045年，“奇点”将会出现。

按照库兹韦尔的理解，技术演进的速度要比生物进化的速度快100万倍。毫无疑问，人工智能将导致“智能爆炸”。根据“加速回报定律”，21世纪末，人类将能创造出“无极限计算”。

或许，《沙丘》的战争只存于科幻世界中，现有的人工智能，还对人类构不成威胁。不过，像霍金和马斯克这样的精英们，都在对即将加速到来的“奇点”忧心忡忡。

人类如何能维护本物种的繁衍生存，又如何降低对机器长期过度的依赖？

显然，当人类和AI机械真正爆发战争时，一定会非常“暗黑”，这在很多科幻电影中都有所呈现。毕竟，奴役者和被奴役者的战争，会让人类的优雅和美丽荡然无存，迎来充满暴虐和战争的黑暗时代。

我们不知道未来会不会朝着《沙丘》的史前设定方向走，但是，人类之所以伟大，在于我们懂得反思，能够不断地扩展自己的能力，正如《沙丘》中保罗通过神秘的香料，最大限度地激发出人类的终极潜能。所以，“人类啊，成为你自己！”还是可以做到的吧。