“慢着,”裴洛拉特说:“你可将人类整体转变成单有机体,例如盖娅。”
“这正是试图进行工作,阁下,盖娅创建就是手策划。假如能让人类整体形成单有机体,它就会变成具体对象,这样便有办法处理。然而,创造个超有机体工作,没有想像中那简单。首先,除非每个人将这个超有机体看得比自身更着,否则绝对不可能成功。因此,必须寻找个适切心灵模型,找很久之后,才想到机器人法则。”
“啊,那盖娅人都是机器人。打从开始就怀疑这点。”
“这件事情,你怀疑并不正确,阁下。他们都是人类,不过在他们大脑中,根深蒂固地烙印着等同于机器人法则概念。他们必须尊重生命,真正尊重——即使做到这点,依然存在个严着缺陷。个仅有人类超有机体并不稳定,根本无从建立,其他动物必须加进来——接着是植物,跟着是无机世界。真正稳定最小超有机体,其实就是个完整世界,唯有世界才足够庞大、足够复杂,得以拥有稳定生态。花很久时间才解这个道理,而直到最近个世纪,盖娅才完全发展成功,准备向盖娅星系目标迈进。纵使如此,那也需要很长时间。不
,否则机器人必须服从人类命令。第三法则是:在不违背第法则及第二法则情况下,机器人必须保护自身存在。当然,是用近似语言对你们叙述这些法则,实际上,那是们正电子脑回路中复杂数学组态。”
“你发觉这些法则碍手碍脚吗?”
“必定如此,阁下。第法则毫无转圆余地,几乎全然禁止使用精神力量。在处理银河问题过程中,不太可能每步都不会造成伤害,总是有些人或许多人因而受苦,因此身为个机器人,必须选择伤害最小做法。然而,由于情势过于复杂,必须花许多时间才能做出抉择,即使有决定,也不可能绝对确定。”
“能解。”崔维兹说。
“在漫长银河历史中,”丹尼尔说:“天灾人祸从未间断,直试图减轻这些灾祸造成危害。某些时候,就某种水平而言,可算是有些成就,但如果你熟悉你们银河历史,就会知道成功例子不多,影响也不够深远。”
“这点还知道。”崔维兹带着抹苦笑说。
“和吉斯卡悟出另个机器人法则,它甚至于驾第法则之上。们将它称为‘第零法则’,因为想不到有什更合适名称。第零法则内容是:机器人不得伤害人类整体,也不得因为不采取行动而使人类整体受到伤害。这自然意味着第法则必须修正为:除非违背第零法则,机器人不得伤害人类,也不得因为不采取行动而使人类受到伤害。而第二、第三法则也必须做类似修正。”
崔维兹皱起眉头。“但对于人类整体而言,何者有害,何者无害,你又如何决定?”
“点都没错,阁下。”丹尼尔说:“理论上,第零法则可以解决们问题;实际上,们永远无法做出决定。人类是个具体对象,对个人构成伤害不难估量判断;人类整体则是抽象概念,们应该如何对待处理呢?”
“不知道。”崔维兹说。
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。