“说有理,”贝莱说,“只是个地球人,对机器人可以说是无所知。刚刚提那些只是举例说明而已。如果换作你们索拉利人,下达命令方法定更微妙,效果也更好,很确定这点。”
李比可能根本没听贝莱在说什。他只管大声说:“如果机器人会受到人类操纵而伤害人类,这只表示们必须再扩张机器人正电子脑。也许
“有个人会,而且他已经下。谋杀古鲁厄方式定就是这样,想你已经听说这件事。”
“在索拉利世界,”李比喃喃说道,“发生任何事大家都会知道。”
“那你定知道,古鲁厄是在餐桌上当着和奥罗拉世界同事奥利瓦先生面被毒害。你能说出别方法使毒药进入古鲁厄嘴里吗?当时在古鲁厄业地上没有其他人类。你身为索拉利人,应该会同意这点。”
“又不是侦探,有什好同意?”
“已经向你提供个看法,想知道这个看法可不可行,想知道两个机器人可不可能分别执行种原本各自独立且无害工作,但凑在起结果却造成谋杀案。你是专家,李比博士,这到底可不可能?”
让们来假设种情况,假设有人对个机器人说:‘你将这种液体倒点在某地某杯牛奶里。这种液体是无害,只想知道它对牛奶会有什作用,等知道,这杯牛奶就会被倒掉。你做完这件事以后,立刻忘它。’”
李比仍然愤怒地皱着眉头,没有出声。
贝莱继续说:“如果命令机器人把种不明液体倒进牛奶,然后把这杯牛奶拿给个人喝,第法则会迫使机器人问:‘这是什液体?会不会伤害人类?’就算向他保证这种液体是无害,机器人也可能因为第法则而犹豫,拒绝把这杯牛奶拿给人喝。可是,如果跟他说这杯牛奶要倒掉,这就和第法则无关,如此来,机器人岂不是肯定会听命令去做吗?”
李比怒视着他。
贝莱说:“现在,你再想想,原本已经有个机器人先把不明液体倒进牛奶里;另个机器人并不知道牛奶被动手脚,于是他完全无辜地将牛奶拿给人喝,然后,这个人就死。”
李比被逼得有点没办法:“可能。”他声音低得几乎听不见。
贝莱说:“那就好。第法则原来也不过如此。”
李比望着贝莱。他那下垂眼睑缓缓抽动两下,直交互紧握双手松开,但手指仍维持着原来模样,好像依旧和只不存在手交握着似。接着,他把手心向下,放到膝盖上,直到此时,他手指才真正放松。
贝莱心不在焉地望着他这些动作。
李比说:“你看法在理论上是可能,但只有在理论上才可能!你不要如此轻易就摒弃第法则,地球人。你必须很巧妙地下达命令,才能避开第法则限制。”
“不!”李比大叫。
“为什不?这两种工作本身都是无害,只有凑在起时才会杀人。你认为不可能发生这种事吗?”
“凶手应该是这个下命令人!”李比吼道。
“如果你要诡辩话,你说没错。可是这两个机器人却是直接凶手,是凶案行凶工具。”
“没有人会下这种命令。”
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。