“那,您认为们现在应该做什呢?卡尔文博士。”
“下次不能再让它作出这种虚假反应。们将重复这个试验,但要增加些东西——在们人和机器人之间安装上能电死这些内斯待型机器人高压电线。电线多放些,使得它们没法从上面跳越过去。而且事先要告诉机器人,碰上电线就会死。”
“别说!”勃格特突然恶狠狠地对她喊道,“反对这个办法。们不能为找出第十号内斯特,而把价值200万元机器人电死。总还会有别办法嘛。”
“您有把握吗?您连点办法也没找到。无论怎说,这不是要电死那个问题。们可以安上继电器。当重物压上去时,继电器就会切断电源。如果机器人把自己重量压上去时,继电器就会切断电源。如果机器人把自己重量压到上面,它就不会死。但是这点事先不能让它们知道,您明白吗?”
将军眼睛里闪出希望光芒。他问:“那能行吗?”
时间会推迟。”
“但是它没有这样?”
“恐怕是没有。”
“那,们没有什进展喽,”将军带着沮丧表情仰靠在椅子里,“你们到这里已经五天。”
这时,苏珊走进来,砰声关上门。“皮特,把您图表拿开”她叫道,您是知道,它们不说明任何问题。”
“应该能行。这种情况下,第十号内斯特将会留在原位。如果是命令它去碰电线,它会死。因为关于必须执行命令第二定律要优先于关于要保存自己第三定律。但是,并没有人命令它去那样做它将只按自己意志办。其它机器人也将是按自己意志办。对其它机器人来讲,关于人安全这第定律将驱使它们去死。尽管没有命令它们。但是,们这个第十号内斯特则不然。由于第定律已不完整,再加上没有接到要那样去做命令,第三守律,即:要保存自己,将成为最首要起作用因素。因此,它没有其它选择,只有留在自己位置上。这不是被迫反应。”
“那,今天晚上能做吗?”
“今天晚上可以,”心理学家说,“如果电线能及时安装上话。现在去告
当柯尔纳欠起身子迎接她时,她不耐烦地嘟哦几声,然后接着说:“们必须尽快地再试试别。不喜欢现在这种状况。”
勃格特和将军交换个顺从眼神,问道:“出什差错吗?”
“您指是特别差错吗?那倒没有。不过,不喜欢让第十号内斯特继续躲避们。这太糟糕。这只能满足它那已经膨胀优越感。恐怕,它动机不再只是遵从命令。想,这不如说是它神经病似竭力想以机智胜人。这是种病态、危险状况。皮株求您事,您做吗?您是否已把想要,修改机器人NS-2型几点不稳定因素给计算出来?”
“正在进行。”数学家毫无兴趣地说。
她面带温色地瞪他会儿,然后转向柯尔纳将军:“将军,第十号内斯特已确切知道们在于什。它无须在这个试验中上们钩。尤其在第次试验之后,它已看出,没有真正危险在威胁们人。其它机器人是不得不那样做;而它却是精心地装出这种反应。”
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。