“好吧,那,”勃格特嚷起来,“请您给指出修改机器人能伤害人个途径,不管它是怎样地被冒犯,也不管它多想证明自己优越性。”
“如果告诉您种途径,您能不声张出去吗?”
“是。”
他们隔着桌子互相靠拢,用悻悻眼光相互盯着。
心理学家说:“如果个修改
地靠在椅背上,“它们没有任何不正常。如果说有什不正常话,那就是它们超乎般地友好。它们回答问题,并为自己知识丰富而洋洋自得——除新来两个它们还没来得及学习辐射物理学。对这里些专业所表现出来无知,引起它们善意嘲笑。”他耸耸肩,接着说:“想,这就是构成这里部分技师对它们反感些主要原因。这些机器人太喜欢卖弄自己丰富知识。”
“您不能稍微试试着普兰南反应吗?看看它们智力装置比出厂时有变化没有,有什退化。”
“还没有,但是要试,”他竖起根纤细手指,对着她摇摇。“您变得沉不住气,苏珊。不明白,您干嘛要过分渲染。它门实质上是无害。”
“它们吗?”卡尔文生气,“它们?难道您不知道它们当中个在撒谎?在刚才讯问这六十三个机器人当中,有个就故意对撒谎,尽管已下最严格命令要讲真话。所表现出来这种反常现象简直太突出,也太可怕。”
皮特咬咬呀。他说:“根本不是这样。内斯特十号接到‘躲到边去’命令。这个命令是由最有权命令它人发出,而且是以最紧急方式发出来。您既不能通过更高紧急方式,也不能运用更高级指挥权来把这个命令抵销掉。自然,这个机器人将尽力坚持执行他命令。实际上,客观讲,非常赞赏它机灵。个机器人藏到群和自己想似机器人当中,难道还有比这更好躲到边去方法吗?”
“是啊,您会赞赏这点。发现,您觉得这很逗乐,皮特。您觉得逗乐,却对事态缺乏解到可怕程度。您是个机器人专家吗,皮特?那些机器人对它们视之为优越性东西很重视。您自己刚才也讲到这些。它们下意识地感受到人们比它们低等,感到保护们能对付它们第定律是有缺陷。它们是不可靠。而且们这个年轻人用厌恶、傲慢和鄙夷腔调命令个机器人离开他,躲到边去。那个机器人必须服从命令。但是,它会有种下意识反感;对它来讲,证明它高人筹,这比以前更重要。尽管它遭到种种可怕咒骂。这样,第定律所剩下那部分就不够用。这点变得非常重要。”
“苏珊,在地球上或太阳系任何地方,机器人怎会懂得骂人话含意呢?输入它大脑东西里边没有污秽语言呀!”
“原始输入并不代表切,”卡尔文粗,bao地对他说,“机器人有学习能力。你……你这个笨……”
勃格特明白她是真难以克制自己。
卡尔文急匆匆地继续说:“难道您不认为,它能分辨所用语调和字眼并不是恭维话吗?您不认为,它以前听到有人用过,并且注意到是什样场合用过这种字眼吗?”
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。