《裸阳》(62)

  贝莱望着自己的指尖,说:“我想,机器人可以胜任单纯的工作,一件对人类无害的工作,没错吧?”

 

  “只要你命令他去做。”李比回答道。

 

  “对,当然,这个机器人会听命行事的。你也可以命令另外一个机器人,他同样听命行事。也就是说,他们都能听命执行某件对人类无害的工作?”

 

  “对。”

 

  “但如果两件完全无害的工作,凑在一起却等于杀人呢?”

 

  “什么?”李比的脸皱成一团。

 

  “我要你以专家的身份发表意见,”贝莱说,“让我们来假设一种情况,假设有人对一个机器人说:‘你将这种液体倒一点在某地的某一杯牛奶里。这种液体是无害的,我只想知道它对牛奶会有什么作用,等我知道了,这杯牛奶就会被倒掉。你做完这件事以后,立刻忘了它。’”

 

  李比仍然愤怒地皱着眉头,没有出声。

 

  贝莱继续说:“如果我命令机器人把一种不明液体倒进牛奶,然后把这杯牛奶拿给一个人喝,第一法则会迫使机器人问:‘这是什么液体?会不会伤害人类?’就算我向他保证这种液体是无害的,机器人也可能因为第一法则而犹豫,拒绝把这杯牛奶拿给人喝。可是,如果我跟他说这杯牛奶要倒掉,这就和第一法则无关了,如此一来,机器人岂不是肯定会听我的命令去做吗?”

 

  李比怒视着他。

 

  贝莱说:“现在,你再想想,原本已经有个机器人先把不明液体倒进牛奶里;另一个机器人并不知道牛奶被动了手脚,于是他完全无辜地将牛奶拿给人喝,然后,这个人就死了。”

 

  “不!”李比大叫。

 

  “为什么不?这两种工作本身都是无害的,只有凑在一起时才会杀人。你认为不可能发生这种事吗?”

 

  “凶手应该是这个下命令的人!”李比吼道。

 

  “如果你要诡辩的话,你说的没错。可是这两个机器人却是直接的凶手,是凶案的行凶工具。”

 

  “没有人会下这种命令的。”

 

  “有一个人会,而且他已经下了。谋杀古鲁厄的方式一定就是这样,我想你已经听说这件事了。”

 

  “在索拉利世界,”李比喃喃说道,“发生任何事大家都会知道。”

 

  “那你一定知道,古鲁厄是在餐桌上当着我和我奥罗拉世界的同事奥利瓦先生的面被毒害的。你能说出别的方法使毒药进入古鲁厄的嘴里吗?当时在古鲁厄的业地上没有其他人类。你身为索拉利人,应该会同意这一点。”

 

  “我又不是侦探,有什么好同意的?”

 

  “我已经向你提供了一个看法,我想知道这个看法可不可行,我想知道两个机器人可不可能分别执行一种原本各自独立且无害的工作,但凑在一起的结果却造成谋杀案。你是专家,李比博士,这到底可不可能?”

 

  李比被逼得有点没办法了:“可能。”他的声音低得几乎听不见。

 

  贝莱说:“那就好。第一法则原来也不过如此。”

 

  李比望着贝莱。他那下垂的眼睑缓缓抽动了两下,一直交互紧握的双手松开了,但手指仍维持着原来的模样,好像依旧和一只不存在的手交握着似的。接着,他把手心向下,放到膝盖上,直到此时,他的手指才真正放松。

 

  贝莱心不在焉地望着他这些动作。

 

  李比说:“你的看法在理论上是可能的,但只有在理论上才可能!你不要如此轻易就摒弃第一法则,地球人。你必须很巧妙地下达命令,才能避开第一法则的限制。”

 

  “说的有理,”贝莱说,“我只是一个地球人,对机器人可以说是一无所知。我刚刚提的那些只是举例说明而已。如果换作你们索拉利人,下达命令的方法一定更微妙,效果也更好,我很确定这一点。”

 

  李比可能根本没听贝莱在说什么。他只管大声说:“如果机器人会受到人类操纵而伤害人类,这只表示我们必须再扩张机器人的正电子脑。也许有人会说,我们应该让人类变得更善良,不会做这种事,但这是不可能的。所以我们才要让机器人更进步。

 

  “我们不停地在进步,我们的机器人变化越来越多,更专业、能力更强,而且比上一个世纪更不具伤害性。今后的一个世纪里,我们还会更进步,也许有一天,我们可以把正电子脑直接置入太空船的仪表板内,那我们就不需要机器人了。这是一种专业化,但我们也可以使单一机器人兼具多用途的功能,我们甚至可以制造一种能更换肢体的机器人,让它们做各式各样的工作。为什么不?如果我们”