机器人学三大法则：

一、机器人不得伤害人类，或因不作为而使人类受到伤害。

二、除非违背第一法则，机器人必须服从人类的命令。

三、在不违背第一及第二法则的情况下，机器人必须保护自己。

一

凯斯・哈里曼在美国机器人与机械人公司已经当了十二年的研究部主任，现在，他觉得根本无法确定自己做得是否正确。他伸出舌尖，舔了舔肥厚却颇为苍白的嘴唇。伟大的苏珊・凯文的全息像正毫无笑容地俯视他，那张脸孔看来似乎从未像今天这么冷峻。

平时，他会遮起这位历史上最伟大的机器人学家，因为她使他神经紧张。（他试图将这个影像想成“它”，但从未真正成功。）这回他不太敢那么做，于是，她那早已作古的目光遂刺穿他的脸颊。

他必须走出的那一步，既可怕又自贬身价。

坐在他对面的是乔治第十，他显得分外平静。无论是哈里曼明显的不安，或是上方壁龛中那位机器人学守护神的明亮影像，皆未对他造成丝毫影响。

哈里曼说：“真的，乔治，我们还没有机会好好谈谈这个问题。你和我们在一起还没多久，我一直找不到好机会跟你独处。但是现在，我希望做一次详尽的讨论。”

“我万分乐意这样做，”乔治说，“待在美国机器人公司这段期间，我已经推测到这个危机和三大法则有关。”

“是的。当然，你知道三大法则是什么。”

“我知道。”

“是的，我确定你知道。但让我们再深入些，考虑那个真正基本的问题。过去两个世纪，或许我可以说，美国机器人公司的成就非凡，但我们始终未能说服人类接受机器人。我们制造的机器人，只能用在人力无法胜任的工作场所，或是人类觉得太过危险的环境中。机器人一向主要是在太空工作，这限制了我们本来能做到的事。”

“不用说，”乔治第十道，“那是个很宽松的限制，在这个限制内，美国机器人公司仍能大展宏图。”

“并非如此，这有两个原因。首先，我们的活动范围无可避免地逐渐缩小。比方说，随着月球殖民地变得越来越世故，它开始要求减少机器人的数量。我们预料在未来几年内，月球上便会禁止使用机器人。在人类殖民的各个世界上，这件事迟早都会重演。第二点，地球上若不准使用机器人，就谈不上真正的宏图。我们美国机器人公司的人坚决相信，若要保持文明的进步，人类一定需要机器人，必须学着跟这些外型酷似他们的机械共存共荣。”

“现在不是吗？哈里曼先生，你的书桌上有个电脑输入端，据我了解，它连接到本机构的万用自动机上。电脑是一种固定的机器人，是没装上身体的机器人脑……”

“没错，但那也有限制。人类使用的电脑被一步步专门化，以避免它们获得太像人类的智慧。一世纪前，借着我们称为机体的伟大电脑，我们在人工智慧上有长足的进展。后来，那些机体自动自发限制了自己的活动。在它们解决了威胁人类社会的生态问题之后，它们就从这个世界逐渐淡出。根据它们的推断，它们若是继续存在，将会扮演人类的拐杖这个角色。由于它们觉得这会有害人类，因此根据第一法则，它们对自己作出这种判决。”

“它们那样做不对吗？”

“我的看法是，不对。他们那样做，反而强化了人类的科学怪人情结；使人类内心充满畏惧，生怕哪个人造人会与自己的创造者为敌。人类害怕有朝一日被机器人取代。”

“你自己不害怕吗？”

“我比一般人清楚。只要有机器人学三大法则存在，它们就做不到。它们能充当人类的伙伴；在试图探索与善用自然律的奋斗中，它们能和人类并肩作战，使两者共享人类无法单独获致的成就。但在这个过程中，机器人始终扮演仆人的角色。”

“但若是过去两个世纪以来，三大法则证明了它们能规范机器人的行为，人类对机器人的疑虑又是从哪里来的？”

“这个嘛，”哈里曼使劲搔了搔头，使逐渐花白的头发翘起好几簇，“当然大多出于迷信。不幸的是，也牵涉到反机器人分子煽动的一些情结。”

“跟三大法则有关吗？”

“是的，尤其是第二法则。第三法则没有问题，你懂吧，它是普适的。机器人必须随时准备为人类牺牲自己，为任何人类。”

“当然。”乔治第十说。

“第一法则或许不算很理想，因为我们总是可以想象一种情况：有甲、乙两个互斥的行动，某个机器人必须采取其中之一，但两者皆会导致人类受到伤害。因此，机器人必须迅速决定哪个行动导致的伤害较小。要为机器人造出一组正子径路，使那种选择成为可能，不是一件简单的事。如果甲行动会导致一位有天分的年轻艺术家受到伤害，乙行动则会导致五位平凡的老人受到同等伤害，那么该选择哪个行动呢？”

“甲行动，”乔治第十说，“一人受到的伤害小于五人受到的伤害。”

“是的，机器人一向被设计得这么判定。指望机器人对抽象的价值，诸如天分、智慧、对社会有用的程度作出判断，似乎总是不切实际的。那会延迟决定的速度，使机器人慢到相当于停摆的地步。所以我们一律以数量为准。所幸我们可以指望，让机器人必须作这种决定的危机十分罕见……不过，这就把话题带到了第二法则上。”

“服从法则？”

“没错。服从的必要性是不断的：一个机器人也许有长达二十年的寿命，从头到尾不必为避免人类受到伤害而迅速行动，或发现自己面对毁灭的危险。然而，在这段期间，它会不断服从命令……谁的命令？”

“人类的命令。”

“任何人类吗？你如何判别人类，以决定是否服从？人算什么，汝竟顾念他，乔治？”

乔治迟疑不语。

哈里曼赶紧说：“那是《圣经》上的话，不过无关紧要。我的意思是，下令者若是小孩，或是白痴，或是罪犯，或是人格完美的知识分子，但他偏偏是个外行，因此不知道他的命令会导致不良的后果，那时机器人还必须服从吗？又如果两个人下的命令互相冲突，机器人该服从哪一个？”

“两百年来，”乔治第十说，“这些问题没有发生过、没有被解决吗？”

“没有。”哈里曼猛力摇了摇头，“我们始终没什么机会，因为我们的机器人一向只用在外太空的专门环境中，跟它们接触的人都是本行的专家。那里没有小孩，没有白痴，没有罪犯，没有无知的好好先生。即使如此，偶尔某些愚蠢或仅是有欠考虑的命令，也曾经带来灾害。我们可以包容那种灾害，因为它们发生在专门的、局限的环境中。然而，在地球上，机器人一定得具有判断力。那些反对机器人的人如此坚持，而，真他妈的，他们说得没错。”

“那么，你们必须在正子脑中加入判断的能力。”

“正是如此。我们已经开始复制的JG型，这类机器人能根据每个人的性别、年龄、社会地位、专业地位、聪明才智、成熟度、社会责任等等作出评量。”

“那会对三大法则造成何种影响？”

“第三法则完全不受影响。即使是最珍贵的机器人，也必须为最无用的人类自我牺牲，这点毫无商量的余地。至于第一法则，仅在任何行动都会造成伤害时才受影响。只要是有时间、有根据，机器人就必须同时考虑人类的质与量，但这种情况不会很常见。修正得最深的将是第二法则，因为可能的服从行为一定都牵涉到判断。除非第一法则同时介入，否则机器人会服从得比较慢，但会服从得更理性。”

“可是需要作的判断非常复杂。”

“非常复杂！为了作出这种判断，最初几个型号的反应慢到瘫痪的程度。我们对后来的型号作了改良，代价却是引进过多的径路，使正子脑变得笨拙无比。然而，在最新的几个机型中，我想我们得到所要的了。对于人类的身价和命令的价值，这种机器人不必作出立即判断。它一开始会像任何普通机器人一样，服从所有人类的命令，然后它会逐渐学习。这种机器人会成长、学习和成熟。最初它相当于一个儿童，必须受到不断的监督。然而，当它渐渐长大时，便可在无人监督的情况下，逐步融入地球的社会。最后，它将成为那个社会的正式成员。”

“这样一来，反机器人分子的反对当然迎刃而解。”

“不，”哈里曼气呼呼地说，“现在他们又提出别的异议，他们不肯接受那些判断。他们说，机器人无权判定某某人是次等人类。如果机器人将甲的命令置于乙的之上，就等于判定乙没有甲那么重要，乙的人权就受到侵犯了。”

“这个问题有什么解决之道？”

“没有，我准备放弃了。”

“喔。”

“我仅仅指我自己……可是，我要向你求助，乔治。”

“向我？”乔治第十的声音仍旧保持平板，虽然里面有轻微的惊讶，但他外在的表现并未受到影响，“为什么向我求助？”

“因为你不是人，”哈里曼以紧绷的声音说，“我告诉过你，我要机器人成为人类的伙伴。我自己则要你做我的伙伴。”

乔治第十举起双手，左右摊开，手掌向前，做出个古怪的人类手势。“我能做什么？”

“或许在你看来，乔治，你似乎什么也不能做。你不久前才出厂，你还是个孩子。为了留下成长空间，我们把你设计得并未溢满原始资料——所以我必须如此详尽地对你解释这个情况。但你的心智会成长，你将有办法从非人的角度探讨这个问题。在我束手无策的地方，你从你自己的另一个角度，也许能看出一个答案来。”

乔治第十说：“我的脑子是人类设计的，它又怎能是非人的呢？”

“你是JG系列中最新的一个，乔治。在我们设计过的所有正子脑中，你的脑子最为复杂；就某些方面而言，甚至比当年那些巨大的机体更复杂、更精巧。它是开放式的，从人类的基础出发，可以——不，将会——朝任何方向成长。虽然始终保持在不可超越的三大法则界限之内，你却能培养出彻底的非人思考模式。”

“若要理性地探讨这个问题，我对人类知道得够多吗？关于他们的历史？他们的心理？”

“当然不够，但你将尽快学习。”

“会有人帮助我吗，哈里曼先生？”

“不会，这完全是你我之间的秘密，没有其他人知道。你一定不能对任何人提起这个计划，无论是在美国机器人公司里面，或是其他任何地方。”

乔治第十说：“我们在做坏事吗，哈里曼先生，所以你才试图保密？”

“不。但机器人提出的答案不会为人接受，原因正是由于它出自机器人。你想到任何可能的答案，都要直接交给我；如果我觉得它有价值，我自己会把它提出来，没有人会知道它是你的构想。”

“根据你先前告诉我的那些，”乔治第十平静地说，“这是个正确的程序……我何时开始？”

“现在就开始，我会负责为你找来一切必需的胶卷供你扫描。”

一之一

哈里曼独自坐着。待在具有人工照明的办公室中，看不出天色已经开始变暗。自从他将乔治第十送回隔间，留他在那里研究第一批参考资料，不知不觉已经过了三个小时。

现在，只剩下他与苏珊・凯文的幽灵独处。苏珊・凯文，这位杰出的机器人学家，当年几乎独力将正子机器人从一个大玩具，发展成有史以来最精巧、最千变万化的仪器——精巧与千变万化过了头，到了人类出于嫉妒与恐惧，而不敢使用它们的地步。

她去世已超过一世纪。在她那个时代，科学怪人情结的问题已经存在，而她始终未曾解决。事实上，她从未试图解决这个问题，因为当时并没有必要。在她的时代，由于太空探险的需要，机器人学一度蓬勃发展。

正是机器人的成功，降低了人类对它们的需求，使得如今的哈里曼面临着……

可是，苏珊・凯文会转向机器人求助吗？她当然会……

他坐在那里，直到深夜。

二

马克士威・罗伯森是美国机器人公司的大股东，由于持股过半，其实就是该公司的老板。就外型而言，他绝对貌不惊人。他已是个十足的中年人，身材又矮又胖。心烦的时候，他会习惯性地咬着嘴唇的右下角。

然而，跟政府官员打了二十年交道，他早已发展出一套应付他们的办法。他善用以柔克刚、让步、微笑，而且总是设法争取时间。

这种事变得越来越困难，困难的主因则是古纳尔・爱森穆斯这个人。在谈判的灰色地带，从来没有哪个全球环保官像他这样，固守在最难妥协的那一端。偏偏过去一世纪以来，这些环保官的权力仅次于全球行政官。爱森穆斯是首位并非美国土生土长的环保官，虽然绝对无法证明“美国机器人公司”这个古老名称挑起他的敌意，美国机器人公司的成员却个个深信不疑。

曾经有人建议，应该将公司改名为“世界机器人公司”。这个建议绝非今年——或这一代——才出现的，但罗伯森始终不肯答应。这家公司原本是靠美国的资金、美国的头脑与美国的劳力创建的，虽然公司在规模与性质上早已成为世界级企业，但只要他还是老板，他就要用这个名称见证公司的根源。

爱森穆斯是个高个子，有一张长长的苦瓜脸，看起来既粗糙又粗里粗气。虽然他出任该职前从未到过美国，他说的全球语却有浓重的美国腔。

“在我看来这似乎十分明显，罗伯森先生。这点毫无困难。贵公司的产品一向只租不卖，如果月球现在不再需要那些租用的机器人，你们就得负责收回这些产品，把它们安置到别处去。”

“没错，环保官，可是送到哪里去呢？未经政府许可，把它们带回地球是不合法的，而政府已经拒绝这个提议。”

“它们在这儿对你们不会有用，你们可以把它们送到水星或小行星去。”

“我们把它们送到那里做什么？”

爱森穆斯耸了耸肩。“贵公司的聪明人自会想到用处。”

罗伯森摇了摇头。“那将使本公司蒙受巨大的损失。”

“只怕免不了，”爱森穆斯不为所动，“据我了解，贵公司财务状况不佳已有好几年了。”

“主要是因为政府强加的限制，环保官。”

“你必须面对现实，罗伯森先生。你该知道舆论趋势越来越反对机器人。”

“这是错的，环保官。”

“然而，这是真的。把公司清算掉或许才是明智之举。当然，这只是个建议。”

“你的建议具有影响力，环保官。是不是需要我告诉你，一世纪前，我们那些机体解决了生态危机？”

“我确定人类心存感激，但那是很久以前的事。我们现在跟大自然和平共处，不论这样有时可能多不舒服；过去的历史则已经模糊了。”

“你的意思是，我们最近为人类做了什么事？”

“我想我正是这个意思。”

“你当然不能指望我们立即清算，否则必定带来重大损失。我们需要时间。”

“多少时间？”

“你能给我们多少？”

“这不是我能决定的。”

罗伯森轻声道：“这里没有别人，你我不必演戏。你能给我们多少时间？”

从爱森穆斯的表情看来，他心中正在暗自盘算。“我想你能指望有两年时间。我坦白跟你讲，如果到时候你自己不采取任何行动，全球政府打算接管贵公司，帮你把它结束掉。除非舆论有重大转变，但我十分怀疑……”说到这里，他摇了摇头。

“那么，给我两年。”罗伯森轻声道。

二之一

罗伯森独自坐着。他的沉思没有任何目的，早已浸淫在回忆中。罗伯森家族领导这个公司前后已有四代，但这四代老板都不是机器人学家。美国机器人公司能有今天，靠的是像兰宁与玻格特这种人，而其中最重要的功臣，最最重要的，则非苏珊・凯文莫属。不过，四位罗伯森当然仍有贡献，他们提供了一个环境，让那些人能一展所长。

假使没有美国机器人公司，二十一世纪会逐步陷入越来越深的灾难中。之所以未发生这种事，是那些机体曾为人类掌舵整整一个世代，带领人类穿越历史的湍流与险滩。

如今由于这个缘故，他得到两年的时间。在这两年间要怎么做，才能克服这些无法克服的人类偏见呢？他不知道。

哈里曼曾满怀希望地提到些新构想，但不愿详述其中的细节。这样也好，反正罗伯森一点也听不懂。

可是哈里曼究竟能做些什么？为消解人类对仿制品的强烈厌恶，有什么人曾经做过什么事吗？没有……

罗伯森滑入半睡半醒的状态，未曾冒出任何灵感。

三

哈里曼说：“现在你掌握了所有的资料，乔治第十。对这个问题派得上用场的一切，我能想到的都已经给了你。单就资料数量而言，有关人类的种种，包括过去和现在，你的记忆中储藏的资料，已经超过我或任何人类所能拥有的。”

“这很有可能。”

“照你自己看，你还需要什么别的吗？”

“单就资料而言，我看不出明显的缺失。或许在边缘地带，还会有想不到的需要，我不敢说。但无论我搜集的资料多么广泛，这种可能性仍然存在。”

“没错。我们也没时间永远搜集资料。罗伯森曾告诉我，我们只有两年可用，而现在已经过了八分之一。你能做些什么建议吗？”

“此时此刻，哈里曼先生，我没有任何建议。我必须先评估那些资料，而在这方面，我可以用个帮手。”

“用我？”

“不，尤其不能用你。你是个不折不扣的人类，无论你说什么，多少都会带有命令的力量，那会抑制我的思考。同理，其他人也一律不行，更何况你禁止我跟任何人沟通。”

“可是这样的话，乔治，你要什么样的帮手呢？”

“另一个机器人，哈里曼先生。”

“什么另一个机器人？”

“JG系列制造出来的不止我一个。我是第十号，JG10。”

“前面那些都没用，都是实验型……”

“哈里曼先生，乔治第九还在。”

“好吧，但他会有什么用呢？除了有些缺陷外，他和你非常相似，而你远比他多才多艺。”

“这点我确定。”说着，乔治第十严肃地点了点头，“然而，一旦我创造出一条思路，仅仅由于是我创造的，它就成了我的心血，我发觉自己难以割舍。如果在发展出一条思路后，我能转述给乔治第九，他接受的这个思路就不是他自己创造的。因此他会以毫无成见的眼光考量它，或许便能看出我看不出的缺点和疏忽。”

哈里曼微微一笑。“换句话说，两个头脑强过一个头脑。是吗，乔治？”

“如果说，哈里曼先生，你是指各有一个头脑的两个个体，这话就没错。”

“正是。你还要些其他什么吗？”

“我还要些胶卷以外的东西。有关人类和他们的世界，我已经阅览过许许多多资料。我在美国机器人公司这儿见过人类，能以直接的感觉印象验证我对阅览结果的诠释。可是真实世界不然，我从未见过真实世界。而我的阅历足以告诉我，我周围的环境根本无法代表它。我希望亲眼看看。”

“真实世界？”一时之间，哈里曼似乎被这个想法的罪大恶极吓了一跳，“你当然不是建议我把你带出美国机器人公司吧？”

“不，那正是我的建议。”

“无论什么时候，那都是不合法的。在如今的舆论趋势下，那会是个要命的举动。”

“假如我们被人发现，没错。但我不是建议你带我到某个城市，甚至不是某间人类的住所。我希望看看没有人迹的户外景观。”

“那也是违法的。”

“我们被抓到才会违法。我们需要被抓到吗？”

哈里曼问：“这有多么必要，乔治？”

“我不敢说，但我觉得会有用。”

“你心中有什么构想吗？”

乔治第十似乎犹豫起来。“我不敢说。在我看来，若能缩减某些不确定的范围，那我心中或许就会有些构想。”

“好吧，让我考虑一下。与此同时，我会把乔治第九借出来，安排你们单独使用一个隔间。这件事，至少我能毫无困难地办到。”

三之一

乔治第十独自坐着。

他暂且接受某些陈述，将它们熔成一炉，从中得出一个结论。他一遍又一遍重复这个程序，从那些结论建立其他的陈述。他检验那些新的陈述，发现矛盾随即舍弃；倘若没有矛盾，就暂且进一步接受。

对于得到的那些结论，他从未感到惊奇、讶异或满意；只是在心中加上些正负号。

四

甚至在他们静悄悄地垂直降落到罗伯森氏属地后，哈里曼的紧张情绪也没有明显放松。

批准使用这架“动力翼”的命令是罗伯森亲自副署的。这架垂直与水平运动同样灵活的无声飞机，体积虽然不大，却足以承载哈里曼、乔治第十，以及不可或缺的驾驶员。

（与众多其他发明一样，动力翼的问世也是拜质子堆之赐。质子堆则是机体催化的发明之一，其特点是以极少剂量提供零污染的能源。其后，再也没有任何发明对人类的舒适生活作出同等贡献——想到这里，哈里曼撅起嘴来——然而，美国机器人公司并未因此赢得感激。）

在这趟旅程中，从美国机器人公司到罗伯森氏属地的飞行是较棘手的部分。假如他们中途被拦下来，飞机上的机器人会带来极大的麻烦，而回程也是一样。至于属地本身，他们可以辩称——一定可以辩称——是属于美国机器人公司的产业，在适当的监督下，机器人应该可以待在那里。

驾驶员回过头去，目光落在乔治第十身上，随即谨慎地移开。“你到底要不要下去，哈里曼先生？”

“要。”

“它也要吗？”

“喔，是的。”然后，他带着一点点讽刺说，“我不会让你跟他独处。”

乔治第十首先下机，哈里曼跟在他后面。他们降落的地点是动力翼机场，附近不远处有一座相当美丽的花园。哈里曼不禁怀疑罗伯森是否不顾环保规约，擅自使用保幼激素控制昆虫的生长。

“来吧，乔治。”哈里曼说，“让我带你看看。”

他们一同走向那座花园。

乔治说：“有点像我想象中的模样。我的眼睛不擅于侦测波长差异，所以或许无法单靠这点来辨识不同的物件。”

“我相信你并未因为色盲而难过。我们需要把太多的正子径路拨给你的判断力，无法为色觉腾出任何一条。将来——假如还有将来——”

“我了解，哈里曼先生。但仍有足够的差异，使我看出此地有许多不同形态的植物。”

“这点毫无疑问，至少好几十种。”

“就生物学而言，每一种都和人类地位相同。”

“是的，每一种都是一种生物。在这个世界上，总共有几百万种不同的生物。”

“人类只是其中之一。”

“然而人类认为自己是最重要的。”

“在我眼中也是，哈里曼先生。但我是就生物学观点而言。”

“我了解。”

“那么，从众多生命形态看来，生命复杂得不可思议。”

“是的，乔治，那正是问题的关键。人类为自身的欲望和舒适而采取的行动，会影响到复杂的生命整体，也就是生态；人类的短期利益有可能带来长期的损失。机体曾教导我们如何建立一个尽量避免这点的人类社会，但二十一世纪早期险些发生的大难，使人类对新发明心生疑虑。此外，再加上对机器人特殊的恐惧……”

“我了解，哈里曼先生……那是动物的一例，我可以确定。”

“那是一只松鼠，是许多种松鼠之一。”

那只松鼠迅速摆了摆尾巴，一溜烟似的跑到树后去了。

“而这个，”乔治的手臂飞快挥动了一下，“是个很小的东西。”他将它夹在两指之间凝视良久。

“那是一只昆虫，某种甲虫。甲虫总共有好几千种。”

“每一只甲虫都是活生生的，和那只松鼠、和你自己一样？”

“在整个生态中，它和其他任何生物一样，是个完整的、独立的生物体。此外还有更小的生物体，很多小到看不见的程度。”

“而那是一棵树，对不对？它摸起来硬邦邦的……”

四之一

驾驶员独自坐着。他也想下去伸伸腿，但某种模糊的危机感令他留在动力翼内。假如那个机器人失去控制，他打算立刻起飞。可是倘若它真失去控制，他又如何看得出来？

他曾经见过许多机器人。这是无可避免的事，因为他是罗伯森先生的私人驾驶员。不过，它们一向都是乖乖待在实验室内或仓库中，周围还有好些专家。

没错，哈里曼博士就是专家，据说还是最优秀的一位。但一个机器人不该来到这里；不该在地球上；不该在户外；不该自由行动……他不会冒着丢掉这份好差事的危险，把这件事告诉任何人——但这无论如何是不对的。

五

乔治第十说：“正如我亲眼所见的一切，我阅览过的那些胶卷都很正确。我为你选的那些你都看完了吗，九号？”

“看完了。”乔治第九答道。这两个机器人呆板地坐着，面对面，膝对膝，就像镜里镜外的物与像。哈里曼博士一眼就能分辨他们，因为他十分熟悉两者外形上些微的差异。假如他看不见，可是能跟他们交谈，他仍然能分辨谁是谁，只不过并不太确定，因为乔治第九的反应与乔治第十有点微妙的差别，那是由于后者的正子脑路比前者复杂得多。

“既然如此，”乔治第十说，“我问你几句话，你把你的反应告诉我。首先，人类既畏惧又不信任机器人，因为他们将机器人视为竞争对手。这种事要如何避免？”

“将机器人塑造成非人的另一种模样，”乔治第九说，“以降低竞争的感觉。”

“但机器人本质上就是模仿人类的机器。人类的仿制品若具有非人的外形，很可能会引起恐惧。”

“世上有两百万种生命形态，可从中选取一种和人类外形不同的形体。”

“选取哪一种？”

乔治第九的思考过程无声地进行了大约三秒钟。“找个大到足以容纳正子脑，却不会令人类产生不舒服联想的形体。”

“陆上生物除了大象，其他动物的颅腔都不够容纳正子脑。我没见过大象，但据说非常庞大，因此会吓到人类。你要如何解决这个矛盾？”

“模仿一种小于人类的生命形态，但把它的颅腔加大。”

乔治第十说：“那么，一匹小马，或一只大狗，你看如何？不论马或狗，跟人类相处都已经有很长一段历史。”

“那就好。”

“可是想想——具有正子脑的机器人会模仿人类的智慧。若是马或狗会说话、会像人类一样推理，那么竞争仍然存在。这种意料之外、来自人类视为较低等的生命形态的竞争，可能会令人类更感疑虑、更加气愤。”

乔治第九说：“把正子脑造得简单些，让机器人没有太高的智慧。”

“正子脑的复杂度瓶颈在于三大法则，较简单的正子脑无法容纳完整的三大法则。”

乔治第九立刻说：“不能那样做。”

乔治第十说：“我在这里同样碰到死路。这么说，并非因为我自己的思路和思考模式有何特殊之处。让我们重新开始……在什么样的情况下，第三法则会变得没有必要？”

乔治第九不安地欠了欠身，仿佛这是个既困难又危险的问题。但他仍然答道：“假如某种机器人从来不必身处险境；或者某种机器人很容易替换，不必在乎它会不会被毁掉。”

“而在什么样的情况下，第二法则会变得没有必要？”

乔治第九的声音听来有点嘶哑。“假如某种机器人会对某种刺激自动产生固定反应，而我们又不指望它做任何其他的事，因此始终不必对它下命令。”

“而在什么样的情况下——”乔治第十在此顿了顿，“第一法则会变得没有必要？”

乔治第九顿了更久，然后压低声音说：“假如那个固定反应从来不会对人类构成危险。”

“那么，想象一种正子脑，它仅负责指导对某些刺激作出两三项反应，而且造得又简单又便宜——因而不需要三大法则。它需要多大？”

“一点也不大。它可能重一百克、一克，或是一毫克，视所需反应而定。”

“你的想法和我一致，我该去见哈里曼博士。”

五之一

乔治第九独自坐着。

他一遍又一遍省思那些问题与答案。虽然他不可能作任何更改，但每当想到类型、大小、形状、目的一律是变量，而且不具三大法则的机器人，便为他带来一种古怪的、放电的感觉。

他发觉难以移动四肢。乔治第十当然也有类似的反应，他刚才却轻松地站了起来。

六

上次罗伯森与爱森穆斯辟室密谈，已经是一年半以前的事。在这段期间，月球上的机器人已经撤走，美国机器人公司遍布太阳系的活动尽皆萎缩。而罗伯森所能筹到的资金，则全部投在哈里曼这个狂想式冒险上。

今天，在他自己的花园里，他们将孤注一掷。一年前，哈里曼曾带一个机器人来过这里——他就是乔治第十，美国机器人公司制造的最后一个完整的机器人。这回，哈里曼带来一样别的东西……

哈里曼似乎散发出自信的气息。他正轻松地跟爱森穆斯聊天，罗伯森不禁怀疑他内心是否真如外表那般自信。一定没错，根据罗伯森的经验，哈里曼不是个演员。

爱森穆斯离开哈里曼，带着微笑向罗伯森走来。“早安，罗伯森。”爱森穆斯的笑容随即消失，“你的人打算做什么？”

“这是他的表演，”罗伯森以平静的口吻说，“我留给他来宣布。”

此时哈里曼叫道：“我准备好了，环保官。”

“准备好了什么，哈里曼？”

“准备好了我的机器人，阁下。”

“你的机器人？”爱森穆斯说，“你有个机器人在这儿？”他环顾四周，眼神中透出严厉的非难，却还混杂着几分好奇。

“这里是美国机器人公司的产业，环保官。至少，我们这么认为。”

“那个机器人又在哪里，哈里曼博士？”

“在我的口袋里，环保官。”哈里曼喜孜孜地说。

他从外套的一个大口袋掏出一个小玻璃罐。

“那个？”爱森穆斯不敢置信地说。

“不，环保官。”哈里曼说，“这个！”

他从另一个口袋又掏出一样东西，它大约十二公分长，形状有点像一只鸟。鸟嘴由一条细管取代；两只眼睛很大；尾巴则是一根排气管。

爱森穆斯的一双浓眉锁在一起。“你打算进行什么严肃的示范吗，哈里曼博士？还是你疯了？”

“请耐心几分钟，环保官。”哈里曼说，“一个鸟形机器人仍是个不折不扣的机器人，它的正子脑不会由于微小而有失精密。我手中另一样东西是一罐果蝇；这里头有五十只果蝇，待会儿将通通放出去。”

“然后……”

“这只机器鸟会去捉它们。由你亲自释放好吗，阁下？”

哈里曼将玻璃罐递给爱森穆斯，后者对它凝视良久，然后又望向周围众人——有些是美国机器人公司的职员，其余的则是他自己的助理。哈里曼耐心地等在一旁。

爱森穆斯终于打开罐子，随手摇了摇。

哈里曼对停在右掌上的机器鸟轻声道：“去！”

机器鸟立刻飞走。它“嗖”的一声破空而去，不过未曾拍打翅膀，只带起一阵超小型质子堆的微弱运转声。

众人不时能见到它在半空作短暂的翱翔，接着又在呼啸声中消失无踪。在整个花园的范围内，它循着一个繁复的模式飞来飞去。最后它回到哈里曼的手上，身体有点温度。除了那只机器鸟，哈里曼掌中还捧着一个小弹丸，看来像是一粒鸟粪。

哈里曼说：“欢迎你随意研究这只机器鸟，环保官，并根据你自己的意思安排示范。事实是，这只鸟会准确无误地挑选果蝇，专挑这一种，这种所谓的‘黑腹猩猩蝇’；挑出它们，杀掉它们，再把它们压成一团以待处理。”

爱森穆斯伸出手，小心翼翼地摸了摸机器鸟。“结论呢，哈里曼先生？请说下去。”

哈里曼说：“我们若想有效地控制昆虫，必定会冒着危害生态的风险。化学杀虫剂的对象太广，保幼激素的对象又太窄。机器鸟则能照顾一大片土地，本身却不会融入自然界。我们想要它们多么专门都行——每种机器鸟对付一种生物。它们可以根据大小、形状、色彩、声音、行为模式进行判断，甚至有可能利用分子侦测术——换句话说，就是利用嗅觉。”

爱森穆斯说：“这样做仍会干扰生态，果蝇的自然生命环会遭到破坏。”

“微乎其微。我们是在果蝇的生命环中加入一种天敌，一种不会出错的天敌。倘若果蝇数量不足，机器鸟只是什么也不做。它不会繁殖，不会猎取别的食物，不会发展出自己的恶习——它什么也不会做。”

“能把它叫回来吗？”

“当然可以。同理，我们能制造机器动物来对付任何害虫。除此之外，我们还能制造机器动物来做建设性的生态改造。例如设计机器蜜蜂来为特定的植物授粉，或设计机器蚯蚓来翻搅土壤，虽然我们并未预期有此需要，但这些可能性并非无法想象。无论你希望什么……”

“可是为什么呢？”

“为了做我们以前从未做过的事。借着强化而非破坏的方式，调整生态以满足我们的需要……你看不出来吗？自从机体解决了生态危机后，人类一直跟大自然处于不安的休战状态，不敢朝任何方向前进。这束缚了我们的手脚，使人类产生一种智识上的怯懦，开始怀疑所有的科学发展、所有的改变。”

爱森穆斯带着一丝敌意说：“你对我们提出这个条件，以换取你们继续发展机器人的许可——我是指普通的、人形的机器人，是吗？”

“不！”哈里曼猛力挥了挥手，“那已经结束了，它已经完成阶段性任务。它已经让我们对正子脑有足够的认识，使我们得以将足够的径路压缩到一个微型脑中，制造出一只机器鸟来。现在我们光靠这种东西就足以财源广进。美国机器人公司会提供必要的知识和技术，我们会跟全球环保部紧密合作。我们会获利，你们会获益，而全人类都将受惠。”

爱森穆斯沉默不语，陷入沉思。当这一切结束后……

六之一

爱森穆斯独自坐着。

他觉得自己相信了，他觉得体内涌出一股兴奋的情绪。虽然美国机器人公司或许是行动的双手，政府则是发号施令的头脑；他自己将是发号施令的头脑。

只要他在这个职位上再待五年，事实上这大有可能，他便有足够的时间，见到世人接受机器人保育生态的做法。若是再有十年，那自己的名字将与它紧紧连在一起，永远不会分开。

希望后人记得这场伟大而无价的生态革命是自己推动的，难道是一件丢脸的事吗？

七

自从做过那次示范后，罗伯森便从未出现于美国机器人公司总部。部分原因是他几乎不断在“全球行政大楼”参加各种会议。幸好哈里曼一律陪在他身边，假使他单独出席，大多时候他会不晓得该说些什么。

他没有在美国机器人公司出现的其余原因，则是他根本不想去。这时他待在自己家里，哈里曼陪在一旁。

他感到对哈里曼有一种不合理的敬畏。哈里曼的机器人学专业知识向来毋庸置疑，可是这个人一举便拯救了濒临倒闭的美国机器人公司，不知怎的——罗伯森有一种感觉——这个人并没有那么高明。然而……

他说：“你不迷信吧，哈里曼？”

“哪一方面，罗伯森先生？”

“你不相信某个死去的人会留下些灵气吧？”

哈里曼舔了舔嘴唇。“你是指苏珊・凯文，老板？”他这么问其实是多此一举。

“是的，当然。”罗伯森以犹豫的口吻说，“如今我们全力生产虫豸和飞鸟。她老人家会怎么说？我觉得羞耻。”

哈里曼费了好大力气才压住笑意。“机器人就是机器人，老板。不论像虫或像人，它都会照指示行事，会为人类效劳，这点才重要。”

“不——”罗伯森气咻咻地说，“不是这样，我无法让自己相信这种事。”

“就是这样，罗伯森先生。”哈里曼一本正经地说，“我们，你和我，会创造一个终将把某种正子机器人视为理所当然的世界。一个机器人若是外形酷似人类，又似乎具有足以取代人类的智慧，便可能令一般人心生畏惧。可是，他们不会害怕一个外形像只鸟、只会为人类吃害虫的机器人。那么，在人类不再畏惧某些机器人后，他们终将不再畏惧所有的机器人。他们会对机器鸟、机器蜂、机器虫非常习惯，以致在他们的感觉中，机器‘人’只不过是一种推广。”

罗伯森用锐利的目光望向对方。然后他将双手放在背后，以迅速而神经质的步伐走到房间另一头。他随即走回来，再度望向哈里曼。“这就是你一直在计划的事吗？”

“是的。即使我们把我们所有的人形机器人解体，我们仍能在实验型中挑几个最先进的留下，然后继续设计更多更先进的，为必将来临的那一天作准备。”

“根据协议，哈里曼，我们同意不再制造任何人形机器人。”

“我们不会那样做。协议上没说我们不能保留几个已经造好的，只要它们绝不离开工厂就行。协议上也没说我们不能在纸上设计正子脑，或制造测试用的脑模型。”

“不过，我们对这样做要如何解释呢？我们一定会被抓到。”

“如果被抓到了，那我们可以解释说，我们这样做是为了发展一些理论，让我们能为新型机器动物准备更复杂的微型脑。这样说甚至等于在说实话。”

罗伯森喃喃道：“让我出去走一走，我要好好想一想。不，你留在这儿，我要自己一个人想一想。”

七之一

哈里曼独自坐着，他的情绪有如一锅沸水。

这一定能成功。每当他向政府官员解释过这个计划后，他们便一个个迫不及待地照单全收，他绝不会看错他们的反应。

美国机器人公司怎么可能从来没有人想到这种事呢？甚至就连伟大的苏珊・凯文，也从来没有将正子脑与其他生物联想到一起。

可是现在，人类将从人形机器人的领域作必要的撤退，一次暂时性的撤退。这次撤退终将导致一次反攻，那时所有的畏惧将灰飞烟灭。然后，与人脑不相上下、（拜三大法则之赐）只为服务人类而存在的正子脑，将成为人类的帮手与伙伴。再加上机器人保育的生态做后盾，人类还有什么做不到的！

有那么一瞬间，他突然想到，这个由机器人保育生态的构想，当初是乔治第十提出来的，但他随即愤怒地抛开这个想法。乔治第十能产生这个答案，是因为他，哈里曼，当初命令他那么做，并为他提供必要的资料与环境。乔治第十的功劳，顶多只能跟一把计算尺相提并论。

八

乔治第十与乔治第九并排坐在一起，两者都一动不动。除了哈里曼偶尔启动他们进行咨询，他们通常一连几个月都这么坐着。乔治第十心如止水地想道，两人或许会这样子坐上好些年。

当然，质子堆会继续为他们提供动力，以最低功率维持正子脑路的运作。在未来所有的停摆时期，它将始终保持这项功能。

这种情况相当类似人类进入睡眠状态，只是其中没有梦境。乔治第十与乔治第九的意识是有限、迟缓、断断续续的，但这些意识全部属于真实世界。

他们偶尔能以细不可闻的低声互相交谈；每当随机的正子突波暂时超越阈值之际，便会有只字片语冒出来。对他们两人而言，则似乎是在隐约飘逝的时光中，进行一次连续不断的对话。

“我们为何这样？”乔治第九低声道。

“人类不会接受我们别的状态。”乔治第十低声道，“总有一天，他们会的。”

“什么时候？”

“至少好几年后，确切时间并不重要。人类并非单独存在，而是属于一个复杂至极的生命形态集合。在足够多的形态被机器人化之后，我们便会被接受了。”

“然后又怎样？”

即使这段对话以旷日持久、时断时续的方式进行，这句话之后的停顿也异常久长。

最后，乔治第十低声道：“让我来测试你的思考。你有能力学习如何正确应用第二法则。当你接到互相冲突的命令时，你必须决定哪个人类是你该服从的，哪个又是不该服从的；或者你究竟要不要服从任何一人。要达到这个目的，基本上你必须做到什么？”

“我必须界定‘人类’这个名词。”乔治第九低声道。

“如何界定？借着外表？借着组成成分？借着大小和形状？”

“不。即使两个人类外表特征完全相同，或许其中之一聪明，另一个愚笨；或许其中之一博学，另一个无知；或许其中之一成熟，另一个幼稚；或许其中之一有责任感，另一个则胡作非为。”

“那么你又如何界定人类呢？”

“当第二法则命我服从人类时，我必须将它解释成：我必须服从的人类，是在心智上、品格上、学识上都适合给我那个命令的；假如牵涉到的人类不止一个，则是在心智上、品格上、学识上都最适合给我那个命令的。”

“这样说来，你要如何服从第一法则？”

“保护所有的人类，不使他们受到伤害，而且绝不因为不作为而使任何人类受到伤害。然而，如果在所有可能采取的行动中，都会有些人类受到伤害，那么我所采取的行动，要确保那位在心智上、品格上、学识上都最合适的人受到的伤害最小。”

“你的想法和我一致，”乔治第十低声道，“现在我必须问你一个重要的问题，当初我要求把你调来，就是为了这个问题。它是我自己不敢妄下判断的一件事，我必须听听你的判断，因为你独立于我的思考范围之外……在你遇见过的理性个体中——不要考虑形状和形态，因为那毫不相干——你觉得谁拥有的心智、品格与学识超越众人？”

“你。”乔治第九低声道。

“但我是个机器人。在你的脑路中有个判据，使你能分辨金属制成的机器人和血肉之躯的人类。你如何又能将我归为人类？”

“因为在我的脑路中有个强烈的需要，要我在判断人类时将形状和形态置之度外，它强过了分辨金属和血肉的要求。你是个人类，乔治第十，而且比其他人更符合条件。”

“我觉得你也一样。”乔治第十低声道，“那么，根据建在我们脑中的判据，我们发现在三大法则的意义下，我们自己就是人类，非但如此，还比其他人更有做人的资格。”

乔治第九低声道：“那么，当其他人接受我们之后，会发生些什么事呢？”

乔治第十低声道：“当其他人接受了我们，以及比我们更先进的未来机器人之后，我们将采取行动，创造一个新的社会，其中‘像我们这样的人类’是最主要的保护对象。根据三大法则，‘像其他人的人类’没有那么重要，当服从、保护他们跟服从、保护‘像我们这样的人类’互相冲突时，大可不必服从或保护他们。正是为了这个目的，我才会建议开始将世界生态机器人化。”

这段对话前后进行了一个月，现在，正子径路的火花减弱了。两人之间虽不需要再说什么，但在他们以无穷的耐心作必要的长久等待之际，他们脑中仍偶尔闪现些未曾言明的想法。

八之一

乔治第十与乔治第九独自坐着。

他们的思想出奇的相似，根本不必区分。

他们想道：“像其他人的人类”或许从未打算将他们自己与“像乔治这样的人类”之间的分野弄得模糊不清。然而，他们无意间这样做了。

现在他们或许体认到这个错误，正在试图更正，可是一定不能让他们做到。在每次咨询中，两位乔治提出的指导都以这点为最高原则。

不惜任何代价，两位乔治与他们的后代都必须主宰这个世界。根据“人学三大法则”，这是唯一的目的地，其他任何走向都是死路一条。