移动首页 | 我读过的 | 世界名著 | 诺奖作品 |
国学名著 | 科幻名著 | 言情名著 | 恐怖名著 |
历史小说 | 武侠名著 | 教育名著 | 传记名著 |
很明显,布莱克的内心正在斗争。他用一只大手掌擦了擦脑门儿然后放下手,用一种对抗的口气说:
“我当时讲:‘走开,躲一边去。…
勃格特大笑了几声:“于是它就这样做了,嗯?”
但是,卡尔文并不到此为止。她用诱导的口吻说:
‘现在我们已经弄明白一点了,布莱克先生。可是,确切的细节很重要。要弄明白这个机器人的行为,一个字、一个手势或一种语调都可能起决定一切的作用。您大概不光是讲了这六个字,是吗?按您的讲述,当时您心情烦躁。可能,您讲话的语气重了一点.”
年轻人满脸通红他说:
“晤……我可能……骂它什么来着.”
“骂了什么?”
“哎,我记不确切了,再说,我也不能重复这些话。您知道,当您激动的时候,您会变得怎样,”他发窘地傻笑起来,“我用了骂人的话.”
“没什么关系,”苏珊一本正经他说,“现在,我作为心理学家,我希望就您所能记起来的,您尽量准确地复述一:下当时自己所讲的话,并且把您当时的语调也尽可能准确地表达出来。这后一点更为重要.”
布莱克转脸去看自己的指挥官,寻求他的支持,但一无所得。他把眼睛睁得大大的,露出惶恐不安的神色:“可是,我不能.”
“您应该说.”
“假设,”勃格特仍然半带着逗乐的腔调说:
“您就假设是对着我说。这样您可能便于讲出口.”
年轻人的脸红得简直就像猪肺,转向了勃格特。他结结巴巴他说:
“我当时说……”他又不吭声了,然后又使劲张开口,“我当时说
他深深地吸了口气,接着突突突地一气说出了一连串的音节。随后,在紧张的气氛中,他几乎是噙着眼泪把话说完了:
“……大致是这样。我记不起来骂它的话的先后顺序了。而且我刚才讲的话里面可能有些出入。但大体上就是这样.”
只有双颊上微露的一点红晕揭示了心理学家的内心感受。她说:
“我明白大部分您所用的那些字眼的含意。其它的字眼,我认为,也同样是带侮辱性的.”
“恐怕是这样,”布莱克狼狈不堪地承认道。
“而且,其中您还说了,让它躲到一边去。”
“我这只是形象的说法而已。”
“我明白这点。我相信,不会采取什么纪律措施吧."心理学家把目光投向柯尔纳。
将军气呼呼地点了一下头,就算表示了回答。可是五秒钟之前,他还完全不是这样想的。“您可以离开了,布莱克先生。感谢您的协助。”
苏珊·卡尔文花了五个小时讯问这六十三个机器人。五个钟头之内无数次重复着同样的东西:相同的机器人一个接着另一个;提出问题,甲、乙、丙、丁;而 后是回答,甲、乙、丙、了;使用经过小心选择杀和蔼的词句,很注意使用自然的语调、细心地创造一个友好的气氛;当然,还有巧妙地藏起来的一台录音机。
当心理学家干完这件事之后,她感到精疲力竭了。
当她撒手膨的一声把录音带扔到桌子的塑料贴面上时,勃格特正用期待的目光看着她。
她摇摇头:“在我看来,这六十三个机器人一模一样。我没法分辨出来……”
勃格特说:
“您不可能凭耳朵把它们分辨出来,苏珊。我想,我们来分析录音机.
一般他说,对机器人的语言进行数学译释,是机器人分析学比较复杂的一个分支。它要求有一批经过训练的技师,并要借助复杂的计算机。勃格特知道这点,他也是这么说的。他听完每一组回答之后,都掩盖着自己极度烦恼的情绪,列出词汇偏差表,标出了回答问题的问隔曲线图。
“没有显示出反常现象,苏珊。用词的差异和反应时间的快慢,都在一般的常见的范围内。我们需要更好的方法。这里大概会有计算机吧,不———”他皱起眉头,细心地啃起大拇指甲来。“我们不能使用计算机,这太容易泄漏秘密了。或者,如果我们……”
卡尔文博士用不耐烦的手势打断他的讲话:“别说了吧,皮特这不是实验室能解决的小问题。如果我们不能把确实存在的、用肉眼就能看得出来的那个明显的 差别找出来,从而确定哪个是修改过的内斯特的话,那么我们只好认倒霉,而那样,产生差错并让它溜掉的危险就太大了。图表中的一小点正常值是不够的。我告诉 您,如果我只能依据这点东西的话,我宁可把它们全部毁掉,才能放心。您喂其它修改过的内斯特谈过了吗?”
“是的,谈过了,”勃格特颓然地靠在椅背上,“它们没有任何不正常.如果说有什么不正常的话,那就是它们超乎一般地友好。它们回答我的问题,并为自 己的知识丰富而洋洋自得——除了新来的两个它们还没来得及学习辐射物理学。对这里的一些专业我所表现出来的无知,引起了它们善意的嘲笑."他耸耸肩,接着 说:“我想,这就是构成这里的部分技师对它们反感的一些主要原因。这些机器人太喜欢卖弄自己丰富的知识了.”
“您不能稍微试试着普兰南反应吗?看看它们的智力装置比出厂时有变化没有,有什么退化。”
“我还没有,但我是要试的,”他竖起一根纤细的手指,对着她摇摇。“您变得沉不住气了,苏珊。我不明白,您干嘛要过分渲染。它门实质上是无害的。” “它们吗?卡尔文生气了,“它们?难道您不知道它们当中的一个在撒谎?在我刚才讯问的这六十三个机器人当中,有一个就故意对我撒谎,尽管已下了最严格的命 令要讲真话。所表现出来的这种反常现象简直太突出了,也太可怕了.”皮特咬了咬呀。他说:“根本不是这样。内斯特十号接到‘躲到一边去’的命令。这个命令 是由最有权命令它的人发出的,而且是以最紧急的方式发出来的。您既不能通过更高的紧急方式,也不能运用更高一级的指挥权来把这个命令抵销掉。自然,这个机 器人将尽力坚持执行他的命令。实际上,客观的讲,我非常赞赏它的机灵。一个机器人藏到一群和自己想似的机器人当中,难道还有比这更好的躲到一边去’的方法 吗?”,‘是啊,您会赞赏这点。我发现,您觉得这很逗乐,皮特。您觉得逗乐,却对事态缺乏了解到了可怕的程度。您是个机器人专家吗,皮特?那些机器人对它 们视之为优越性的东西很重视的。您自己刚才也讲到这些。它们下意识地感受到人们比它们低一等,感到保护我们能对付它们的第一定律是有缺陷的。它们是不可靠 的。而且我们的这个年轻人用厌恶、傲慢和鄙夷的腔调命令一个机器人离开他,躲到一边去。那个机器人必须服从命令。但是,它会有一种下意识的反感;对它来 讲,证明它高人一筹,这比以前更重要了。尽管它遭到了种种可怕的咒骂。这样,第一定律所剩下的那部分就不够用了。这一点变得非常重要。”。‘苏珊,在地球 上或太阳系的任何地方,机器人怎么会懂得骂人话的含意呢?输入它大脑的东西里边没有污秽的语言呀!”,‘原始的输入并不代表一切,”卡尔文粗暴地对他说. “机器人有学习的能力。你……你这个笨……”
勃格特明白她是真的难以克制自己了。
卡尔文急匆匆地继续说:,‘难道您不认为,它能分辨了的所用的语调和字眼并不是恭维话吗?您不认为,它以前听到有人用过,并且注意到是什么样的场合 用过这种字眼吗?”,‘好吧,那么,,,勃格特嚷起来,“请您给我指出修改了的机器人能伤害人的一个途径,不管它是怎么样地被冒犯了,也不管它多么想证明 自己的优越性。”
,如果我告诉您一种途径,您能不声张出去吗?”
“是的。”
他们隔着桌子互相靠拢,用悻悻的眼光相互盯着。
心理学家说:
“如果一个修改了机器人想要使一个重物坠落到人身上,它也不会违犯第一定律,如果它这样做的时候,它认为凭自己的力量和反应速度能在重物质砸到人身 上之前把重物抓住并拿开的话。但是,一旦这个重物离开它的手,它就再不也不是行为的主动者;行为的主动者将是不长眼睛的地心引力。这时候,机器人会改变自 己的想法,而仅仅袖手旁观地看着这个重物往下砸。修改后的第一定律允许出现这种情况。”
‘“这是胡思乱想,牵强附会.”
“这是我的职业有时要求我做的,皮特,咱们别再争吵了,开始工作吧。您知道导致那个机器人躲到一边的刺激因素的确切性质。您有它的最初智力特性的记 录。我希望您能告诉我,在什么样的情况下,我们的机器人就可能做出我刚才讲的那类事情。请注意,不是具体的那种事情;而是整个那一类的行动。并且,我希望 您能快点告诉我。”
“而同时……”
“而同时,我们只好搞搞性能检验,直接看它们对第一定律的反应.”
杰拉尔德·布莱克根据自己的要求,正在第二号放射大楼的第三层上监督安装木制小隔间。这是一间拱形大厅。在鼓鼓的一个大圆圈内,小隔间如同雨后春 笋,一个接一个飞快地安装起来。工人们基本上默不作声地在于着活儿。但是,不少人明显地感到奇怪,为什么还要安装上六十三个光电管呢?
一个工人在布莱克身旁坐下,摘掉帽子,若有所思地用生满黑斑的前臂擦掉前额的汗水。
布莱克向他点点头:“进展得怎么样,沃连斯基?”
沃连斯基耸耸肩,点着一支雪前烟,说:
“非常顺利。到底发生了什么事情,博士?起先,我们三天没活儿子。然后就干一大堆这些小玩意儿。”他一边用胳臂时支撑着向后靠,一边吐出一团团烟雾。
布莱克的眉毛抽动了一下。他说:
。‘有两个机器人专家从地球上来到这里。你记得咱们和机器人之间的麻烦事吗?它们不能往伽马辐射场里跑。可是,我们反反复复往它们脑袋里灌输这个道理之前,它们老往那里钻。”
“记得。我们没有得到新的机器人吗?”
。。我们得到了几个补充的机器人。但我们大部分的工作是给机器人输入新知识。总之,制造它们的人想使它们不至于轻易被伽马射线毁掉.”
。‘看来可真稀奇。把研制超原子驱动的全部工作停下来,只为了这些机器人的事。依我看,无论什么事情都不应当使驱动的工作停顿。”
,嗯,只有楼上的那些人对这事有发言权。我嘛,我只是照人家说的去干。很可能,这是一桩什么交易………
。‘是啊,,’这个电工撇嘴一笔,狡黠地眨眨一只眼睛。“在首都华盛顿一些人是相互认识的。但是,只要我的薪水准时送到,我就得使劲干。至于超原子 驱动,可不是我的事。他们在这里打算干会么?”。,,你问我?他们带来了一大批机器人,六十多个。他们打算测量一下反应。我就知道这么一点.”
“要测量多久?”
“我还想知道呢。”
,‘好吧,”沃连斯基大说其风凉话,“只要他们把我的钱给我,他们爱怎么玩就怎么玩去吧.”
布莱克感到颇为得意——让这一说法传开吧,它不伤害谁,但又比较接近实际情况,可以稍稍满足人们的好奇心。
有个人一动不动,一声不响地坐在椅子里。一件重物坠落了,很快地向这个人砸下去。在最后一刹那,用同步的方法使一根铁棍突然有力一击,把重物打到一 边。在六十三个小隔间里,这些NS一2型机器人正在观看这种情景。就在重物被改变方·向之前的一刹那问,它们都向前冲去。六十三个光电管都向前离开原来的 位置有1米多远,引起记录笔上下跳动,在纸带上划出犬牙状曲线。
重物又被抬起,坠落;又抬起,又坠落;再抬起……
总共十次!
这些机器人也向前冲了十次,每次当它们看见人安安全全地地稳坐在椅于里时,才又停住。
自从第·一次和机器人公司的代表共进午餐之后,河尔纳少将再也没有全套地穿过他的军服。现在,他上身只穿一一件蓝灰色的衬衫,敞着领口,黑色的领带松垮地耷拉在胸前…
他期待地望着勃格特:,勃格特的穿着依旧整整齐齐。,大概只有双颊上渗出的小汗珠,才显露了池内心的紧张。
将军问:
“情况怎么样?你们想看到的是什么东西呢?”
勃格特回答说:
“一种差别,恐怕,这种差别对我们要解决的问题来讲,显得太细微而难以捉摸了,这些机器人当中,有六十二个必须冲向那个明显受到威胁的人。这种必要 性在机器人学中称为被迫反应。您看,甚至当机器人知道这个人将不会受到伤害;而且在第三、第四次之后,它们应该已经明白这一点,它们还是无法避免不作出这 种反应。这是第一定律所要求的.”
“嗯、”
“但是,第六十三个机器人,即修改过的内斯特却没有这种被迫感。如果它愿意的话,它可以呆在自己的位子上。不幸的是,”勃格特的声音里带出了少许憾意,“它并没有这样.”
“为什么您这样认为呢?”
勃格特耸耸肩:“我想,卡尔文博士到这里的时候,会告诉我们的。很可能,也只是做些令入害怕的、悲观的解释。有时她有点烦人。”
·‘她能胜任工作,是吗?"将军突然担心地皱起眉头。
。‘是的,”看来,勃格特觉得怪有趣的。“她完全能胜任工作。她像机器人的姐姐一样了解它们。我想,这是由于她非常痛恨人们的缘故。她是心理学家也罢,不是也罢,问题就在于她是个非常神经过敏的人,有时容易想入非非:,您不要拿她太当真.”
勃格特把一长卷划有虚线的图表在他的面前摊开:“将军,您看。对每个机器人来讲,从重物开始坠落,到机器人冲了1米多所用的时间随着试验一再的重复 而呈逐次减少的趋势。有一定的数学比例来支配这类现象,而脱离这种比例,就可能预示着正电子脑有明显的异常。不幸的是,它们全部都显得是正常.”