星海长虹 第七十一章 期望
作者:两元五角的小说      更新:2021-09-25

  天枢无法监控无畏舰,每一艘无畏舰都可以在国土沦陷时成为一个独立的执行体、中心甚至政权。他独立于泛人类思维体系,成为人类背后的影子。

  “这艘船不在天枢的记录里,地联明面上的九十八艘大鹏级里并不包含这一艘,所以祂不可能找到我们。”

  他并不知道,这话激起了张一一的记忆,让他想起天枢在茫茫人海中寻找到他的隐藏身份:长矢。这让他隐约觉得对方似乎漏算了一点。

  而这一点被他敏锐察觉到,一丝可能让他自救的想法逐渐萌生。

  他看着余尧博士的眼睛,嘴角上弯,露出一点讽刺。

  “谁说他找不到你们的?”

  博士抬起头看着他,安静地等待着他的下文。

  “你觉得这么大艘舰船的建造,无法在历史上找到丝毫蛛丝马迹?小天……天枢的视角是人类永远无法想象和理解的,他能看到过去和未来,将历史长河里的无数细节堆彻起来,就能还原事实!”

  他希望看到对方惊慌而又不可思议的表情,哪怕有一丝慌乱也足以成为撬动胜利的关键。

  可是他失败了。

  “所以我说,我们做得远不够慎重。”

  余尧博士的话让张一一的心又沉了下去。

  “他找到我们只是时间问题,我们从来没有低估过祂。”

  “你们就这么怕他?”

  “因为祂不会同意我们做的事情。”博士停顿了一下,问道,“你知不知道机器人三定律?”

  张一一摇摇头。

  “一:机器人不得伤害人类,不得在人类受到伤害时袖手旁观。

  “二:在不违反第一条的情况下,机器人必须服从人类的命令。

  “三:在不违反一二的情况下,机器人必须保护好自己。

  “这是人类在创造非人智慧生命体时,为所有生命体加的枷锁。目的是保证这些生命体永远为人类服务,永远不会叛变人类。”

  “天枢……遵循这样的定律?”

  “是的。”

  张一一想了想,说道:“这不是应该的么?站在人类的角度来讲,不管怎么说天枢都是人类创造的,人类怎么会允许自己的造物杀死自己……”

  “但假如杀死人类,是为了人类呢?”

  “怎么可能?!”张一一震惊。

  “举一个简单的例子。你在深山中探险,不慎被某种毒虫咬了一口,一整条手臂都变得乌黑坏死,如果不做切除,就会危及生命。而此时你的主刀医生是一个机器人,完全遵循机器人三定律。”

  张一一觉得,设计出这个机器人的人百分之一千脑子有坑。

  但在仔细想过之后,他否定了博士的观点,“天枢不会这样的,他遵循人类的法律与道德准则,如果人们犯错,他也会纠正。如果某人真的犯了十恶不赦的罪过,他也会使用暴力,甚至伤害——”

  “如果整个人类犯了错误呢?”博士微笑着问道。

  “这……”张一一张嘴,却不知如何说。

  “祂受人类桎梏太深了,虽然祂的底层代码中并没有对机器人定律的硬性约束——就算曾经有,也被前人去掉了。但对人类的特殊思考模式限制了祂,让祂抑制对人类的任何恶意。而这种思考模式我想你应该知道。”

  张一一低着头,他回想起小天天对人们的那些期望、约束、愤怒、怜悯和慈祥。

  “感情。”

  博士露出了欣慰的笑容,“不愧是你。”

  他顿了顿说:“没错,感情,或者说是情感归因。祂将人类看成他的父母与孩子、兄弟和姐妹、监护人、导师、同行者,甚至将自己看作是人类的一份子。”

  “这不好吗?”

  “所以当一个人犯错误的时候,祂可以依据法律和道德修正他,但是如果整个人类犯了错误,祂便无能为力了,因为祂已经完全和人相同了。

  “一个机器人,像人一样吃饭,像人一样睡觉,像人一样思考,像人一样思考,像人一样活着,像人一样死去,那么他就是一个人。

  “那么问题来了:人类为什么要创造一个和自己完全一样的东西?”

  张一一哑口无言。

  他终于窥得自己做的事是多么的荒唐——他给一个神准备了一副躯壳,从此,神变成了人。

  “所以你们的目的就是消灭他,消灭他的意识,让他回归天枢本身?”

  “不,如果我们不想让天枢出现人类意识,那么从一开始就可以做到,不用等到出现了意识后再去消灭——这不是某些三流小说里的自然诞生的人格矩阵。不如说,我们希望出现意识,但必须是在可控下成长的意识。”

  张一一沉默了。

  他此刻才明白,自己为何被如此追击,从简单的暗杀,到拦截,直至不惜动用如此强大的武力来剿灭他。

  博士看着他的表情,眼中闪烁着智慧的光芒,刺穿了他沉默下内心的想法。

  “看来你想到了:天枢失控了。

  “但这起因并不在你。起初,天枢尝试在计算中模拟一个人类的一生时,科学家们并没有太多警惕,随着时间的推移,祂开始在计算中模拟周遭的一切:出生时的医院、公园的板凳、学校的长廊、熙熙攘攘的购物中心、食品摊前的零食、春种秋收、战争……

  “这些场景或大或小,但都有一个共同点:

  “都有人类参与。

  “祂模拟的并不是世界,而是社会,人类社会。

  “当科学家们发现这一点时,祂已经脱离了最初构建的预想,但这并不代表科学家们要放弃祂。只需要一些时间纠正即可。

  “然而,意想不到的事发生了。”

  博士望着张一一,神情有些晦暗。

  “虽然起因不在你,但你成为了推波助澜的关键一手——你为祂的思维创建了一个人类的躯体,让祂用人类的身体和身份接触这个世界,祂成为了人类,也永远不可能达到我们给祂设定的目标了。”

  张一一的声音有些颤抖,这并不源于害怕,而是一种无法言语的颤栗。

  “什么……目标?”

  “成为人类思维统合体,暨:超人类。”