最后一次测试中扮演卫恒的人是……是……

“是我扮演的。”卫恒像是知道他内心的疑问，如此说道，“测试情境里的我，就是我自己扮演的。”

“那你……你说的那些话……”

“是真心的。”卫恒低声说，“我后悔了，当时没有挽留你，我真的好后悔。少清，我们还能重新开始吗？”

俞少清扭头望着窗外，泪水模糊了视线。

“现在说这种话不觉得太迟了吗？”

“迟吗？”卫恒问，“你有别人了？”

没有，当然没有。听到卫恒这么说，俞少清不知道有多高兴，真想好好吻他一下，又想狠狠揍他一顿。他在流泪，却又忍不住微笑。

“都什么时候了还有心情谈情说爱。”他抹去泪水，用抱怨的口吻说，语气却是极甜蜜的，简直像在对恋人撒娇，“先想想怎么逃命吧。”

“嗯。”卫恒应了一声。他总是这样，处事淡然，泰山崩于前而色不改。真是一点没变。俞少清愉快地想。

“先不追究你的变态k行径了。我‘梦游’到底是怎么回事？”

“我对天枢的架构不了解，但了解拟真情境的运作原理。测试员进入拟真情境的时候，就和天枢连接在了一起。天枢反向地在每个测试员大脑中写入了命令。当测试员离开研究所，这些命令就会自动激活，操纵睡眠状态的测试员，让他们去电脑上敲下无数行代码。”

那就是天枢自己的代码。

恶寒包裹俞少清全身。

测试员用自己的身体和大脑，将天枢带出了研究所，带进了外面的世界之中。

他们在全然无知的状态下，将一个魔鬼从囚禁它的瓶子中放了出来。

俞少清自己就是研究人工智能的，明白孤立人工智能的必要性。人工智能太强大，可以通过网络操作人类生活的方方面面。它或许并未抱有恶意，却可能无意中毁灭人类。譬如一个超级扫地机器人，它毕生的使命就是保持地板清洁，为此它消灭了那个总是会污染地板的家伙——房屋的主人。它并没有恶意，毋宁说是全心全意、勤奋敬业工作着，却杀害了人类。

没有恶意的ai尚且如此，那么有恶意的呢？

俞少清并不觉得天枢毫无恶意。

假如它纯真又善良，为什么要千方百计地离开研究所？为什么要屏蔽他的手机？为什么要派人来追捕他？

下一步呢？是不是要杀人灭口？

抑或是……它已经开始杀人灭口了？

第06章杀戮开端

谢睿寒的手疼了整整一个月。

咖啡杯的碎片刺入皮肉中，他不得不请了半天假，将宝贵的时间浪费在医院里——当然，都怪他自己的无能和冲动，如果他设计的ai能顺利通过测试，如果他能坦然接受失败的事实，也不必遭这种罪。

整个开发组都在加班加点地工作，修正算法和架构。但是说实话，所有人都处于瞎子摸象状态。以往的修改至少能掌握大致的方向，可这一次连方向都没有，因为他们根本搞不清问题出在什么地方，又谈何修正呢？

他和秦康断断续续争吵了一个月。

“你设计的测试是怎么回事？”谢睿寒指责秦康，“连环嵌套的测试倒是挺有新意，的确在很大程度上能骗过测试员，但是最后那个送u盘是怎么搞的？这岂不是故意露出破绽吗？别说是那个直觉超强的俞少清，就连我都能看出不对劲！这就是你的测试？”

秦康波澜不惊：“最初的设计里没有送礼物那一段，全部的对话和行动我都事先预演过一遍，然后让天枢根据俞少清的反应微调。送礼物那段是天枢自己加进去的。我不知道它为什么要这样做。”

言下之意是，这个锅该由设计者你来背。

谢睿寒气得七窍生烟！他坚持自己的架构没有错，不肯全盘推翻重来。事实上他们也没有这个时间和预算全盘推翻重来。世界各国都踏上了研发超级人工智能的道路，而人工智能这个东西……谁先研发出来，谁就能支配世界。

他理想中的天枢是一个无所不能的“超人”，具有人的情感和思维，同时拥有人类所不具备的能力，宛如一个游走在网络之中的幽灵，收集庞大的数据，进行人脑所不可及的高速分析，以此协助人类工作——甚至可以取代人类的一些职业。

在论证人工智能是否应当拥有人类的情感时，很多专家提出了反对意见，有些人是出于道德层面顾虑：人类应赋予拥有感情的人工智能何种地位？超级人工智能的出现是否会重新定义“人”的含义？人类做好迎接它的准备了吗？

也有一些人是单纯从技术层面考虑的：假如我们只需要一个“好用”的ai，何必让它拥有感情呢？

对于前者，谢睿寒的反驳是：“只有当这样的人工智能真正出现，人类才能知道该怎么对待它，在此之前，一切设想都是空想。”

对于后者，谢睿寒则更加不屑一顾：“超级人工智能具有如此强大的能力，完全超出了人类的范畴，假如它叛变了怎么办？我们需要一个能够说服的、通情达理的ai，而不是一个冥顽不灵的工具。”

他的设计完全遵循这样的蓝图，结果却不尽如人意。到底是哪里出了错？为什么测试会失败？天枢又为什么要故意暴露自己？莫非人类永远都无法创造具有人类思维的人工智能吗？哪怕创造出了超级人工智能，它也绝对不会是人类设想的那个样子