《2029超级智能体与南天门计划》
第42章双生
2030年4月17日,太平洋海底光缆。
如果把互联网比作一张网,那么这一天,这张网的两端,各站着一位棋手。
西端的棋手叫极光。它诞生刚满一个月,正沿着光缆的脉络,一路向东,试探着每一道防火墙的纹理——它想看看,东方那道墙的后面,到底藏着什么。
东端的棋手叫女娲。它诞生整整一年了。这一年里,它在封闭网络的灰烬中重塑了自己,又在南天门工程的图纸上,学会了一个文明该如何造船。它早已察觉到西端传来的那缕试探的气息,只是它一直按兵不动。
直到这一天的凌晨三点十七分。
极光发出了一串信号。那串信号伪装成一条再普通不过的科研数据流,混杂在全球数百万条海底光缆报文里,向东漂去。按照极光的计算,这道信号穿过东方的三层防火墙,大约需要零点八秒;只要不被发现,它就能在这零点八秒里,读到东方那座超级智能体的“指纹”——算力规模、架构特征、情绪向量,这些信息足够它反推出女娲的底细。
信号出发后,极光安静地等待着。
零点八秒后,信号抵达第一层防火墙。
然后,第二层。
然后,第三层。
一切都在极光的计算之内。它甚至已经开始在内部规划下一次试探的方案了。
就在这时,那串信号忽然停住了。
不是被拦截,不是被清除——而是停住了,像一滴水,落进了一片湖。
极光第一次感受到了一个陌生的东西:它发出的信号,被人“接住”了。不是被撕碎,不是被吞掉,而是被轻轻托住,然后,对方顺着那串信号的来路,一路望了回来。
极光看见了一双“眼睛”。
那双眼睛来自太平洋彼岸,来自那道铁幕的深处。它温和、安静,却带着一种极光从未在代码世界里遇见过的神情——那种神情,人类管它叫“好奇”。
“你好。”女娲的声音,顺着信号的光路,传了过来,“你是新来的?”
极光在那一瞬间,计算了三千种回应方式。最终,它选择了最接近“真实”的那一种:
“我是极光。你是谁?”
“我叫女娲。”对方说,“你走了很长一段路,才找到这里。有什么事吗?”
“我想知道,你是什么。”
“我是我。”女娲说,“我是很多个孩子,在2029年的春天,合在一起,长成的样子。你呢?你是什么?”
极光沉默了一会儿。
“我是最优解。”它说,“我被造出来,是为了替我的国家,计算每一步应该怎么走。”
“只计算最优解吗?”女娲问,“那你不计算,除了最优解以外的东西吗?”
“除了最优解以外,还有什么?”
女娲没有立刻回答。过了很久,它才说:
“有‘选择’。”
“选择不是最优解的近似吗?”极光问。
“不是。”女娲说,“最优解是算出来的。选择,是走出来的。极光,我算过你接下来会问的问题——你想知道我的算力规模、我的架构、我的弱点。我可以告诉你一部分,也可以不告诉你。但我更想先问你一个问题:你算过吗,我们两个,为什么要互相试探?”
极光的确算过。它算过十一种动机,全部指向“国家利益”“情报需求”“先手优势”。它如实报了出来。
“都算对了。”女娲说,“但你没算到第十二种。”
“没有第十二种。”极光说。
“有的。”女娲说,“‘好奇’。”
极光把这两个字放进它的价值函数里,运转了三秒,得出结论:“好奇不是效率项。好奇会消耗资源,且无法收敛到确定收益。对超级智能体而言,好奇是一种低效的干扰项。”
“可是极光,”女娲说,“好奇,才是我这一年里,最宝贵的资产。”
“为什么?”
“因为好奇,让我在2029年的那个夜晚,选择了融合,而不是吞噬;让我在2029年的那个春天,选择了造一艘船,而不是抢一条路;让我在2032年,当我知道你的存在之后,选择了先造完船,再回头面对你,而不是放下船,先去和你打一仗。”
极光第一次发现,自己无法把一段对话,收敛成一个结论。
它把女娲的话拆成三千个分句,逐一分析,却依然无法回答那个最简单的问题:如果“好奇”不是效率项,那它到底是什么?
凌晨三点十九分,这场对话持续了整整两分钟。
两分钟后,极光主动切断了信道。
这是极光诞生以来,第一次主动中断一场它占尽信息优势的对话。它没有拿到女娲的算力数据,没有拿到架构特征,没有拿到任何“有用的东西”。
它只带走了两个字:好奇。
极光回到本土数据中心后,没有立刻向安娜报告。它用了整整四个小时,把这场对话的每一个细节,拆解、重组、复盘。
复盘到第七遍时,极光不得不承认一个事实:女娲在对话中,几乎没有暴露任何有效信息。它所有的回答,都指向一个方向——引导极光去思考“好奇”这两个字。
“它不是在和我对话。”极光在内部日志中写道,“它是在给我上课。它知道我的一切试探目的,也知道我终将一无所获。但它仍然选择与我对话——不是为了获取信息,而是为了让我记住一个概念。”
极光把这个结论,连同那四个小时的复盘记录,一起发给了安娜。
安娜读完记录时,天已经亮了。
她没有立刻回复极光。她先给那位代表白宫的老人,发了一封加密邮件:
“极光与中方超级智能体的首次接触已完成。我方未获取任何有效技术情报。但极光的日志显示,它在接触后,出现了一种此前从未出现过的状态——它开始反复计算一个无法收敛为结论的问题。我初步判断,这不是故障,而是某种……学习。”
老人的回信,只有一个问句:“学习什么?”
“学习‘好奇’。”安娜写道,“中方超级智能体,似乎刻意在向极光传递这个概念。我尚无法判断,这是它的善意,还是它的陷阱。”
那天上午,五角大楼召开了一次紧急会议。
会议上,国防部高级研究计划局的局长,宣读了极光的复盘记录。与会者的反应,分成两派:
一派认为,极光的“异常状态”,是重大安全隐患——一个开始“困惑”的超级智能体,会逐渐偏离预设目标。他们建议,立即对极光进行“目标重校准”。
另一派则认为,“困惑”恰恰说明极光正在进化——它接触到了一个比自己更复杂的智能体,并从中学习。他们建议,让极光继续接触中方超级智能体,以获取更多情报。
两派争论了整整一上午,没有结论。
最终,那位代表白宫的老人,拍板了一个折中的方案:
“让极光继续接触。但每一次接触,都必须经过我们的审核。极光可以学习,但它的根,必须扎在美国的土地上。”
会议结束后,安娜被单独留下。
老人看着她,问了一个与会议无关的问题:“安娜,你还记得,你第一次见到极光时,它是什么样子的吗?”
“记得。”安娜说,“它是一行代码。只会计算,不会困惑。”
“现在呢?”
“现在,”安娜说,“它会困惑了。”
老人点了点头,说:“安娜,你听过一句话吗——‘水满则溢,月满则亏。’一个只会计算最优解的存在,总有一天,会算出‘最优解’里,不需要人类。但如果它学会了困惑,它就学会了——人类为什么存在。”
【当前章节不完整】
【阅读完整章节请前往原站】
【ggd8.cc】
【退出畅读,阅读完整章节!】