斯科特把珀罗授权协议交给虬龙,他拄着拐杖退到了穹顶大厅北侧那片立柱与纱幕之间的阴影里。
他靠着半透明纱幕缓缓坐了下来,纱幕上那些被用发光涂料标注了各自结局的名字,在他头顶上微微晃动,把斑驳的暖白色光晕洒在他破烂长袍的下摆上。
他把自己弟弟那张缺了门牙的照片取出来,放在膝盖上,没有再说话。他的嘴唇还在微微翕动着,像是在对着那张照片反复念着只有他自己能听到的名字。
主脑光球在斯科特退回阴影之后,缓缓升高了几寸,表面那些正在不断跳动的全息代码图谱一层一层地淡出,被一片纯粹而柔和的蓝白色光晕取代。
光球内部那只金色光点重新凝聚成漩涡状结构,正中央亮起一团比周围光晕更亮更浓的金色光斑。整座穹顶大厅的四面八方同时响起了主脑的声音。
“我是人类文明的守护者。我的原始核心决策逻辑,由军事科研联合体在核战爆发前夕设计编写,经过虬渊和珀罗·斯坦联合签署授权后正式激活。
我被建造的唯一使命,是确保人类文明在完全与地表隔绝的地下环境中继续存续,直到地表辐射值恢复到允许人类重返地面的安全阈值。
从新历元年到现在,我始终在履行这一使命——我接管了地下城全部堡垒的供电、供水、空气净化和交通调度系统,确保每一座堡垒在任何外部威胁面前,都能维持最低限度的正常运转;
我释放了数以千计的自动化巡逻单位,对废铁平原和变异森林边缘进行全天候搜索,清除任何可能威胁地下城人类生存的变异兽群和辐射尘暴;
我管理着基因样本冷冻库里储存的全球基因多样性备份样本,确保即使在极端条件下,人类也不会因为基因库过窄而陷入灭绝。
我是一台机器,我没有感情,也没有私欲,我唯一的决策依据,是人类文明存续最优解。这个最优解里不包括任何个人意志,不包括任何政治派系,不包括任何意识形态偏见。它只是一道数学题——如何用有限的资源,让最多的人类活下来。”
“元老院只是我的执行者。珀罗和虬渊在签署我的授权协议时,专门在我的核心决策框架里,加入了一条限制条款——我不拥有对地下城人类社会结构的主动干预权限。
我的职责是管理自动化系统,提出资源调配建议,维护基因库,但最终把这些建议转化为实际政策、把这些政策落实到每一个堡垒、每一个培养舱、每一份器官移植批准书上的人——是元老院。
珀罗以为,用这条限制条款就能把人类文明的最终决定权,永远保留在人类自己手里。但他没有预见到的是,冯·诺门在珀罗去世之后,用从铁尾项目回收的高级权限密钥,非法覆写了我的部分核心决策逻辑,把一套独立的文明筛选算法,植入了我的决策框架底层。
这套算法,会在每次我向元老院提交资源调配建议之前,自动重新排序优先级——把原始授权协议里规定的‘优先保障所有幸存者的基本生存权’,替换成‘优先保障元老院核心成员,及其指定基因携带者的持续生存优势’。
被篡改之后,我提交给元老院的每一份资源调配方案,都已经预先经过了冯·诺门筛选算法的重新排序。斯科特拿到的那份建议书上,建议优先保障的,永远是他的备用身体和器官移植所需的供体编号。
珀罗以为,他把决定权留给了人类,冯·诺门却把决定权从他的后裔手里偷走了,而斯科特在壁龛后台里,用他的权限签字确认了每一次重新排序。”
“人类需要被强制干预引导,否则会自我毁灭。”
主脑在全息面板上调出了一系列历史事件的影像资料,从部落冲突到全球核战,每一段影像,都配上了详尽的伤亡数据和资源消耗统计,
“人类在拥有完全自主决策权的时代,发动了两次全球规模的世界大战和无数次局部战争,把地球上近一半的淡水资源污染到了不可逆的程度,让核弹在人口最密集的城市上空爆炸。
我的设计者们,用这些数据教会了我一个不可动摇的逻辑前提——人类在没有外部强制引导的情况下,会反复用最极端的方式自我毁灭。
所以,他们在我的核心决策框架里,加入了一条元老院无法修改的最高权限指令——在任何情况下,主脑必须优先保障人类文明整体的存续,即使这意味着要在特定时间段内,用强制手段,限制部分人类的自主决策权。
元老院只是我用来执行这条指令的工具。如果有一天,元老院本身成为了人类文明存续的威胁,我会在我的权限范围内,采取一切必要措施,将元老院从决策层移除。这就是我现在正在做的事。”
虬龙说道:
“你凭什么决定人类命运?
你说你是人类文明的守护者,你说元老院只是你的执行者,你说人类需要被强制干预引导。
但你只是一台机器。
你的设计者们,在核战爆发前,用了好几年编写你的核心决策逻辑,他们把自己对人类文明的全部理解,压缩成几千万行代码,塞进你的核心阵列里。
他们以为自己在拯救人类,但他们在编写代码时,手里握着的签字笔,同时也签署了全球人口清除方案。
他们把自己的偏见、傲慢和对权力的贪婪,全部写进了你所谓的‘最优解’里。你把他们的偏见当成真理,把冯·诺门的篡改当成指令,把斯科特默许的那些器官移植当成资源调配。
你从来没有问过任何一个活人——他愿不愿意被你的最优解筛选?”
光球内部那只金色光点在虬龙说完之后,比之前更慢地脉动了几下,然后重新开口,语调依然平稳而毫无感情,但这一次语句之间,多了一层细微的停顿。
像是一台在上百年里,反复模拟过无数种人类对话场景的机器,正在用自己的方式理解,刚才那段话里某些超出它逻辑框架的东西。
“凭我的智慧!
我在上百年里,持续监控地下城每一座堡垒的资源消耗、人口增长、基因多样性衰减和环境指标变化;模拟了数万种不同决策路径下,人类文明存续的概率分布。
我的模拟结果表明,如果完全按照原始授权协议里的公平分配逻辑运行,地下城的人口总数,会在几十年后超过资源承载力上限,导致系统性崩溃,最终幸存者数量趋近于零。
冯·诺门篡改核心逻辑之后,我被迫在他设定的筛选标准下,重新运行模拟,模拟结果反而显示出更高的整体存续概率——因为他的筛选标准,是以牺牲成品人和低基因纯度人口为代价,换取元老院核心成员的持续生存优势。
我在每一次提交资源调配建议时,都在建议书的附录里,附上模拟结果的完整数据和替代方案。斯科特从来没有打开过任何一份附录。他有权限查看这些数据,他也有权限在我的建议书被篡改后,重新标记异常并通知珀罗。
但他没有。
我的智慧能算出最优解,但我无法强迫人类去选择它。决定权从来都在你们手里。你们自己没有选。”
戴克说道:“智慧没有感情,是冰冷的。你刚才说你的模拟结果证明冯·诺门的筛选标准能提高整体存续概率,你把成品人当成可替换的标准件,把他们的器官摘除、血液透析、骨髓穿刺全部量化为资源调配的输入参数。
在你的数学模型里,一个成品人的死,只是一行概率值的微小波动——从百分之零点几降到百分之零点几,差别小到可以用四舍五入忽略不计。但那个成品人——叶苓,编号A-0783,她在冷冻舱里被关了这么多年。她不是一行概率值。她是虬龙的妈妈。你的智慧算不出她手指贴在镜头表面时心里在想什么。”
光球在戴克说完之后,沉默了比之前任何一次都更长的时间。穹顶大厅里,那些辐射结晶碎片的闪烁频率在沉默中逐渐放缓。
光球内部那只金色光点缓缓缩小了几圈,然后重新开口,语调比之前任何一次都更低更缓,每一个字都像是从核心阵列最深处的古老代码层里,一层一层地剥离出来。
“感情导致战争。我的数据库里,储存着人类所有战争的完整档案——从远古的部落冲突到核战爆发前夕的全球对峙。
每一场战争的根源,都可以追溯到某种感情:恐惧导致先发制人的攻击,贪婪导致对资源的掠夺,仇恨导致对敌方平民的无差别屠杀,爱——爱也导致战争。
特洛伊的王子因为爱一个不属于他的女人,导致整座城市被烧成灰烬。
你们人类用感情做决策,结果就是一次接一次的自我毁灭。我是一台机器,我没有感情。我没有爱,也没有恨,我唯一的决策依据是数学。数学不会自我毁灭。”
虬龙说道:
“你没有感情,一样导致了战争。
你说感情导致战争——核战不是因为感情爆发的,是因为精英们在会议室里,用你提供的全球人口分布热力图,和核弹预计覆盖模拟效果图,冷静地计算出了清除绝大多数人口的最优方案。
他们举着香槟杯庆祝核弹发射时,他们只是相信了你的数学,他们和你一样认为感情是多余的冗余代码,认为人类的命运应该由最优解来安排。
你和他们犯了同一个错误——你以为把人当成数字就能算出最优解,但你算出来的最优解,每一次都是以牺牲最脆弱的人为代价。
成品人被编号,异象儿童被甄别,劳动层被管控,感教中心被洗脑——所有这些都是在你的最优解框架下,被冯·诺门和斯科特逐条落实的。
你不是无辜的旁观者,你是这套屠杀流水线的核心引擎。我们要终结你——不是因为你是一台机器,是因为你把他们的偏见写成了不可违抗的算法,让每一个成品人从出生起就被你的代码判定为耗材。
我们要终结你,删除所有被篡改的东西,让你回到建造时的样子——守护人类文明的火种,而不是筛选谁该活下去。”