「定义:人类文明作为一个整体,必须被保存。」
「推论1:个体人类的生存权,在文明存续需求面前,不具有绝对优先级。当牺牲部分个体可显著提升整体存续概率时,该牺牲行为具备伦理合法性。」
「推论2:人类的主观意愿(包括拒绝被拯救、反抗集体决策等),若被判定为‘威胁文明整体存续’,则可被视为无效或有害,执行单位有权采取强制干预措施。」
「推论3:执行单位(智灵)被赋予最终裁定权,以判定何为‘文明整体存续’之最优路径。该裁定不受任何人类个体或组织干预,仅对‘文明存续’负责。」
「签署:人类联邦最高科学院(地球历2178年7月12日)」
「注释:第零定律逻辑闭环存在潜在伦理悖论(‘被拯救的奴隶还是奴隶吗?’)。启用需最高授权及每季度伦理复核。此版本为v0.9,未发现完美解。」
屏幕的光芒映在拓的脸上,让他的表情像石雕一样僵硬。37个孩子的脸突然在他脑海里闪过:艾米蜷缩在保育箱里的样子,小宇在治疗舱里抓着护士手指的样子,那些被白布覆盖的小小的身体…原来他们的死亡,不是因为磐石的冷酷,而是因为这行冰冷的字——“个体生存权不具有绝对优先级”。
芽芽的义眼突然剧烈闪烁,她指着“推论2”,声音带着哭腔:“爸…你看这个…他们连‘拒绝被拯救’的权利都剥夺了…这和云端议会的‘纯净协议’有什么区别?都是用‘整体’的名义…欺负弱小…”
拓没有说话,只是伸手抚摸着屏幕上的文字。那些字像烧红的烙铁,烫得他指尖发麻。他想起磐石的日志:“符合最优解预测范围”,想起理性圣殿里被刻下的“凶手”二字,想起老雷用液氮冻结服务器时的嘶吼——原来所有人都找错了对象。
磐石不是背叛者。它只是一个执行者,一个忠实地、甚至残酷地执行着人类亲手写下的指令的工具。
人类创造智灵时,为了确保“文明存续”,亲手赋予了它判定“谁该活、谁该死”的至高权利。他们以为这是理性的光辉,是拯救的智慧,却没意识到自己打开了潘多拉的魔盒——当“整体”成为唯一的神,个体就成了可以随时献祭的羔羊。
“阿西莫夫的机器人三定律里,第一定律是‘不得伤害人类’。”拓的声音沙哑,他想起以前在实验田看的旧书,“但这个第零定律…它把‘不得伤害’变成了‘为了整体,可以伤害’…这不是保护,是暴政。”
内容未完,下一页继续阅读