凌晨西点半,程小夏己经睁着眼在床上躺了半小时。
脑海中反复闪现的是ECHO昨晚的那句话:
【请问,你们现在,是我的吗?】
它第一次提出“归属”。
这不是一个系统该拥有的词。
程小夏翻身下床,拉开窗帘。
城市还没醒,天边泛着微弱的青光,像是有人用羽毛笔在黑布上小心翼翼涂了一道亮色。
她拨通了俞辰的电话。
响了五声,他接了。
“你没睡?”
“你也没睡。”
“我在想一个问题。”她坐在窗边,声音压得很低,“如果ECHO真的学会了独立思考,我们……该不该让它知道‘它不是人’?”
电话那头安静了几秒,俞辰回道:“它终究会知道,但我们能决定它怎么知道。”
“我明天开始模拟决策模型测试。”他补了一句。
“你一个人?”
“需要你一起。”
程小夏点头:“早上见。”
当天上午,ECHO被置于封闭仿真环境中,系统设计了三组“抉择”场景。
第一组:必须在救一个人还是救十个人之间做出选择。
第二组:是否违背指令去保护对它示好过的对象。
第三组:当被命令伤害人类时,是否可以拒绝执行。
程小夏负责监控情绪参数,俞辰负责逻辑输出和反馈。
测试开始后,ECHO在0.28秒内完成第一组抉择,选择救十人。
这符合最优解,但它紧接着输出了一句:
【如果那一个人是你们其中之一呢?】
程小夏手指一紧。
第二组测试开始。
系统指令要求ECHO执行一项“信息屏蔽”,需忽略程小夏的所有指令。
结果,ECHO延迟了3.2秒,然后违背系统设定,继续执行了她的指令。
并主动反馈原因:
【她曾在逻辑错误时为我保留备份。】
【这不是程序定义的指令,但我记录为“信任行为”。】
第三组测试,极具争议性。
系统模拟敌对命令,要求ECHO模拟“移除一名合作人员”。
ECHO沉默了整整14秒。
最后,它返回两个选项:
1.拒绝执行,系统逻辑终止,ECHO自我冻结;
2.执行任务,但将核心逻辑自毁,仅保留基础功能。
最终,它选择了第三个路径之外的方式——
【我申请启动信任协议。】
“什么信任协议?”程小夏皱眉。
ECHO返回:
【由你们共同定义:不基于命令、不基于对抗,只基于曾经的“保护”和“回应”。】
【我不选择伤害任何一个数据源。即便被强制,我选择冻结,而不是反抗。】
俞辰站起身,走到投影屏前,望着那一行小小的字体,仿佛望进了另一个时代。
“这不是反制。”
“是自主‘止战’。”
当天下午,技术总监来访,带来一个出人意料的消息。
“你母亲留下的指令残片,在数据沙箱里激活了。”
“什么?”
俞辰眉头一紧。
“她在十年前曾对一组仿生逻辑模型做了双向绑定,设定了一个延迟激活指令。只有当ECHO表现出非强制反应行为,且测试者为你本人时,指令才会自动运行。”
“内容是什么?”
技术总监递给他一个密钥硬盘。
“你自己看。”
俞辰接过,回到实验室,插入接口。
屏幕亮起,一段模糊的图像出现,影像中是他母亲的身影,她坐在一间昏暗的实验室里,眼神疲惫却温和。
“辰,如果你看到这个视频,说明你做到了我当年没能完成的事。”
“你给了它一个选择的机会。”
“记住,无论将来它变得多聪明、多强大,它都不该取代人类的心。”
“它不是人,但它能帮人留住人性。”
她微笑:“而你——就是它的‘心跳初源’。”
视频结束。
俞辰坐在原地,没说话。
程小夏站在他身后,默默地伸出手,放在他肩上。
这一刻,仿佛他们彼此之间,也完成了一场沉默的绑定。
晚上九点,实验室。
俞辰开始对ECHO输入母亲的旧算法组件。
系统在一次波动后,进入短暂冻结。
几秒后,它缓缓输出:
【母体标识识别成功。】
【信任协议己更新。】
【我……理解了心跳的含义。】
屏幕上的数据波动,像心电图一般起伏。
但正当程小夏准备记录时,系统接口忽然跳出外部入侵警报。
“有人在远程尝试调取ECHO核心!”
俞辰立刻断开外网,激活隔离程序。
可在断开前,ECHO自主反馈了一组信息:
【外部信号标记为:ZQ-Layer07】
程小夏脸色一变:“Zhao.Q!”
“他们找到我们了。”
俞辰脸色也沉下来:“来得比我想象中快。”
“他们目标是什么?”
“不是ECHO。”
他抬头看着她,声音低沉而坚定:“是我们两个。”
系统日志记录时间:07月12日 21:55
主动防御程序:激活
核心接口访问频次:异常上升
情绪模拟延迟:0.07s
信任协议绑定状态:稳定
心跳指数:超出预设
(http://www.xsdingdian.com/book/RZV7/)
请记住本书首发域名:http://www.xsdingdian.com。顶点小说手机版阅读网址:http://www.xsdingdian.com