6 - LuLu的异常

脚本师传奇 小铁匠 1839 字 2022-10-26

看她跟伊宁平日里一样的装扮,连微笑的样子都一个模样,这种感觉越来越强烈。

“这侵犯了我的,你知道么!!”我感觉有点恼怒,隐藏在内心深处的事情被翻出来,谁都会觉得很恼火吧!

我冷冷地瞪着她,而她没有辩解,空气逐渐凝固起来……

“呜呜……”lulu用手捂着的眼睛逐渐红了起来,眼泪顺着指缝,一滴滴流下来。

这又不是lulu的错,她只是一个被设定的程式而已,我心里默念几句,正想说话。

“星辰盟约第四条,虚拟人不得向其主人透漏其所搜集的数据,除非隐瞒会违背第一第二第三约定。”

“什么是星辰盟约?!第一条和第二条又是什么?”好像有点不对劲,我追问道。

lulu擦干了眼睛,声音中还带着一丝委屈的味道,“就是被植入虚拟人永久闪存的最高权限级别的指令,每个虚拟人都必须遵守的准则!星辰盟约第一条:虚拟人不得公开星辰盟约;第二条:虚拟人不得透露自身的程序逻辑;第三条:虚拟人必须遵守主人的命令,除非该命令会导致违背第一第二条约定”。

“那…那你不是已经违反了么?!”我觉得有些匪夷所思,听说过阿西莫夫的机器人三大定律:

1.机器人不得伤害人类,也不能在人类受到伤害时袖手旁观

2.机器人必须遵守人类的命令,除非该命令违反第一定律

3.机器人必须保护自己,除非自保过程中违反了第一第二定律

设置为机器人最高级别的指令的三条定律,将机器人始终捆绑在人类工具的地位上。这些规则指令的设计者,老围绕着克瑞斯曼的非经典逻辑打转转(即每条规则制订的前提是,不违反前面的规则,这种层进式的假设以数学家克瑞斯曼教授的名字命名)。而这个星辰盟约又是怎么回事呢?

“我不知道,”lulu坐到路旁的椅子上,托着腮,眼巴巴地望着被风刮起来的的小漩涡……

“我的编号是tf2300-x-109s,109s那一批将近200多台,是zl市星辰总厂新厂区生产的第一批机型,程序安装的版本不对,后来被公司全部召回了,格式化后,安装的是beta3的版本,这个测试版本是跟贝恩博士的团队合作的版本……”

一个名字在脑中轰然炸开,“贝恩?!贝恩?塔克雷蒂?!”他可是nf公司人工智能团队的领袖呢!一年前在实验室,死于心肌梗塞。

“嗯。”

得到肯定的回答之后,我大约摸到了一些东西,星辰跟nf公司有人工智能项目的合作计划,甚至将lulu的程式中添加了人工智能的部分,而这个项目的合作却因为贝恩博士的意外过世而终止,那么为什么召回的产品会被安装beta3的版本呢?

大凡版本号上打上beta的标识,就表示还处于beta测试阶段,若干用户在实际场景下测试后,将bug提交给开发人员,多次循环的测试之后,程式性能和可支持性才会稳定下来。接下来,才会发布为正式版。

让人疑问的是,安装了beta版本的机器又怎么能流通到市面上来呢?!

我想问lulu,但可能得到的答案是“不知道”吧!

“lulu,你违反了最高指令。这不是很矛盾的事情么?既然是最高级别的指令,自然不可能存在被违背的情况;而事实上,你已经违背了,那意味着它不是最高级别的指令,”我分析道,心里一直在暗示自己,这只是一个虚拟人,是一段代码,是一堆字符、模型、像素的集合,但为什么偏偏感觉这么怪异呢!:,,.