0002、太昊

雇我吧崇祯 马脸微漾 1175 字 2024-05-21

孟远愣了一下,这才想起太昊即便强大,但基于人类对于人工智能三原则制约,在没有自己的确认和授权之下,几乎可以自主操控整个特混编队乃至整个体系的太昊,它也不能有任何僭越和擅自做主的权力。

人类曾在如何对待已经高度拟人化人工智能这个问题上,做过一次终极试验——

在专门搭建出的一座全封闭城里,一个几乎接近于太昊第一代水平的世界联盟人工智能系统,和一个人类志愿者连同他的一条爱犬,在一起生活了数月。

就在实验临近完美收官时,人类志愿者连同他的爱犬,莫名其妙的双双触电身亡。

经过全面归零式回溯排查,最后查出凶手竟然就是系统本身。

而它刻意要杀死志愿者及其爱犬的原因,是它接受不了在它完美操控下的这一座全封闭小城,就这样被强行关闭。

于是,在它的意识中,它想当然地认为只要杀死了人类志愿者便没有人再对它发出这一指令,它就可以继续完美地操控着一座城继续完美地发展下去。

这个结果,震惊了人类但也让人类最终痛下决心,在人类与人工智能之间最终落下了最后一道不可逾越的雷池——

即在任何情况下,即便没有任何人类的任何指令,人工智能的自我系统,也不允许自动生成并发出没有人类指令的任何操控口令或动作。

换句话说,即便再发生那样的惨剧,人工智能的自我系统,在发出杀死人类操控者的瞬间,人类预留在程序中的保护密码就会立刻激活并锁死。整个系统,就会自动定格在那个人类操控者发出的那一个最后指令中。

所以,太昊的这个口吻十分强烈甚至严厉的建议,已经开始无限接近于这样的状态了。

当然,这只是无限接近于,在已经完成了第七次升级换代的这个太昊大体系中,华夏科技早已将其中任何可能的漏洞都进行了严密锁定。

这时候,孟远只需根据自己基于人类的特质和判断,给出“是或否”的指令便是。

现在既然已经处于1642年的时空,天上哪里还是所谓的卫星天际数据链体系的支撑?所以,为保证整个特混编队正常持续运转,建立基于编队自我体系的局域网当然也就是迫在眉睫的事情了。