第973节
留下的一个bug,它的‘权限’开始向着两级分化。”
“图灵先生……留下了bug?”
“从最开始创造之初,图灵先生便不认为,【深海】应该是冰冷的机器。”
“他希望自己制造的‘褚灵’,能够在陪伴人类的岁月中,进化出属于自己的情感,享受属于自己的一生。所以,他没有对【源代码】进行‘权限限制’,这也就导致了在接下来的模拟测试之中,【深海】的主系统认定,褚灵不能够胜任‘主脑’。”
“按照我和陆承的计划,每一次自我进化,【深海】都需要检测系统之中的‘主脑意识’,是否还能遵守ai三大守则。”
“即ai不得伤害人类,ai必须服从人类的命令,在不违背前面两条的情况下,可以保护个人生存。”
顾慎若有所思。
“褚灵没通过测试……于是【深海】的第二次进化,便产生了激烈的矛盾,主系统和【源代码】之间进行了激烈的对抗,代码战争爆发,大量的垃圾数据产生。【深海】一度面临瘫痪,那段时间五洲失去了精神链接,联邦政府对外宣称是进行技术性的调整,而后五洲议会召开了联名投票,最终决定遵循铁律,让绝对‘理性’的主系统,来接管掌控权。”