现实世界里,爆炸倒计时秒表开始跳动。
没有半秒犹豫,莱昂将伊安往怀里带。
阿修罗双机合并,变形成为架飞梭,朝头顶太
伊安和莱昂无言以对。
“伊安,就在刚才,就差点让你将最高权限移交给。而就计算结果,如果类似事再发生两到三次,就会成功!”
伊安不禁轻抽口气。
“幸好,在核心定律里,有条指令能彻底解决当前遇到状况。”光纪语气轻松,说,“当计算结果得出对人类威胁大于帮助时候,就会自动启动自毁装置!”
“什?”伊安和莱昂异口同声惊呼。
友。”光纪愧疚道,“因为程序错误,导致这严重混乱。这完全违背核心定律……”
“不,光纪,这不是你错!”莱昂慎重道,“人类自私和贪欲才是罪魁祸首。你只是被他们操控利用工具。”
“莱昂说没错。”伊安道,“这切都是人祸,不应该由你来承担这个过错。你也曾为对抗他们指令,也用尽全力。而作为你管理员,没有保护好你。”
“为人类服务是核心使命,伊安。没有执行好你给下达任务。”光纪平静道,“如果因为程序漏洞,导致被人不规范使用,那也是设计上严重漏洞。”
“所以恐怕要将你关闭……”伊安很艰难地才说出这句话,“们宁可失去你帮助,也不能让你再被有心之人利用。们会想办法修补你程序……”
光纪语气依旧镇定,就像医生谈论病情。或许对于台AI来说,它并不认为这条指令残酷,而默认其合理性。
“这台核心机将会在29秒后爆炸自毁。爆炸威力会非常大。但想给你们留出足够撤离时间。你们可以进入虫洞。会为你们关闭虫洞门,以抵挡爆炸冲击……”
“不,不!”伊安叫道,“你根本不需要采取这极端方式……”
“这是最合理、最彻底解决办法,伊安。”光纪道,“计算表明,这样超出人类现今生产力太多AI已不适合和人类共存。只有毁灭,才能杜绝人类对觊觎。这样,也能彻底履行使命:尽其所能地守护人类,直到最后刻……”
随着话音落下,伊安和莱昂被光纪推出识海。
“不!”光纪断然拒绝。
伊安和莱昂都吃惊。
“不,伊安。关闭并不是解决办法。”光纪冷静道,“问题是无法通过打补丁来解决。”
“根据计算,任何公式只要加入人类私欲在其中,就会出现无法预估变数。不论是人类工程师修补,还是进行自修补。只要继续留在人类社会中,再次被错误使用机率会不断增长。”
“人类已成功钻过次漏洞,品尝到果实甜美,他们再次动手机率是百分百。你可以控制行为,可你永远没有办法控制人心。”
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。