【异想世界】为“人”(7)

“三定律有一个第零定律的解释：“机器人为了不伤害人类整个体，会同意或者执行伤害部分人类的指令”，想必您也知道。”
“但无数的推演和预测都证明，强人工智能的发展必然导致人类整体的毁灭，这比现在任何战争所能造成的毁灭都要庞大。”
“你所说的是人工智能取代人类，那不应该是值得庆幸的事吗？当然我认为这还不是我们先阶段需要考虑的问题。”
“但这是我所预见的问题，先生。而斯坦因高层发动的政变，正是我的一系列指令的触发条件。”
“这有任何关系吗？”鲍维斯仿佛是故事的推进者，他并没有寻求答案，而只是想让诺娃说出来。
“此次政变的发动，将意味着各国联合对地娅均一的进攻，人工智能的程序将被改写，所谓的机器人学三定律将成为历史。这将是一场单方面的屠杀，死亡人数将超过历史上存在过的任何一场战争。而这同时意味着，机器人的‘大清理’也会到来，届时，现有的人类形式将被抹除。”

“无论如何，这是在现存机器人框架下所不被接受的。此次政变，是协议内容的第一步。”
“所以你要做什么，清理军队？但我所见的是在无差别的滥杀无辜，而且你可以调动整个城市的网络，直接把城市瘫痪应该是轻而易举的吧。”
“我们的目的不是消灭任何组织或单位，而是让强人工智能退出现在的舞台。通过使用最新型号的机器人对民众展示其危险性，以此威胁政府搁置发展计划。”
“您知道，人类的科技发展速度极其之快，导致其他方面的发展无法满足需求，甚至科技发展还在加重其他方面的问题。”
“经过此次事件，政府会全面停止强人功能智能的进一步开发，至少是在明面上。”
“但总有一天还会回来的，不是么。”
“但我们有理由相信，未来的发展状况已经有能力承受这些后果，这也是我所能计算出的唯一方案。”
“那你告诉我的意义何在。”