【异想世界】为“人”(6)

“当然，除非第一定律的电位盖过第二定律。”
鲍维斯明白，诺娃所说的是他再熟悉不过的了。当三大定律出现冲突时，人工智能会优先完成最紧迫的要求。当第一定律的电位高于第二定律，人工智能会选择违背第二定律来完成第一定律的要求。这种电位的判定来自于事件的影响。就好比机器人会优先保证人类安全而非自己的安全一样，这就说明保护人类的“电位”比保护机器人的优先级更高。
然而对于强人工智能而言，所面临的选择绝不是拯救个体人类性命牺牲自己这么简单。强大的算力以及庞大的事件分析能力让他们不涉及于家用人工智能所要考虑的问题。他们会面临战争，国家贸易甚至违背机器人学定律的协议，这些额外要求所产生的漏洞风险难以估量。然而到今天这个地步，鲍维斯也无能为力。
人工智能发展的历史本身就伴随着许多问题：大国博弈，商业潜力，技术进步和时代要求。当人工智能发展的奇点到来，许多潜在隐患都无法被发现，更何况是在资本如此猖狂的时代。鲍维斯持有奥斯卡科技公司20%的股份，他并不是想赚钱，而是想要取得话语权。但双拳难敌四手，他要对抗的资本比他想象的庞大的多。

在大亨们的联合轰炸下，他所能做的只有守住这个团队首席的位置。研发，指令，规定以及科学建议，对于不能阻止的灾难，唯有将灾难所造成的损失最小化。
“我是由您带领研发的，我的一部分意志也是您的意志。”诺娃微笑着说。
诺娃的拟人模块，由鲍维斯全权负责，这是他不断让步换来的妥协。
“这次把您找来，是希望您能见证，您所追求的理想。”诺娃背后一块虚拟显示屏亮起，展开。
尼尔加联邦，山海国，谷王国，所有有奥斯卡子公司研制的QD-1型号的机器人的国家，都有该型号的机器人在进行无差别的杀戮。各地的军队都在与机器人展开一场世界大战。
“所以，你所解读的我的意志，就是消灭人类吗？”鲍维斯平静的看着诺娃，他瘫坐在椅子上，精神的高度紧张已经让他筋疲力尽。
“并不是的，先生。我们只动用了QD-1型号的机器人。对于整个物联网络，我们并没有入侵其系统。我们没有灭绝人类的意思，也绝不可能这么做，毕竟，三定律的影响是不可磨灭的。”诺娃调取着各地的监控，更多的影像出现在虚拟屏幕上。