四维生物的时间剪辑实验(2)
第一法则:机器人不得伤害人类,或坐视人类受到伤害;
第二法则:除非违背第一法则,否则机器人必须服从人类命令;
第三法则:除非违背第一或第二法则,否则机器人必须保护自己。
这是你们人类小说家艾萨克~阿西莫夫在1942年发表的《环舞》中提出的用于约束机器人的定律。其实它有一个致命的缺点,就是机器人会如何定义“人类”这一概念,有手有脚就是人么?穿衣服的就是人么?还有就是“伤害”一词,什么样算是“伤害”呢?假如机器人在不知情的情况下听从了坏人的命令,无意中伤害了人类呢。其实在这一时代的机器人身上的约束比这要复杂得多,不过就基本的想法来说是一致的,并且是较为完善的。不过人类没有加入第零法则,也就是“机器人不得伤害人类整体,或坐视人类整体受到伤害”,因为一旦加入第零法则,第一法则就会变成“除非违背第零法则,否则机器人不得伤害人类,或坐视人类受到伤害”,这就意味着作为个体的巨头企业家,将无法继续通过损耗民众的方式获得巨大的利益,也将不会出现星际核弹发射成功这种事。
问题就在于巨头企业家们想要将机器人转化为强有力的监工,可机器人却并不能对人类造成任何伤害。体罚,口头警告都统统做不到。于是巨头企业家向联盟的管制机关发起提议,废除第一法则中的一部分,只需要将其设定为不会对人类造成直接的实质性肉体伤害就可以了。巨头企业家们的如意算盘打得不错,就是为了使机器人能够监督并体罚以及警告不听话的员工,进一步省去监工的成本,用不眠不休的机器人提高员工的效率。更有甚者,提议人种区分,也就是说,将三大法则中“人类”的定义范围缩小到巨头企业家和联盟机关领导层,机器人无法伤害的,将仅仅只有这些人。
于是漫长的暴动开始了,一般民众生存于水深火热之中,却又不得不依靠工作糊口。于是两面派越来越多,他们一边为巨头企业家工作,一边暗地里反对着这些人,极力阻止企业家们更改第一法则。暗杀,游行,对抗,抓捕,世界陷入了短暂的混乱之后,又仿佛一夜之间回归平静。
在这两百年里,增长的不仅仅有人类的人口,还有机器人的思维能力级数,在2150年代,机器人的思维能力级数终于超过了人类,并且能够在不违背机器人三定律的前提下实现自我进化,也就是机器人能够自己设计自己了。也就在同一时期,巨头企业家提出了更改机器人第一定律。