百合文库
首页 > 网文

阿西莫夫与机器学习(4)

更确切地说,“第零定律
”其实是一个没有被广泛认可的学说。可以在“功利主义”中找到原型。就政治哲学而言,有三个比较典型的学说:“功利主义
”(utilitarianism)、“自由主义
”(liberalism)、“自
由至上主义
”(libertarianism)。“功利主义”强调追求人类幸福最大化,而“自由至上主义”则强调个人幸福位于首位。“自由主义”在两者中间,强调维护底层的公正性,并让所有人参与预设(并且存在)一个幸福优先的顺序,使得所有人在不考虑自身实际情况(而考虑风险、收益的综合)的前提下能够认定公平。这样来看,“第零定律”在某些追求个人自由的人眼里,就会有失公允。比如,在国际贸易中,尽管国民整体的收入提高了,但作为国内供应商的福利却受到损失。
而在下一篇《消失无踪》中,一个被修改过第一定律
的机器人接到让自己“消失”的命令,伪装成了大量普通的机器人中的一员,从而“消失”。该篇还提到了这型机器人被安装了“学习以太物理”(从以太物理一词中,可以窥见时代背景;迈克尔逊-莫雷实验,相对论、量子力学的建立,使得古典的以太学说没落,现代真空涨落的观点被提出)的潜力,作为机器人正电子脑中的一个附加模块。
借由被删去后半段的“第一定律”,阿西莫夫引出了大量关于如何测定第一定律被修改和原版机器人之间的差异的思想实验。在第一定律修改以后,这些机器人变得“具有优越感”。其实这牵扯到了“显伤害
”和“隐伤害
”的区分,机器人第一定律想表明无论是“显伤害”,即主动地伤害人类,还是“隐伤害”,袖手旁观人类受到伤害,都不被允许。
但仔细想,这可能产生悖论
,因为这两者可能同时发生——一个机器人在坠落时正下方有一个人,而它只有两种选择,一种无动于衷,使得那人必死无疑;另一种调整姿态,他仍然必死无疑。在《证据》中描写的“疯子放火烧人”,在《汝竟顾念他》中面临一人或五人受伤时的决策,都是一个典型的例子。为什么这样的悖论能存在呢?
这是因为,第一定律本质不是“定律”,而是一个约束
,人类向机器人施加的约束,这一点非常关键
。这使得“第一定律”本身不可能绝对可靠
,并且其作用效力要受到制造者价值观的制约。同时,在《汝竟顾念他》中,对机器人第二定律的描述,其约束性就更加凸显,同时也引人思考机器人无条件遵循人类命令的后果,这涉及到“人类”的界定,实际上很容易让不同的两个人发布互相矛盾的命令给同一个机器人,于是形成悖论。
因此,机器人三大定律本质上给机器人设定了一个“能力范围
”,机器人只能解决三大定律约束内自洽的问题
,形成基于三大定律的“不可解决域
”,也就是悖论问题集
。针对悖论问题,阿西莫夫的思考结果是,在三大定律的基础上进行修正、补充,机器人必须能够处理悖论问题。
猜你喜欢