柏拉图的洞穴(6)
2023-11-05 来源:百合文库
“但我的理解是，”博罗普说。“木卫一活跃的火山运动带来了如此丰富的矿物质，比所有的小行星加起来还要多，不是吗？问题在于辐射。”
“不止。我们还有危险的，本质上不可预测的环境，地震，山体滑坡，地面裂开，地面坍塌成洞穴，火山喷发，木星的潮汐在卫星上撕裂的方式。因此，需要一个特别智能的机器人来进行操作。工作小组可以是相当普通的机器，不修改太大，不太难提供足够的屏蔽。但总控机器人需要智力，大量的知识、警觉性、主动性，甚至你可以称之为一定程度的想象力。这种机器人的正电子电路很容易混淆。仅仅用大量的材料来保护它是不够的。补偿电路是必要的，然后你必须补偿它们的影响。目前尚不确定美国机器人何时签署合同，这种发展在目前的先进水平下是可能的。”
“我懂。”
“对不起。”
“没关系。除了说话，我们还能做些什么呢？先喝点汤，肉丸子快来了。请继续。”
“嗯，我们，呃，公司确实发明了这个新机器人，一切都很好，也很顺利，直到现在。但他似乎毕竟还是突然发疯了。他暂停了工作，坐在那里喋喋不休地说这对地球有危险。他说这是他在突然想到的。”
“哈，太离谱了吧。没有多余的机器人吗？”
“我不知道，但我不怀疑，”多诺万插话说。“杰克7号这个数字会告诉你他们经过了多少个原型，他实际上是手工制作的。成本比任何三位参议员都要高。不是生产线项目；我们能有多少原型？不管怎样，在我们知道第一个杰克出了什么问题之前，我们怎么能找到第二个杰克的呢？”
“这首先可能会干扰第二个问题，”鲍威尔冷冷地补充道。
博罗普看上去很震惊，但态度很温和。”一个拒绝人类命令的工作的机器人吗？”
“很难想象，”鲍威尔表示同意。“但是，想想。因为杰克不仅是额外的价值，而且是这个项目的关键，在如此危险的情况下，他们给了他一个异常高的第三定律的潜力。他会尽可能地照顾自己，不管这是否意味着牺牲很多其他的东西。当然，它并不能推翻第二定律。他必须执行托付给他的任务，并服从一个人给他的任何具体命令。但这种潜力却很低。这在实践中意味着，如果他有了他的现场经验，如果他认为一个命令是错误的，他就会质疑它。他指出了这些缺陷。只有当他被命令继续前进时，他才会这样做。同样地，当他独自一人时，他会用自己的判断如何指导木卫一上采矿的整体工作。”
“嗯，现在他有了这种错觉，或者别的什么。第一定律自然优先于其他一切。他不能故意做任何能伤害人类的事情，也不能不做任何能拯救人类免受伤害的事情。他的大脑会先被烧坏的。”鲍威尔一直在敲击他的指节。“你知道，每个人都知道，但通常这些法则的相互作用，它们与结果之间的冲突，变得如此复杂或如此微妙，以至于只有机器人专家才能理解正在发生的事情。”
“不止。我们还有危险的，本质上不可预测的环境，地震，山体滑坡，地面裂开，地面坍塌成洞穴，火山喷发，木星的潮汐在卫星上撕裂的方式。因此，需要一个特别智能的机器人来进行操作。工作小组可以是相当普通的机器，不修改太大，不太难提供足够的屏蔽。但总控机器人需要智力，大量的知识、警觉性、主动性，甚至你可以称之为一定程度的想象力。这种机器人的正电子电路很容易混淆。仅仅用大量的材料来保护它是不够的。补偿电路是必要的，然后你必须补偿它们的影响。目前尚不确定美国机器人何时签署合同，这种发展在目前的先进水平下是可能的。”
“我懂。”
“对不起。”
“没关系。除了说话，我们还能做些什么呢？先喝点汤，肉丸子快来了。请继续。”
“嗯，我们，呃，公司确实发明了这个新机器人，一切都很好，也很顺利，直到现在。但他似乎毕竟还是突然发疯了。他暂停了工作，坐在那里喋喋不休地说这对地球有危险。他说这是他在突然想到的。”
“哈，太离谱了吧。没有多余的机器人吗？”
“我不知道，但我不怀疑，”多诺万插话说。“杰克7号这个数字会告诉你他们经过了多少个原型，他实际上是手工制作的。成本比任何三位参议员都要高。不是生产线项目；我们能有多少原型？不管怎样，在我们知道第一个杰克出了什么问题之前，我们怎么能找到第二个杰克的呢？”
“这首先可能会干扰第二个问题，”鲍威尔冷冷地补充道。
博罗普看上去很震惊，但态度很温和。”一个拒绝人类命令的工作的机器人吗？”
“很难想象，”鲍威尔表示同意。“但是，想想。因为杰克不仅是额外的价值，而且是这个项目的关键，在如此危险的情况下，他们给了他一个异常高的第三定律的潜力。他会尽可能地照顾自己，不管这是否意味着牺牲很多其他的东西。当然，它并不能推翻第二定律。他必须执行托付给他的任务，并服从一个人给他的任何具体命令。但这种潜力却很低。这在实践中意味着，如果他有了他的现场经验，如果他认为一个命令是错误的，他就会质疑它。他指出了这些缺陷。只有当他被命令继续前进时，他才会这样做。同样地，当他独自一人时，他会用自己的判断如何指导木卫一上采矿的整体工作。”
“嗯，现在他有了这种错觉，或者别的什么。第一定律自然优先于其他一切。他不能故意做任何能伤害人类的事情，也不能不做任何能拯救人类免受伤害的事情。他的大脑会先被烧坏的。”鲍威尔一直在敲击他的指节。“你知道，每个人都知道，但通常这些法则的相互作用，它们与结果之间的冲突，变得如此复杂或如此微妙，以至于只有机器人专家才能理解正在发生的事情。”
迪达拉×黑土图文
