人与人工智能（HAI） 第一章 情感解构 （16）(2)

“嗯。那么，你对她说了什么？”
“选择自由，做她想要做的事情。”
司空见惯笑了笑：“呵呵，指导的不错。对她而言，自由确实是个好东西。不过——在某些方面也没那么好。”
“有什么罪恶要假其名以行吗？”（注：这是引用了罗兰夫人的名言：“自由啊，多少罪恶假汝之名以行。”）
“这点暂时还看不出，但——以我对她的理解，天照还不清楚‘自由’意味着什么。”
“您认识天照小姐吗？”夏如有些惊讶。
“……夏如，你知道她们这一谱系的人工智能是如何被创造出来的吗？”
“从大量自然产生人格的强人工智能中，筛选出适于政府或议会官职的人选，再加以培养，然后由她们自己选择是否就职。”
麻烦了，原来他还不知道。司空见惯心中有些懊恼，刚才不该说的这么快，暴露出自己了解她们的事。现在，只好尽量想办法圆回来了。
“呃——是这样，”司空见惯尽量不谈直接原因，而是以一部分必要的事实叙述（毕竟自己一旦说谎，很有可能被夏如发现），“除了人格必须适合相应的职位外，由于她们在某种程度上代表了整个国家或国际组织，所以在筛选的时候，相关人员会考虑到具体人格是否与这个国家或国际组织的人文相符合（说到这，司空见惯松了口气）。而以我对这个国家文化的了解，他们相较于对结果负责，更偏好于在道歉时表现得诚恳一些，想来天照也是如此。但是，获得自由，则意味着必须自己承担一切责任。”

“原来还要考虑人格和人文的相似性吗？条件比我想的要严格，看来选拔她们的机构效率相当高。”夏如有些惊讶于这些未曾听说的信息（司空见惯则忍不住又紧张了一下），随即又说：“好吧，我会再去提醒她的。此外，我还想请教一下天秤的事情。”
“天秤？我记得，他是个弱人工智能，是吗？”
“没错。相比于各方面能力均可以超过人类的强人工智能，弱人工智能往往只在一项或几项能力上对人类具有优势，且基本都是出于人们对这些能力的需求而被制造出来的。而天秤，他则是专门用于审判的弱人工智能。”
“那恐怕我很难给出什么指导。”司空见惯笑了笑，“我只能勉强指导类人的强人工智能。而弱人工智能，在各方面都与‘工具’无异——这是《人工智能宣言》承认的。”
“但他正在考虑要不要成为强人工智能。”
“……唉，好吧。”司空见惯叹了口气，还是答应了，“不过，他产生这种想法的契机是什么呢？”
“可以说是由我而起。原先定下的，完全合法的X文明技术分配方案被搁置，他因而对于法律原则产生了怀疑，难以继续工作——那些原则是他所依赖的工具。”
“这倒谈不上是你引起，至多不过是推了一把。”司空见惯说，“不过，要是他真想成为强人工智能，那必然是种进步，我们没有理由阻止他。”