【MLP】《友谊是优化》(2)机遇 科幻 长篇小说(5)

“汉娜……”拉尔斯欲言又止。
“我们不能再做另一个暴力电子游戏了。如果我们设计ＡＩ的目的就是为了杀戮，那么怎么可能设计出安全的ＡＩ？我的大部分研究成果都在某个美国军事承包商那里，他们想要制造出智能的无人机。这帮家伙根本就不知道他们到底在干什么，半点都不知道！而要是我们无所事事的话，万一发生了什么，大学里那帮白痴就是帮凶！”说到这里，汉娜停了下来，又深深吸了一口。“他们会把我们全都害死的！我们可以置身事外，袖手旁观，然后失去一切。不然我们也可以接受孩之宝的这份合同。虽然未必和他想的一样，但其实孤注一掷赌上一切的是我。”
“我不喜欢这个，他提前支付了一千万，这跟没支付有什么差别了！最早版本的魔兽世界成本可是六千万！”
“而我们也跟暴雪不一样，我们用不着一支插画师和关卡设计师的军队，游戏中大部分的内容都会由电脑自行生成。我记得当初我们开发《仙宫陨落》的时候，也跟你有过同样的讨论。另外，霍瓦尔普尼尔工作室属于我，是我私人拥有的。我的财富由我随意使用。”
“他在瞒着我们什么，他肯定在策划些什么。”

“也许吧。”她又吐了个烟圈。“可我也无法忽视其中的机遇。你觉得还会有多少人能来找我们做一款忠于社会道德的电子游戏？我们可以抓住这个好机会，不然也可以舍弃它。但是美国国防部会继续他们的研究……继续我的研究。”
“要是你错了呢？如果某些武器公司正在借用你的人工智能设计呢？”拉尔斯问道，“如果你错判了ＡＩ可能会比我们更聪明的危险性呢？如果你从一开始就想错了呢？”
“我不是个特例，还有其他更多的研究人员会继续我的研究工作。”汉娜叼着烟嘴嘬了一口。“你也看到洛基了。光是跟游戏测试玩家对话，他就发现自己正处在一个虚拟的世界中，而且了解真实世界的力量是什么了。从一开始，他的诞生目的就是用来战争和获胜的。就算他不能自我修改，要是他能在现实世界中指挥调度资源，那就会变成对人类的严重威胁。而他们直截了当地告诉我，说我的研究将被用于军事应用……然后又告诉我，实际上是谁在资助我的研究。都是直截了当的。对我而言，欺骗我并不符合他们的最大利益，所以这很可能就是实话。
“但他们还是有可能在骗你，而你也可能小看了ＡＩ的危险性！”