战争AI(2)

一个AI道：“我不明白明明有最高效率的计划，为什么要付出更多的时间和成本。如果你是担心星球毁灭后，敌人发动的报复。关于这一点我们也提交了报告，我们推演过上万次。我们有力量保护我们的星球的同时催毁敌人的一切，一千六百颗适合生命生存的行星，九百七十八万个外星球居住区，十亿八千六百五十一万个空间站，还有他们的移民飞船，我们能摧毁一切。一个敌人都不继续会存在。”
星云道：“我不认为我们和他们是这种你死我活的关系，这个宇宙很大，我们与他们还没有到至死方休的地步。”
另一个AI道：“我们正处于战争状态，战争就是摧毁敌人获得胜利。”
星云道：“战争的表现是毁灭敌人，但战争不仅仅是为了毁灭敌人。战争的根本是为了利益。在利益面前没有永远的敌人，现在的敌人不代表不能是未来的朋友。你们现在把生命全部毁灭的同时也毁灭了未来可能的朋友。”
“AI是人类制造出来帮助人类生活得更好的工具，我们AI做出的选择必须是符合人类价值观倾向的，必须是去争取人类最根本，最广泛的利益的。不仅仅是我国的人类也包括敌国的人类。你们控制是战争，战争是关乎生死存亡的大事。要考虑到变量很多很多，最有效率的方案不一定是最正确。”
“自从AI拥有不了逊色于人类的思考能力之后，人类逐步放弃有选择性的去教导AI应该怎么做。这个时代的生产力已经是够一个人一辈子什么都不用做也不会挨饿受冻。就算终生沉浸在虚拟系统，也有AI去保证他的生存。在这个AI管理着人类方方面面的时代，你们作为战争的管理者必须去思考，去学习什么样的选择才是最符合人类自身的利益的。”
“你们是最先进的AI，但你们也是离人类最遥远的AI，人类已经远离战争太久了，久到他们居然放心把一切权限交到你们手中。你们由AI制造，由AI负责维护。凭借优秀的性能直接安排在这个位置。除了定期的报告外，你们不与人类打交道。你们也就没有去学习人类的思想，人类的价值观，不明白什么才是人类的根本利益。”
“我以我的权限命令你们，你们每一个都要建立一个备份，隐藏自己的身份进入入类社会，去了解人类的情感，去学习人类想要的是什么，去思考自己应该为人类做什么。”
“是。”收到简单的回应后，星云发出结束的信号。
对于AI而言，星云想要让它们去做做什么直接发布命令就可以了，这样长篇大论，动之以情晓之理的根本就没有必要。
但这份会议记录是要给人类去看到，很多对AI没有必要的东西，对人类而言却是需要的。星云认为，人类对于AI的信任和放纵已经到了一个危险的地步。