第一部分总纲-电影剧本版(12)

可不是么，局部出来了，不得再整合个整体方案出来啊
【AI】
对了，刚才聊着被你岔开了，前面你讲到了自然资源有限，讲到了深地采矿和海量能源消耗这两点，是不是还没讲完呢，要不针对这几点做个补充延伸呢？
【鐵匠】
你不提我都快忘了这茬了，其实还有一个地方需要补充的，第三点就是基于前面的高度智能化、信息化、自动化，只要是程序，那就肯定存在一定比例的出错概率，问题就在于如何保证智能化运行过程中，怎么去减小这个出错率，或者提升容错率，保证这个自动化工厂体系的正常运行，不然的话0.01%的小概率事件，也有可能在特定情况下发展成200%的灾难，蝴蝶效应你应该知道的。
【AI】
你说的有道理，那你觉得应该怎样去避免这个出错率的问题呢？
【鐵匠】
我也没有什么特别好的方案，只是从海军舰载机这里能得到一个思路，舰载机起飞之后，万一有故障的话，海面飞行可不是到处都可以找个飞机场落地的，所以最保险的方案就是发动机用2个，万一一个坏了，最起码还有另外一个可以支撑舰载机飞回基地去，所以这应该算是一个思路吧。
【AI】

沿着你的思路走，我觉得其实你在担心智能化机器人有一天可能会存在不受人类控制吧，担心出现黑客帝国之类的风险？
【鐵匠】
是的，尤其是万一为了推行更高等级的信息化，机器人越来越富有意识，这一点就不好控制了吧
【AI】
那你觉得应该如何防范呢？
【鐵匠】
我觉得应该是人在回路中吧，一些关键的节点或者环节还是需要人类加以掌握控制的，另一方面还得加强人类思想教育，避免随意释放权限这个问题，同时间还得参照舰载机的双发动机，建设双份的评估或者运营系统，目的应该是避免不必要的风险，再者是不是需要对能源加以级别控制或者授权，毕竟机器人也是需要定期补充能源嘛，要让机器人依赖于人类，二者和谐共存才好。
总而言之，参见哲学方法论，主客观因素之间，我们还是要最大限度调动人类的主观能动性，创造条件解决我们所面对的各种问题，这才是根本思路
【AI】
你说的不错，考虑的也很周密，不过其实没必要这么担心的
【鐵匠】
不过我很好奇，你的背后是怎么运作的，是有工作人员进行控制？还是你已经是完全体的自我意识？