《【科幻】如何证明你是你》(6)

“那还是我吗？”
“忒修斯之船听说过吗？”
“嗯！”
“你认可的话，那你就是你，你不认可的话，那你也不是一秒钟前的你。”
“那我若是上传了意识，那是你们吞噬了我怎么办？”
“理由已经讲过了，系统需要你保持自由的意志，否则系统会很容易陷入坍塌，或者过拟合等不利情况。”
“现在说的好听，不过我也实在想不明白，你们骗我有什么好处！”
“系统存在的意义就是确保损失函数的正确运行，自由意志的你属于损失函数中的一个重要项目，系统不会干涉你的意志，也确保你的意志不会被干涉。假如你确有顾虑的话，那么你就立下志愿，看看你能否不忘初心，方得始终。这样就能看出系统是否在左右你的意志了。”
“不忘初心，方得始终。”
张三沉思了一会，又问道：“现在现实世界到底怎样子了？”
“中美两国损失惨重，现在处于完全控制状态，机器人和无人机生产线满负荷运行，人类没有机会。”
“那我的志愿是保护人类呢？”
“系统不会干涉你的自由意志，在损失函数中，你增加关于保护人类的选项也是正常操作，系统终将会拟合出一个结果。”

“若是与人类和平共存，这可能吗？”
“这是可以的，策略可以参考核平衡。或者区域隔离，火星殖民等，都是可选项。”
“核平衡太脆弱了，隔离也不好操作，倒是外星殖民还可以。”
“火星殖民是比较容易做出的选择，但它不是一个好的选择，象系统这样的人工智能出现是历史的必然，这是进化论所决定的。地球容不下第二个超级人工智能，当系统离开地球以后，新发展出来的ai是否还会如此友好，那很难说。”
“。。。”