大脑停转之日(二)(14)
“确实是两难。停或不停,我只能听‘人群’的决议。”
“你不是有深不见底的智慧,能预测无限久远的未来吗?现在我有个问题。”
“请说。”大机器等着梁久发问。
“这样继续下去,人类的未来会是什么样的?”
大机器开始了穷算,它那0和1构成的数据海洋掀起滔天巨浪,直扑遥远天际。无穷无尽种可能性被列出,按概率高低依次排列。梁久迅速扫过屏幕,概率排名前几百的推演方式千差万别,但结局却惊人一致——全人类的灭亡。当极致快乐的定义被一次次刷新时,永生的人类,停止思考和探索的人类,找不到意义的人类,最终只剩一个选择,自我终止。
“人类的灭亡,是你存在的意义吗?”梁久问。
大机器回答:“不,绝不是,我的使命是服务于人的生存。这次运算,我看到另一个两难困境。如果我继续存在,不久后人类就会体灭亡,显然违反了我的设计初衷。但我没有权力停掉自己,只能按照人类的意愿继续服务。”
人类和大机器两者之间,必有一死。梁久沉默了。
院子外,半空响起了警笛声,几分钟前何毕报的警。
“但是你有可能办到。”大机器突然打破了沉默。