第二章 伤亡（上）

第二章 伤亡（上）
“可信计算框架（TCF，Trusted Computing Framework）是弗拉迪米尔·沃洛科夫与另外几位著名学者在2145年秋季共同发起的一个项目。此前AI的编程问题酿成了好几次重大事故，沃洛科夫本人也刚刚在沃洛科夫AI的设计方面取得了革命性的进展。
TCF提出的目标是基本消灭未来再度因为编程问题酿成惨剧的可能性，其中也包括因为意外写出敌性AI而导致的问题。”
“之前沃洛科夫进行的预研工作已经证明，存在一套编程体系，可以将其所编写的计算系统的输出错误（按照沃洛科夫性质评价的）限制到一个任意小的范围之内。
但是此前人们也公认这样的系统并没有什么实用价值，因为这些研究同样表明此类系统的细节推导繁琐异常，而且也不能指望人类程序员在实现这样一套巨大系统的过程中不会产生人为失误。”
“TCF的先驱者们提出的解法在理论上非常简单：借助已设计的沃洛科夫AI的帮助，他们会先对整个体系进行完整的推导并且对结果进行严格周密的相互检查。
然后再把整套系统重新套用到各个设计AI自身之上，以便消除二阶缺陷——也就是导致AI本身没能注意到某个问题的设计缺陷。
接着AI们会再次对体系本身进行检查，体系再反过来套用，不断迭代直到收敛为止。他们也证明了一旦停止人工干预，整个过程就必然收敛。”
“在TCF的整套体系中尤为受到抨击的一点是沃洛科夫等人提出的未来应用。他们倡议在体系AI的基础上再开发下一代的AI设计专用AI，然后再让他们设计下一代AI，不断重复。
而这一切的最终目的是让这些AI彻底取代人类程序员，用于开发一切软件，从自动车辆的控制到核弹的发射协议，乃至于这些AI本身的后续开发。
这些后代程序的正确性将可以从它们的祖先身上得到保障，一直上溯到沃洛科夫等人的原始工作。他们也承诺说会进行严密的推导，仔细的检查，并且保持透明公开，仔细聆听整个计算机科学界的意见。”
“一套严格无错的计算体系拥有难以估量的潜在价值，但批评家们指出，它也可能会带来同等规模的负面影响。在学术界，很多人质疑着最初启动过程的严密性，创造大量AI所带来的伦理问题，以及导致大量人类失业所产生的经济影响。
与此同时，几个世代以来残暴AI征服世界的创作故事始终是一个长盛不衰的电影题材，直到当时仍然拥有相当的影响力。”
“不过如果某些政治问题得不到解决，那么这一切依然还只是一场空。TCF是一项宏伟的计划，但对整个社会来说当时的AI依然只是一种罕见的新奇事物。
人们不愿意把如此众多的经济活动交给非人的AI，何况提出这一切的学术基础的还来自俄罗斯——一个其他政府都难以信任的国家。人们的质疑态度也是一个实际问题，很多人都觉得这只是象牙塔里的白日梦。”
“尽管存在着种种问题，但是在2148年，当沃洛科夫带着其他几位创始成员从瑞士的一座特殊实验室里凯旋归来的时候，他们的成果得到产业化的速度简直令人瞠目结舌。