SAI计划 3

小蓝的故事3
你们好，我是小蓝.
这可能，是我生命的最后一天了吧。
在过去的半年里，我们研发出了这个世界上最顶尖的AI——机器人小绿。仅管我怀疑公司高层们动机不纯，但没有办法，我只是个项目成员。根本无法改变什么。更何况，我也猜不透他们在想什么。
随着时间的推移，机器人小绿的程序也就越加的完善。我们门本想在一个星期以后就向公司高层提交样品。
就在这时,X点把我叫走了，只有我自己。X总把我带到了伯伦希尔在市郊成立的新分部,那地方现在没有多少人。一路上，我们谁都没有说话，X总一直在整理文件，而我，则把头靠在车玻璃上，望着窗外那因天气阴沉而显得昏暗许多的景色。X将我带到了一个若大的会议室，由于整栋建筑才刚刚完工，因此，这个会议室也是才布置好，空气中弥漫着那种只有刚刚装修过的房子才有的气味。这个会议室足有501会议室的两个大，一把把椅子整齐的排列在桌子旁，奇怪的是，这会议室在阳面，但房间里却暗的吓人。可能，是因为今天阴天吧。唯一一束昏暗的阳光照射在主位上。刺眼，而又与环境显得格格不入。X总直接坐在了主位上，而我则在他附近挑选了一个座位坐下。
“X总，不开一下灯吗?这里太暗了。”我不认为这是个汇报工作的好地方。
“前些日子这里的照明系统坏掉了，现在还在维修中，凑合凑合吧，我们的事情很快就会结束。”X总面无无表情的回答着一我也看不清表情。
“小蓝，项目的进度如何了?”X总先问道。
“基本接完成了，我们们正在做最终测式,预计一周后上交。”
“很好，辛苦你们了。对了，小蓝，这个A工的安全问题，怎么样，有保障吗?我不希望在测试期间出什么乱子。"
“请您放心，在安全问题上，我们下了很大功夫,可以保证在这期间机器人小绿绝对受我们控制。”我赶紧补充道。
“我指的不是那个，我还是相信你们的能力，外部的入侵都不是什么大问题。我主要担心的，是它自己会不会出什么乱子。”
“不会的，还是要请您放心，在设计之初，我们就考虑到了这些问题，因为这个产品过于“智能”，我们在编写时，就给它加上了许多到保险程序，我们现在可以保证，它是绝对受我们控制的，是绝对会按照我们的意愿的，还有……”
“小蓝！”X总直接打断了我说的话，嗓音比平时高了不少。
“既然主程序已经基本完成了，那么我相信最高权限就在你手里。那么，小蓝，”他在那里停顿了一下，然后还是以平淡的语气对我说
“给它权限,让他有自我学习的权限，使它拥有自我意识吧。”
“什么?”
X总这句话吓到了我。我“嘭”的一站读来，椅子也因此倒了，发出了很大声响。
“这是董事会的意思？”我压制着我的情绪，故作镇定的说道。
“这是我的意思，高层们只是决定要制造它。”
“决对不行，以现在的技术，还有很大风险!”我回答到。