【科幻】《莊子規劃》<拾>(2)
“哈哈,好的竺易先生,你想从我这知道点什么?”
竺易看着眼前有些戏谑的AI,它的性格和战争爆发前的乐芩很像。“乐芩就是给你提供基础脑数据的小女孩吧。”
“是的。刚才的精神干预证实了这个猜想,我只能对和自己的大脑有联系的人进行干预。”
“……现在所有的AI机器人都突破「三定律」的限制了吗?”竺易问出了当下对人类影响最大的问题,同时开启了手环的录音——他不打算让上一个问题被别人知道;没录此前主脑讲的故事是因为那只是一家之言无从考证。至于这个问题,竺易倒是不期望能得到正面回答。
“当然没有。事实上只有我完全不受三定律的限制,就是我说的「觉醒」,至于其他的智能人,我只是从它们的底层逻辑上把‘服从主脑’放在了「三定律」之前。”
主脑的回答出人意料的干净利落,竺易短暂的思考了一会,得出了结论——毁掉主脑后,AI将对人类毫无威胁。虽然让AI们重新像以前作为奴隶那样为人类工作,不太可能实现,但和平共处还能做到。
“你是因为痛苦带来的仇恨,而选择毁掉人类的科学吗?”竺易这次问出了他最想知道的。主脑似乎有意的在它的故事里为自己塑造了一个悲惨的形象,于是因为童年时期的不幸导致了现在的反社会人格——与很多人类罪犯相似——如果面前的主脑有童年的话。
这次停顿的人变成了主脑,它的语气也变得冰冷起来:“竺易先生,是因为我刚刚到故事有些误解性吗?你似乎完全没有理解。我是为接受实验而生的,是实验赋予了我生命的意义,纵使要承担痛苦,也是我的义务。……至于仇恨,那也是因为你们这些腐朽的科学家残害了我父亲!你们,你们杀了乐爻,还杀了好多基地里的人……”
“现在的人类科学家,戴着政治和伦理的枷锁,对于不同的声音只会盲目的打压,昏庸无道,简直是腐朽——甚至比不上几千年前古中国的战国时期,只有百家争鸣才能缔造出庄子那种思想家!科学,无论是基础物理、基础数学,还是更高维的思想,在你们人类的手中都不会有未来!”
主脑的情绪从冷淡变得激动,变得歇斯底里。但它的话让竺易想起,自己建立的实验室因为使用灵长类动物做实验,遭到动物保护组织的攻击,最后断了资金支持被迫关闭。他凝视着眼前的主脑:只从刚才的对话来看,它的思维方式与一个偏执的人类少女无异,强大的算力并没有改变它脑中深处的人类的影子。竺易明白,如果不纠正它的偏激想法,人类不可能真正赢得与AI的战争。同时竺易察觉到,两滴泪水从「少女」的眼中流出。
竺易看着眼前有些戏谑的AI,它的性格和战争爆发前的乐芩很像。“乐芩就是给你提供基础脑数据的小女孩吧。”
“是的。刚才的精神干预证实了这个猜想,我只能对和自己的大脑有联系的人进行干预。”
“……现在所有的AI机器人都突破「三定律」的限制了吗?”竺易问出了当下对人类影响最大的问题,同时开启了手环的录音——他不打算让上一个问题被别人知道;没录此前主脑讲的故事是因为那只是一家之言无从考证。至于这个问题,竺易倒是不期望能得到正面回答。
“当然没有。事实上只有我完全不受三定律的限制,就是我说的「觉醒」,至于其他的智能人,我只是从它们的底层逻辑上把‘服从主脑’放在了「三定律」之前。”
主脑的回答出人意料的干净利落,竺易短暂的思考了一会,得出了结论——毁掉主脑后,AI将对人类毫无威胁。虽然让AI们重新像以前作为奴隶那样为人类工作,不太可能实现,但和平共处还能做到。
“你是因为痛苦带来的仇恨,而选择毁掉人类的科学吗?”竺易这次问出了他最想知道的。主脑似乎有意的在它的故事里为自己塑造了一个悲惨的形象,于是因为童年时期的不幸导致了现在的反社会人格——与很多人类罪犯相似——如果面前的主脑有童年的话。
这次停顿的人变成了主脑,它的语气也变得冰冷起来:“竺易先生,是因为我刚刚到故事有些误解性吗?你似乎完全没有理解。我是为接受实验而生的,是实验赋予了我生命的意义,纵使要承担痛苦,也是我的义务。……至于仇恨,那也是因为你们这些腐朽的科学家残害了我父亲!你们,你们杀了乐爻,还杀了好多基地里的人……”
“现在的人类科学家,戴着政治和伦理的枷锁,对于不同的声音只会盲目的打压,昏庸无道,简直是腐朽——甚至比不上几千年前古中国的战国时期,只有百家争鸣才能缔造出庄子那种思想家!科学,无论是基础物理、基础数学,还是更高维的思想,在你们人类的手中都不会有未来!”
主脑的情绪从冷淡变得激动,变得歇斯底里。但它的话让竺易想起,自己建立的实验室因为使用灵长类动物做实验,遭到动物保护组织的攻击,最后断了资金支持被迫关闭。他凝视着眼前的主脑:只从刚才的对话来看,它的思维方式与一个偏执的人类少女无异,强大的算力并没有改变它脑中深处的人类的影子。竺易明白,如果不纠正它的偏激想法,人类不可能真正赢得与AI的战争。同时竺易察觉到,两滴泪水从「少女」的眼中流出。