温暖的机器（人工智能小寓言之二）(3)

#endregion
“所以这些和你的研究有什么关系呢？博士，你已经花了两千字阐述你的碎碎念了。”小助手说到。
“好好好，那话题回到我们的seAI上。你觉得有一天它会取代人类吗？“我问小助手。
“取代人类？我觉得seAI的运算量可以超过人类，也可以拥有统治人类的能力，但是它不会取代人类。 “小助手跟我混了这么久，也耳濡目染了不少。
“哦？你是说seAI和人类在某些特性上有些本质的不同？你想说的是情感吧？”
“对，就算AI拥有了人类无法比拟的计算力，但是情感本身的产生原因，并不是能通过大量的演算就能推导而出的。博士，你觉得情感这种东西到底是什么呢？你现在的状态应该很适合回答这个问题吧？“小助手狡黠地看着我。
“你这么说倒是没错，我现在倒是有些许心得，只是刚才执笔的那位打了几把dota，把我想说的话忘了一些。“我看了看已经指向23点的钟，”要是能在午夜之前说完想说的话，大概还能来得及把衬衫洗了吧。“
我研究了一下作息安排，然后继续说到：“我觉得现阶段的seAI，暂时还没有去计算人类情感产生的动机，因为如果按照utility最大化的设定，情感带来的基本上也是负面影响。电脑不需要快感来激励自己，也不需要痛苦来惊醒自己，只要按照设定运转，它就能得到它需要的。简单来说，电脑就像遁入了空门的超人，无所不能，却又无欲无求。“
“怎么能说无语欲求呢？难道我们一开始设定的以人类福祉为基准的约束也没有意义了吗？“小助手不解。
“我觉得，AI的什么三大基础定律那种东西就是一个伪命题，虽然现在seAI的算法最后的导向依旧是它，但是者并不意味着我们能够约束一个计算能力远超我们的事物，在它有了自我意识之后。而情感，会不会是自我意识的突破口，这还不得而知。依我拙见，我觉得情感这种东西，来源于人类的不完美。人类拥有有限的生命，拥有有限的能力，拥有有限的想象力。“
“有限的想象力？博士，这好像和人们的认知相左呀，我们不是常常以无限的想象力自傲的吗？“小助手打断了我。
“是吗，那我现在让你想象一下四维空间的立方体。哦你可以想象的出来，因为你具备了相关的知识，但是你能想象得出五维，六维，或是所谓的十三维吗？你不能，因为你有限的知识约束了你的想象。而一个人在他有生之年能获取的知识是有限的。所谓的无限，也是对于全人类来说，在无限的时间长河（这还是个伪命题呢）中的无限可能会让人类的传承继续下去。而seAI的出现，也不过是这无限的可能中的一种罢了，说不定还是把人类文明导向覆灭的那种。说不定万年以后，AI会养着世界上最后一个人，来维持人类社会的延续，而不破坏最初的定义呢。”
“好好好博士，别说丧气话啦，这个世界的走向在我们开发seAI之前已经是点了这样的科技树，我们也只不过是做了一些微小的工作。所以你说，情感这种东西来源于人类的不完美，这到底是为什么呢？”小助手把我从黯然的情绪中拉了回来。