人与人工智能（HAI） 第一章 情感解构 （54）(11)

“可以这么说，但有一种说法是：那位人工智能董事长的确非常优秀，只是董事会没有意识到这一点。他们中的其他人仍把经营企业视作最终目的，可那个人工智能却是从社会角度出发，断定它服务的企业没有足够的发展价值，所以做出的决策并非是为了让企业变得更好，反而是想着将企业搞垮。”
“嗯……”芙蕾达支着下巴想了片刻，“套在人类身上，这算是相当离奇的情况了，但还真有可能发生在人工智能身上，毕竟它们往往缺乏常识。要是设计者们没有仔细检查过它的程序，哪怕是简单地强调要重视企业利益，那个人工智能仍有可能认为，自己要做出对整个社会更有利的抉择。”
“目前为止的叙述还算是可信，”约翰看着男人的眼睛说，“不过，想必你们的股东并不是因为这种说法而威胁撤资的吧？真实性且不说，这种已经犯过的错误难道你们还会重复？”
“当然没有重复，就像你们看到的，当时的‘骰子’……”说着，男人看了眼伊莎贝拉，又有些惶恐地低下头，“总之，对我们的公司是很忠诚的，尽管我并不认可这种不人道的做法。”
“那又是什么最终导致了他们撤资？”伊莎贝拉接过话头。
“是……那个传说的后续。”男人的脑门上又开始冒汗，“据说那家企业在被拆分后，大部分的高管都觉得很不满，认为自己没有得到应得的部分，拆分时自己拿少了。本来企业的规章制度是很严谨的，他们聘请的法律顾问也很专业，但到最后不知道是哪一方钻了空子，把企业的大部分财产都弄到了自己手里。”

“还有这事？”约翰哑然失笑，看了看旁边的芙蕾达说，“换做是我，肯定要把搞鬼的人找出来。”
“是，他们也是这么想到，问题出在后面。”男人擦了把汗，“后来所有员工对簿公堂的时候，发现那部数百页的规章制度居然不是统一的，每个人拿到的都不一样，创始人也很疑惑，但同样搞不清楚哪一个版本是真的。由于他们拿出的都是电子版，法官就让创始人去找找纸质版的原件，结果原件也有好几份，连水印都是一模一样！”
“这是可能做到的，”别西卜开口，“虽然……要花不少力气，而且能做到这些的，也不是正常人类了，至少不是一个单独的人。”
“对，您的想法和当时的他们一样。”男人这才抬起了低着的头，“随后他们想到了那个人工智能，毕竟它并不是真正的董事会成员，拆分时被视作了企业资产，而不是资产的所有人。结果让他们大吃一惊：被秘密转移走的那些企业财产，连同那个人工智能，一并失踪了，至今没有找到下落。”
“如果你所叙述的这些传说都是真的，”约翰总结道，“那这两种说法都算是比较合理：要么是人工智能不够完善，误解了设计者的意思，为了社会效益把企业给搞垮了；要么是它太过完善，架空了管理层后，自作主张地脱离了企业。按你的意思，股东撤资的原因是后者。”