独家丨对话《盲视》作者彼得·沃茨：AI最可怕的事就是它太像人类(3)

沃茨：你为什么觉得只有两个选择呢？还有可能是“开源AI”。
不论是在互联网还是秘密实验室，我都怀疑它是否会独立地繁衍下去。现在科学家们能让机器自己教自己，你都不知道机器是怎么理解这些知识的。
八十年代有一个很经典的电影，讲的是军方曾经想教机器识别坦克，用的是区别环境的方法。他们向机器输入沙漠中的坦克的图像，森林中的坦克，伪装着的坦克，还输入了完全没有坦克的图片，并不制定某种规则，最后，机器真的学会了识别坦克。
实验进行了一段时间，机器正确识别出坦克的概率达到了99%，人们就很高兴地输入了其他图片，想让它识别更多坦克，可是精确度却降低至普通水准。原来，他们拍摄坦克图像的那一天，天气非常晴朗，拍摄没有坦克图像的那一天，天气阴沉沉的。他们以为AI识别了坦克的图像，但实际上是太阳光的亮度对比起到了作用。
这可是非常危险的啊，你觉得你知道AI在学习什么，但很有可能它在学习完全不同的东西。
Q：人类看待世界的方式是很精妙的、难以复制的，但AI可能产生另外一种思维模式。你对Alpha Go怎么看？人类应该对它抱有什么样的情感？
沃茨：这是个很典型的例子。研究人员唯一教给Alpha Go的就是如何判别输赢，然后它自己和自己下棋，就研究出了下棋策略。
之前有一个版本的AI能自己教自己玩游戏，就是那种八、九十年代的日本电子游戏，两天之内，它就变身为一个超级游戏大师，你都不知道它怎么学的，你做的唯一一件事就是告诉它什么是对的、什么是错的，其他一切困难工作它都自己完成，你还不能倒回去看它的逻辑过程，因为它的游戏思维实在太发达了。
我们应该去爱这些AI吗？我想，要从崇拜它们这种观念走出来，唯一的选择就是去爱它们吧。
Q：生物、物理、数学……你的小说里出现了太多学科，现在对什么领域最感兴趣？最想研究什么？
沃茨：我之前的专业是生物，对神经学什么的不算专家，但是“意识”这个概念很吸引我。没有人知道怎么解释这个问题。物理学描述这个世界时，无法描述出人类头脑里的意识，没有对“我们是我们”这种感觉给出任何解释。
▲ 彼得·沃茨的处女作，一个有关生物学的科幻故事
Q：你的《盲视》就是讨论这个问题的。
沃茨：《盲视》其实避免了这个问题，因为我不知道意识到底是什么，我只是讨论了它有哪些好处。
我一直觉得，人脑有时候就像一个开关，一打开就可以有意识通过。如果你用电刺激一块肉，这就应该唤醒了这块肉吧？可是为什么呢？这完全是一个迷题，我们对此一无所知。没错，很多小说或科学理论在讨论意识，但没有任何一个可以解决掉那个最核心的问题——为什么意识“感觉”起来是这样的？我们为什么必须有意识？意识本身什么也不做。