霍金晚年发现了什么？为什么他坚信上帝不存在？临终遗作揭晓答案(28)

AI 的真正风险并不在于恶意，而在于能力。
极度聪明的 AI 会非常擅长于实现目标，而如果它们的目标与我们的不一致，我们就会遇上大麻烦。
打个简单的比方，人类为了修建堤坝可能会摧毁蚂蚁的巢穴，但这并不是因为我们与蚂蚁有仇。
短期看来，AI确实会大大提高人类的生产效率和生活品质。
但长远来看，我们要考虑清楚，AI究竟是否可控。
简而言之就是一句话，霍金认为不排除人工智能在将来成为人类文明史终结者的可能性。

但比起人工智能，更让霍金担忧的是基因编辑。
基因编辑
霍金说，他非提倡基因工程，也不认为这是一件好事。
但无论我们是否接受，人类基因编辑都会在触手可及的未来发生，因为它的诱惑是不可抗拒的。
有一小批人将通过CRISPR基因剪刀等技术，变成超级人类，将其余人类甩到身后。
他们将违反基因工程法的规定，通过基因编辑提升记忆力、增强抗病能力、延长寿命。