尼克?波斯特洛姆:我认为超级智能可能离我还有段距离,但如果它真的发生了,那将是非常重大的事情(it will be a great deal),所以我认为有些研究是现在就要开始着手的,例如人工智能安全、人工智能控制。这样,当我们真正制造出机器超级智能时,能够很好地解决人工智能威胁,做好控制。现阶段,人工智能还不是威胁,但关于人工智能的工程设计,人工智能的发展动机,以及是否有利于人类,这些问题是需要整体提前考虑的。我们不能假设,所有的人工智能发展能够自然而然朝着人类向往的地方发展。如果我们能解决好这些问题,人工智能的威胁不会很快就到来。