想一想：任何強大的技術都具有雙刃劍的特性。能夠完成令人難以置信事情的工具？它們同樣也可以被用作武器。隨著人工智慧系統變得越來越聰明和更具能力，這個問題只會越來越嚴重。系統越智能，如果被濫用，可能造成的傷害也越大。這不僅僅是理論——我們已經看到一些早期的例子。真正的問題不在於人工智慧是否會被濫用；而在於我們是否能夠快速建立起足夠的防護措施，以跟上這些系統快速進步的步伐。