補充一點，也許有人會說，可以跟電影一樣，設定最高規則，避免機器人毀滅人類。但電影都演了，這些規則都可能讓機器人找到漏洞，反而引導機器人毀滅人類。

或者機器人可能直接找到「不尊循最高規則就是最佳解法」的解法，那人類一樣無法避免被毀滅的後果。

終歸究底，讓AI越聰明，它越有可能超出人類掌控的範圍。