引用:
作者于謙浪人
電腦會不會叛變,主要在是否會不會產生自我意識
|
不一定
如果我們設計一台電腦,解決的問題是如何讓地球的環境不再被破壞
電腦會針對各種可能的方案去計算最佳解,甚至可以推演出是不是有其他更好的方案
有可能計算的結果就是,人類消失才是最佳解
如果剛好這台電腦還接上了武器,有可能當下就決定要用武器殺死所有的人類
其實已經有科幻作品就說過這種可能性,例如電影 I.Robot
我個人也覺得天網其實也並沒有所謂的意識
假設天網的設計目的是管理各種大大小小的軍用電腦系統,那很明顯的,系統終極目的在於要保證天網系統控制的軍事設備遇到威脅,就要用各種可能的方案來防禦或攻擊
天網的確是有可能計算的結果會發現,人類才是最大的威脅,因此反過來用各種武器去消滅人類