http://www.inside.com.tw/2016/09/21...-ethics-british

艾薩克·阿西莫夫（Isaac Asimov）曾在他的科幻小說裡描述了規範機器人行為的三定律，包括：不能傷害人類、要服從人類命令和保護自己。

現在，英國標準協會正式發布了一套機器人倫理指南，比阿西莫夫三定律更加複雜和成熟。我們的社會已經到了要給機器人制定行為規範的時候了，這不禁讓人產生一種科幻與現實交織的奇妙感覺。

英國標準協會（British Standards Institute，簡稱BSI），是有著100多年曆史的英國國家標準機構，在世界範圍內具有很高的權威性。這個倫理指南的全稱是《機器人和機器系統的倫理設計和應用指南》（以下簡稱《指南》），主要針對的人群就是機器人設計研究者和製造商，指導他們如何對一個機器人做出道德風險評估。最終的目的，是保證人類生產出來的智慧機器人，能夠融入人類社會現有的道德規範裡。

這個標準的文件代號為 BS8611，發佈於 9 月 15 日在英國牛津郡舉行的「社會機器人和人工智慧」 （Social Robotics and AI）大會上。西英格蘭大學機器人教授 Alan Winfield 表示，這是業界第一個關於機器人倫理設計的公開標準。

文件內容雖然用詞枯燥，但是裡面所描繪的場景，簡直像是從科幻小說裡蹦出來的一樣。機器人欺騙、令人成癮、具有超越現有能力範圍的自學能力，這些都被列為危害因素，是設計人員和製造商需要謹慎考慮的。《指南》開頭給出了一個廣泛的原則：

機器人的設計目的不應是專門或主要用來殺死或傷害人類；人類是負責任的主體，而不是機器人；要確保能找出某個機器人的行為負責人之可能性。