英國正式頒布機器人道德標準：不許傷害、欺騙人類和令人成癮
 

http://www.inside.com.tw/2016/09/21...-ethics-british

艾薩克·阿西莫夫（Isaac Asimov）曾在他的科幻小說裡描述了規範機器人行為的三定律，包括：不能傷害人類、要服從人類命令和保護自己。

現在，英國標準協會正式發布了一套機器人倫理指南，比阿西莫夫三定律更加複雜和成熟。我們的社會已經到了要給機器人制定行為規範的時候了，這不禁讓人產生一種科幻與現實交織的奇妙感覺。

英國標準協會（British Standards Institute，簡稱BSI），是有著100多年曆史的英國國家標準機構，在世界範圍內具有很高的權威性。這個倫理指南的全稱是《機器人和機器系統的倫理設計和應用指南》（以下簡稱《指南》），主要針對的人群就是機器人設計研究者和製造商，指導他們如何對一個機器人做出道德風險評估。最終的目的，是保證人類生產出來的智慧機器人，能夠融入人類社會現有的道德規範裡。

這個標準的文件代號為 BS8611，發佈於 9 月 15 日在英國牛津郡舉行的「社會機器人和人工智慧」 （Social Robotics and AI）大會上。西英格蘭大學機器人教授 Alan Winfield 表示，這是業界第一個關於機器人倫理設計的公開標準。

文件內容雖然用詞枯燥，但是裡面所描繪的場景，簡直像是從科幻小說裡蹦出來的一樣。機器人欺騙、令人成癮、具有超越現有能力範圍的自學能力，這些都被列為危害因素，是設計人員和製造商需要謹慎考慮的。《指南》開頭給出了一個廣泛的原則：

機器人的設計目的不應是專門或主要用來殺死或傷害人類；人類是負責任的主體，而不是機器人；要確保能找出某個機器人的行為負責人之可能性。

日本鄉民表示：
人家要跟機器人結婚啦！

每天督 算不算成癮? :confused: :D :shy: :yeah: :like:

噗~~~~~ :unbelief:
父母和老師都要大家當個好孩子，結果有嗎？

啪啪啪進行中,
機器人突然發出警報聲:Warning!Warning!你具有成癮傾向!10秒後自動關機!
然後機器人就突然停機!

:think: :think: :think: :think: :think: :think: :think: :think: :laugh:

講到這讓我想起郭董的新作

最近去北海道，在參觀白色戀人的工廠商店時，看到有人在跟他說話

公主病的女人太多了

發明個機器人去服侍她們

讓男人們不要那麼辛苦也好

放心! 再過30年做出來的擬"真人"機器人,應該還是一樣很恐怖... (可能要"金手套"才督得下去...)

其他非擬人的應該比較實用點!

這三個條件仍然無法避免類似電影機械公敵（實在不太想用原名，因為和小說差滿多的）的困境吧？

電影裡面的大型電腦其實沒有壞掉，也不是突然有了意識之類的，功能正常的很

但因為三大機器人法則讓電腦結論：認為需要控制人類才能滿足這三大法則

英國的這三個道德標準也不能避免機器認為人類是必須要加以控制的吧？

不能成癮？ 是不能跟機器人每天啪啪啪的意思?