做人要有原則，不能做的事即使是上司要求也一定不能做，這個(gè)道理誰(shuí)都懂。那么如果將情境轉(zhuǎn)換到機(jī)器人身上呢？它們也必須無(wú)條件服從人類(lèi)的命令嗎？大多數(shù)人肯定會(huì)下意識(shí)的覺(jué)得，機(jī)器人就該以服從為天職，因?yàn)樗鼈兪菣C(jī)器，設(shè)計(jì)之初就是要服從人類(lèi)命令的。不過(guò)，想想你平時(shí)做的那些傻事吧，如果不假思索的要求機(jī)器人照做，恐怕得出不少亂子。
下面我們共同來(lái)看幾個(gè)例子：
1. 如果家中有臺(tái)智能輔助機(jī)器人專(zhuān)門(mén)負(fù)責(zé)照顧老年人生活，那么患了健忘癥的老人可能會(huì)讓機(jī)器人做許多重復(fù)的無(wú)用功，比如一件衣服一天洗個(gè)七八次；
2. 家中熊孩子可能會(huì)把日托機(jī)器人當(dāng)玩具，命令它往窗外扔?xùn)|西；
3. 學(xué)生可能會(huì)把作業(yè)甩給機(jī)器人完成；
4. 家政機(jī)器人在做菜時(shí)可能會(huì)被主人叫去倒垃圾。
這樣的例子數(shù)不勝數(shù)，稍不小心，可能就會(huì)把自己也搞得手忙腳亂。當(dāng)然，以上這些最多讓你吃到暗黑料理，但如果有壞人教唆機(jī)器人犯罪，恐怕后果就嚴(yán)重了。
那么人類(lèi)該如何避免因機(jī)器人服從命令而帶來(lái)的麻煩呢？如果別有用心的人讓機(jī)器人拿起刀向前走，而它前方站著一個(gè)人怎么辦？恐怕最好的方法要么是機(jī)器人停下不動(dòng)，要么就是機(jī)器人拒絕拿刀。
不過(guò)，無(wú)論是哪種辦法，機(jī)器人都需要事先探知自己后續(xù)行為會(huì)造成的后果并主動(dòng)做出是否遵守命令的選擇。那么我們?cè)趺唇虣C(jī)器人說(shuō)“不”呢？
機(jī)器人怎么知道下一步會(huì)發(fā)生什么？
在實(shí)驗(yàn)室中，我們已經(jīng)開(kāi)始開(kāi)發(fā)基于人類(lèi)命令的機(jī)器人控制系統(tǒng)，通過(guò)該系統(tǒng)，機(jī)器人就能決定是否執(zhí)行人類(lèi)命令（違反道德原則可以拒絕）。
不過(guò)，要想教會(huì)機(jī)器人不服從可不是個(gè)容易事，畢竟有些事的后果并非肉眼能看到的。將球扔出窗戶(hù)，可能會(huì)安全落在院子里，也有可能落在人潮不息的大街上，它會(huì)砸住人還是砸到車(chē)（引發(fā)一系列連鎖反應(yīng)）誰(shuí)也說(shuō)不清。
以現(xiàn)在的技術(shù)條件，機(jī)器人很難確定到底什么時(shí)候能扔球（玩接球游戲可以扔，扔出窗外不可以）。此外，如果熊孩子故意欺騙機(jī)器人，假裝自己要玩接球游戲卻故意躲開(kāi)，事情就有可能沿相反的軌道發(fā)展。
教授機(jī)器人道德和法律
要想讓機(jī)器人理解自己行為可能造成的危險(xiǎn)后果，就需要讓它掌握大量的背景知識(shí)（如在窗前扔球可能會(huì)造成皮球飛出窗外）。機(jī)器人不但要衡量自己行為造成的結(jié)果，還要考慮人類(lèi)發(fā)出某項(xiàng)指令的意圖。
而要想讓機(jī)器人明確領(lǐng)會(huì)人類(lèi)復(fù)雜指令（善意與否）的意思，它們就要了解這些指令可能會(huì)造成的后果并與現(xiàn)有的社會(huì)道德和法律進(jìn)行比對(duì)。
眼下，在管理機(jī)器人上我們有通用法則：“如果你被要求完成的任務(wù)可能會(huì)造成傷害，就可以決絕執(zhí)行。”但如此簡(jiǎn)單的描述根本不夠，為機(jī)器人制定詳細(xì)的責(zé)任和權(quán)限勢(shì)在必行。
總的來(lái)說(shuō)，不做違法之事是機(jī)器人的基本原則，但如果人類(lèi)的指令有問(wèn)題，機(jī)器人也應(yīng)該有說(shuō)“不”的權(quán)利。因此，機(jī)器人“大腦”中必須裝有法律、道德甚至人類(lèi)禮儀，這樣才能聰明的拒絕一些錯(cuò)誤指令。
雖說(shuō)現(xiàn)有的技術(shù)下機(jī)器人還很難獲得上述能力，但我們從現(xiàn)在就應(yīng)該定下一個(gè)基調(diào)，那就是機(jī)器人有權(quán)說(shuō)“不”。
