公元2035年，是人和機(jī)器人和諧相處的社會，智能機(jī)器人作為最好的生產(chǎn)工具和人類伙伴，逐漸深入人類生活的各個領(lǐng)域，而由于機(jī)器人“三大法則”的限制，人類對機(jī)器人充滿信任，很多機(jī)器人甚至已經(jīng)成為家庭成員。這是美國科幻電影《我，機(jī)器人》中描述的未來社會，所謂的“三大法則”分別是：機(jī)器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管；機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時例外；機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存。
如果機(jī)器人能夠嚴(yán)格遵守“三大法則”，也即是說機(jī)器人能夠明辨是非，知道什么可做什么不可做，那么人類和機(jī)器人群體之間將會和諧相處。但是在電影中，機(jī)器人由于具備了自我進(jìn)化的能力，他們對“三大法則”有了自己的理解，隨時會轉(zhuǎn)化成整個人類的“機(jī)械公敵”。于是，一場制造者和被制造者之間的戰(zhàn)爭拉開序幕。電影在樂觀評估未來機(jī)器人的發(fā)展前景時，也提出了一個尖銳的話題：我們怎樣才能讓機(jī)器人明辨是非，或者說人類怎樣才能永遠(yuǎn)控制住機(jī)器人，讓他們?yōu)槲覀兯谩?/div>
美國作家溫德爾·瓦拉赫和科學(xué)史教授科林·艾倫長期關(guān)注機(jī)器人的應(yīng)用及前景問題，他們認(rèn)為在未來數(shù)年內(nèi)，人工智能系統(tǒng)可能會擺脫人類監(jiān)管，自主做出決定，甚至走上反抗人類的道路。這種不確定性，將使機(jī)器人面臨的道德風(fēng)險日益凸顯。人類迫切需要確保機(jī)器人的設(shè)計符合道德規(guī)范。
二人在《道德機(jī)器》一書中指出，當(dāng)機(jī)器人要承擔(dān)越來越多的責(zé)任時，為了我們的安全，它們必須通過程序?qū)W會道德判斷。本書包括《機(jī)器道德為什么如此重要》等12章，基于人類道德判斷和倫理的本質(zhì)，深入探討了人類在設(shè)計具有道德判斷能力的機(jī)器人的漫漫征途上所面臨的巨大挑戰(zhàn)。在快速回顧了最前沿的道德哲學(xué)與人工智能之后，二人主張，設(shè)計某種功能性的道德指令，讓人工智能機(jī)器人習(xí)得某些基本的道德感是很有必要的，而且是可行的。并且，即便讓機(jī)器人承擔(dān)完全的道德責(zé)任有很遠(yuǎn)的路要走，但隨著人類對道德理解的深入和完善，能接收復(fù)雜道德指令的各類服務(wù)型機(jī)器人將誕生。
《道德機(jī)器》最初問世時候的基本信息依然沒有變，這就是：不應(yīng)該讓未來學(xué)家的擔(dān)心和猜測轉(zhuǎn)移我們的注意力，我們的任務(wù)依然是設(shè)計自主機(jī)器，讓它們以可辨識的道德方式行事，使用著我們已經(jīng)獲得的社會、政治和技術(shù)資源。機(jī)器人也應(yīng)該學(xué)會循規(guī)蹈矩，在將來這個問題必將得到圓滿解決。
更多>相關(guān)資訊
0 條相關(guān)評論
