公元2035年，是人和機(jī)器人和諧相處的社會(huì)，智能機(jī)器人作為最好的生產(chǎn)工具和人類伙伴，逐漸深入人類生活的各個(gè)領(lǐng)域，而由于機(jī)器人“三大法則”的限制，人類對(duì)機(jī)器人充滿信任，很多機(jī)器人甚至已經(jīng)成為家庭成員。這是美國(guó)科幻電影《我，機(jī)器人》中描述的未來(lái)社會(huì)，所謂的“三大法則”分別是：機(jī)器人不得傷害人類個(gè)體，或者目睹人類個(gè)體將遭受危險(xiǎn)而袖手不管；機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時(shí)例外；機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存。
如果機(jī)器人能夠嚴(yán)格遵守“三大法則”，也即是說機(jī)器人能夠明辨是非，知道什么可做什么不可做，那么人類和機(jī)器人群體之間將會(huì)和諧相處。但是在電影中，機(jī)器人由于具備了自我進(jìn)化的能力，他們對(duì)“三大法則”有了自己的理解，隨時(shí)會(huì)轉(zhuǎn)化成整個(gè)人類的“機(jī)械公敵”。于是，一場(chǎng)制造者和被制造者之間的戰(zhàn)爭(zhēng)拉開序幕。電影在樂觀評(píng)估未來(lái)機(jī)器人的發(fā)展前景時(shí)，也提出了一個(gè)尖銳的話題：我們?cè)鯓硬拍茏寵C(jī)器人明辨是非，或者說人類怎樣才能永遠(yuǎn)控制住機(jī)器人，讓他們?yōu)槲覀兯谩?/div>
美國(guó)作家溫德爾·瓦拉赫和科學(xué)史教授科林·艾倫長(zhǎng)期關(guān)注機(jī)器人的應(yīng)用及前景問題，他們認(rèn)為在未來(lái)數(shù)年內(nèi)，人工智能系統(tǒng)可能會(huì)擺脫人類監(jiān)管，自主做出決定，甚至走上反抗人類的道路。這種不確定性，將使機(jī)器人面臨的道德風(fēng)險(xiǎn)日益凸顯。人類迫切需要確保機(jī)器人的設(shè)計(jì)符合道德規(guī)范。
二人在《道德機(jī)器》一書中指出，當(dāng)機(jī)器人要承擔(dān)越來(lái)越多的責(zé)任時(shí)，為了我們的安全，它們必須通過程序?qū)W會(huì)道德判斷。本書包括《機(jī)器道德為什么如此重要》等12章，基于人類道德判斷和倫理的本質(zhì)，深入探討了人類在設(shè)計(jì)具有道德判斷能力的機(jī)器人的漫漫征途上所面臨的巨大挑戰(zhàn)。在快速回顧了最前沿的道德哲學(xué)與人工智能之后，二人主張，設(shè)計(jì)某種功能性的道德指令，讓人工智能機(jī)器人習(xí)得某些基本的道德感是很有必要的，而且是可行的。并且，即便讓機(jī)器人承擔(dān)完全的道德責(zé)任有很遠(yuǎn)的路要走，但隨著人類對(duì)道德理解的深入和完善，能接收復(fù)雜道德指令的各類服務(wù)型機(jī)器人將誕生。
《道德機(jī)器》最初問世時(shí)候的基本信息依然沒有變，這就是：不應(yīng)該讓未來(lái)學(xué)家的擔(dān)心和猜測(cè)轉(zhuǎn)移我們的注意力，我們的任務(wù)依然是設(shè)計(jì)自主機(jī)器，讓它們以可辨識(shí)的道德方式行事，使用著我們已經(jīng)獲得的社會(huì)、政治和技術(shù)資源。機(jī)器人也應(yīng)該學(xué)會(huì)循規(guī)蹈矩，在將來(lái)這個(gè)問題必將得到圓滿解決。
更多>相關(guān)資訊
0 條相關(guān)評(píng)論
