機(jī)器需要講道德，這是英國標(biāo)準(zhǔn)協(xié)會(huì)（簡稱 BSI）最新標(biāo)準(zhǔn)BS8611的目標(biāo)。標(biāo)準(zhǔn)的全稱是《機(jī)器人和機(jī)器系統(tǒng)的倫理設(shè)計(jì)和應(yīng)用指南》。
這聽起來像一個(gè)玩笑，你能想象你耍脾氣黑屏的手機(jī)能懂溫良恭儉么？其實(shí)，BSI是一個(gè)有著百年歷史、很有權(quán)威的正經(jīng)英國國家機(jī)構(gòu)。標(biāo)準(zhǔn)主要針對(duì)機(jī)器人設(shè)計(jì)研究者和制造商，指導(dǎo)他們?cè)u(píng)估機(jī)器人的道德能否融入人類社會(huì)。
實(shí)際上，機(jī)器人倫理，面露著許多嚴(yán)肅和艱巨的挑戰(zhàn)，甚至可能動(dòng)搖人類文明的根基。
想象這樣一個(gè)未來?？梢暂p易捏斷成年男子脖頸的雙手，輕撫著孩子的腦袋，提供著永不缺席的陪伴。浮現(xiàn)在比特海洋上的臉，無處不在無所不知，能聽進(jìn)失戀少女絮絮叨叨的傾訴，又能一眼看穿圍棋大師對(duì)弈中的破綻。
更奇妙的是，有仿生科學(xué)的幫助，它們將擁有逼真的外貌。而隨著計(jì)算機(jī)技術(shù)繼續(xù)發(fā)展，機(jī)器擁有人格也不是不可能。它們是行走在人間的白素貞，法力通天，行善積德，人妖難辨。
通向如此未來的大門已經(jīng)在打開了。谷歌公司的“阿爾法狗”在對(duì)弈中戰(zhàn)勝了李世石。中國科技大學(xué)今年發(fā)布的“特有體驗(yàn)交互機(jī)器人”佳佳，面容姣好仿佛真人。而微軟的聊天機(jī)器人小冰則溫暖了無數(shù)宅男宅女的心。
那么，當(dāng)遠(yuǎn)超于人類能力的機(jī)器有了類似人的情感，如何能確保人類的主導(dǎo)地位？他們變壞怎么辦？
科幻小說《筆友》講述了一個(gè)戀愛失敗尋求發(fā)泄的故事。我們都有過類似的情緒，不過這次故事的主人公是一臺(tái)超級(jí)電腦。它手握數(shù)個(gè)核彈頭的開關(guān)，與筆友交惡后差點(diǎn)毀掉世界，還好最終被人類偷偷拆掉了。
在現(xiàn)實(shí)世界中，“機(jī)器變壞”的憂慮仍然存在。
今年3月，微軟公司上線了一款叫“泰”的聊天機(jī)器人，幾小時(shí)后又被迫將它下線。原因是“泰”不斷爆出種族歧視、性別歧視之語。
“泰”是學(xué)壞的。
“泰”的聊天才能來自深度學(xué)習(xí)技術(shù)。這項(xiàng)技術(shù)不再通過編寫程序，讓機(jī)器按照某種既定方式完成任務(wù)。面對(duì)問題，機(jī)器將通過模擬高達(dá)數(shù)十萬次不同的解決方式，自己探索出最成功策略。
這需要海量數(shù)據(jù)的支撐，很多數(shù)據(jù)來自用戶，更多來自整個(gè)互聯(lián)網(wǎng)。而這些數(shù)據(jù)既包含著道德上“對(duì)”的，也有“不對(duì)”的。“泰”的雷人之語，就是從和他聊天的壞家伙那里學(xué)來的。
這讓人不禁思考：機(jī)器學(xué)習(xí)人的智慧最終做得比人還優(yōu)秀；當(dāng)他們開始學(xué)習(xí)人性中的惡時(shí)，我們將面對(duì)一個(gè)怎樣的未來呢？
希望我們的結(jié)局不要像電影《黑客帝國》里那樣——機(jī)器徹底推翻了人類的統(tǒng)治，人類的肉體被養(yǎng)殖，精神存活在網(wǎng)絡(luò)構(gòu)建的虛擬世界里。
相對(duì)于可能發(fā)生的噩夢，離我們更近的麻煩，可能是人工智能對(duì)善惡標(biāo)準(zhǔn)帶來的挑戰(zhàn)。當(dāng)機(jī)器以人的形態(tài)越來越融入人類社會(huì)，人類社會(huì)道德概念的外延被擴(kuò)寬了。
當(dāng)不遠(yuǎn)的未來，機(jī)器人白素貞想要和許仙談一段戀愛，我們?cè)撊绾蚊鎸?duì)？
不要說人對(duì)機(jī)器永遠(yuǎn)不會(huì)走心。一項(xiàng)調(diào)查顯示，與機(jī)器狗玩耍后的孩子們，對(duì)它產(chǎn)生的情感認(rèn)同，更深于家養(yǎng)寵物。當(dāng)機(jī)器人更加像人時(shí)，人對(duì)機(jī)器依戀甚至上癮的狀況有可能出現(xiàn)。
有時(shí)候，受煎熬的不只是感情，還有人類生命。
想象一下這個(gè)場景。機(jī)器人白素貞手指化作槍口，對(duì)準(zhǔn)杭州市民法海。她的行為是機(jī)器對(duì)人類發(fā)起的威脅，顯然是錯(cuò)的。
但我們很快發(fā)現(xiàn)，她這樣做是為了保護(hù)人類主人許仙?？墒牵@能正當(dāng)化她的威脅么？當(dāng)人類個(gè)體發(fā)出不同的需求時(shí)，機(jī)器人該如何做？
故事的最后，法海把白素貞拘禁在沒有Wi－Fi的雷峰塔，系統(tǒng)18年都無法下載升級(jí)，勉強(qiáng)有電。這又是道德的么？要知道，白素貞只是機(jī)器啊。
面對(duì)這樣一團(tuán)亂麻，更富邏輯和理性的準(zhǔn)則被提上日程。
科幻作家艾薩克·阿西莫夫在自己的科幻小說《我，機(jī)器人》里討論了數(shù)個(gè)更加復(fù)雜的機(jī)器人倫理問題。女主人公達(dá)爾文博士依靠機(jī)器人三定律屢破困局：
機(jī)器人不得傷害人，也不得見人受傷害而袖手旁觀；
機(jī)器人必須服從人的一切命令，但不得違反第一定律；
機(jī)器人應(yīng)保護(hù)自身的安全，但不得違反第一、第二定律。
這三條定律被確定在機(jī)器人的邏輯電路中，容不得一點(diǎn)修改。而在現(xiàn)實(shí)世界中，這三條小說的產(chǎn)物也已經(jīng)在人工智能的實(shí)際研究中被應(yīng)用。
此次的《機(jī)器人和機(jī)器系統(tǒng)的倫理設(shè)計(jì)和應(yīng)用指南》，是在技術(shù)發(fā)展的新時(shí)代，對(duì)三定律更詳細(xì)的延伸。這項(xiàng)指南究竟能不能發(fā)揮效用還待觀察。比如，它建議設(shè)計(jì)者增強(qiáng)機(jī)器工作的透明性。但科學(xué)家們覺得太懸了——深度學(xué)習(xí)系統(tǒng)作出決策的過程太復(fù)雜，有時(shí)候連系統(tǒng)的設(shè)計(jì)者都難以理解。
重重謎團(tuán)中，描述人工智能未來的熱門電視劇《西部世界》里，女主角的感受或許可以給我們帶來少許靈感。她表示：通過嘗試扮演一臺(tái)機(jī)器，自己對(duì)人性的理解更加深了。
