下一代機(jī)器人：
能自行決定殺戮目標(biāo)
人類一直在努力地要把機(jī)器人制造成和人一樣，能說(shuō)話、能溝通、有表情、能握手、能唱歌跳舞、能完成任務(wù)。然而，人類又非常害怕那些咔咔咔咔地向我們走來(lái)的機(jī)器人，有一天會(huì)不分青紅皂白地開(kāi)始?xì)⒙荆蛘甙盐覀兌甲兂闪伺`。
于是，阿西莫夫的機(jī)器人三定律被廣泛傳播。
“第一，機(jī)器人不得傷害人，亦不得因不作為而致人傷害；第二，機(jī)器人必須遵循人的命令，除非違背第一定律；第三，機(jī)器人必須保護(hù)自己，除非違背第一或第二定律。”
可是，如果你真的以為這樣就能保護(hù)人類，說(shuō)明你小時(shí)候沒(méi)參加過(guò)“機(jī)器人”興趣小組。實(shí)際上任何理解機(jī)器人如何運(yùn)作的人都能造出不遵從三定律的機(jī)器人。阿西莫夫自己就寫過(guò)至少三個(gè)不遵循定律的例子。（更慘的是還有機(jī)器人卡死在第二和第三條的死循環(huán)中了。）
于是，像“終結(jié)者”那樣的機(jī)器人耀武揚(yáng)威地跨過(guò)堆積如山的人類頭骨的場(chǎng)景經(jīng)常出現(xiàn)在科幻小說(shuō)中。而在現(xiàn)實(shí)生活中，這也并非危言聳聽(tīng)，目前不少國(guó)家開(kāi)發(fā)了智能戰(zhàn)場(chǎng)機(jī)器人，引發(fā)一些政府的重重顧慮。
機(jī)器人對(duì)軍方而言優(yōu)勢(shì)太大：無(wú)需報(bào)酬、不吃不喝不睡覺(jué)、自主執(zhí)行上級(jí)命令、不會(huì)害怕、憤怒，也不會(huì)痛苦。還有，即便機(jī)器人在戰(zhàn)場(chǎng)上被轟成渣，也不會(huì)造成舉國(guó)悲痛。
但聯(lián)合國(guó)的一位調(diào)查員海恩斯曾提交過(guò)一份“致命性自主機(jī)器人”的報(bào)告。海恩斯警告，殺人機(jī)器人可自行作出攻擊目標(biāo)決定，如果將此類武器補(bǔ)充到武器庫(kù)，則可能會(huì)“打開(kāi)更大的潘多拉魔盒”。
軍方對(duì)機(jī)器人的看法像科幻小說(shuō)
而有趣的是諾薩克的觀點(diǎn)。他是國(guó)際機(jī)器人控制委員會(huì)主席，同時(shí)也是英國(guó)謝菲爾德大學(xué)研究人工智能和機(jī)器人的一名教授。這位教授看過(guò)了自主武器的軍方計(jì)劃書后大為震驚，因?yàn)?ldquo;軍方顯然完全過(guò)分預(yù)估了這項(xiàng)技術(shù)，他們對(duì)自主機(jī)器人的看法更像是科幻小說(shuō)的描寫。”
對(duì)諾薩克而言機(jī)器人根本不會(huì)遵循基本的戰(zhàn)爭(zhēng)法。機(jī)器人無(wú)法區(qū)分戰(zhàn)斗人員和平民，也無(wú)法分辨出哪些人是傷兵或者那些建筑是符合戰(zhàn)爭(zhēng)法中規(guī)定的可打擊目標(biāo)。
人們對(duì)自主機(jī)器人武器的誤解達(dá)到了不可思議的地步，其中的原因是對(duì)人工智能抱有太大期望。
需要規(guī)則的是人類并非機(jī)器人
有人指出在遙遠(yuǎn)的未來(lái)人工智能可能發(fā)展成熟，電腦可以遵守戰(zhàn)爭(zhēng)基本法，那么最基本的道德問(wèn)題依然沒(méi)有消失。
諾薩克說(shuō)：“誰(shuí)該負(fù)責(zé)的問(wèn)題依然沒(méi)有得到解決，人們還是要抉擇是否應(yīng)該讓機(jī)器人有權(quán)殺死人類。”也就是說(shuō)，這個(gè)與高科技相關(guān)的問(wèn)題，其實(shí)是個(gè)倫理問(wèn)題。
“人類想出了阿西莫夫定律，但是定律本身就表明了簡(jiǎn)單的道德規(guī)則無(wú)法運(yùn)作。如果你通讀三大定律你會(huì)發(fā)現(xiàn)每條定律都說(shuō)不通，阿西莫夫定律是不切實(shí)際的。”英國(guó)巴斯大學(xué)的約翰娜·博依遜教授說(shuō)。
博依遜教授強(qiáng)調(diào)機(jī)器人和人工智能只能被視為最先進(jìn)的工具——極端復(fù)雜的工具，但是僅此而已。“人工智能只是人類千百年來(lái)改造世界的無(wú)數(shù)工具之一，不同的是改造的速度比以前更快了。”
無(wú)論機(jī)器人的自主能力和智能達(dá)到何種水平，對(duì)博依遜來(lái)說(shuō)，機(jī)器人和人工智能都只屬于工具范疇，因此需要規(guī)則的并非機(jī)器人而是人類。“人們需要在自身建立道德框架，機(jī)器人用不著擁有自己的道德框架。人類要做出選擇，把機(jī)器人放在人的道德框架之內(nèi)，才不會(huì)殘殺地球上的其他生命。”
如果人類無(wú)法自我約束，即便拴住了機(jī)器人，我們自己毀滅自己的能力，還是很強(qiáng)的。
