高交會(huì)隨后澄清事故原因?yàn)槿藶椴僮魇М?dāng)，誤將“前進(jìn)鍵”當(dāng)成“后退鍵”，導(dǎo)致機(jī)器人撞向展臺(tái)玻璃，玻璃倒地摔碎并劃傷一名現(xiàn)場(chǎng)觀眾。這個(gè)回復(fù)的意思很明確，此次事故非機(jī)器人本意為之。

 

　　不過(guò)，這條新聞仍引發(fā)了各方的關(guān)注。伴隨機(jī)器人開始進(jìn)入千家萬(wàn)戶，面對(duì)銅頭鐵臂，人的安全該如何保障？關(guān)于這個(gè)話題，2016年世界機(jī)器人大會(huì)秘書長(zhǎng)、中國(guó)電子學(xué)會(huì)副理事長(zhǎng)徐曉蘭做出了點(diǎn)評(píng)。

 

 

　　徐曉蘭：我認(rèn)為，這次機(jī)器人傷人事件兼具偶發(fā)性和必然性。從我國(guó)機(jī)器人的發(fā)展來(lái)看，工業(yè)機(jī)器人的發(fā)展時(shí)間較長(zhǎng)且設(shè)計(jì)比較完整，整體安全性能也比較成熟。但服務(wù)機(jī)器人還在小批量的試用階段，沒(méi)有形成規(guī)?；氖褂茫O(shè)計(jì)時(shí)的安全考量不是很完備。雖然服務(wù)機(jī)器人的應(yīng)用還屬于萌芽狀態(tài)或是試用階段，但很多企業(yè)忙于或是急于做市場(chǎng)推廣，更多的是注重它的功能和應(yīng)用，而對(duì)安全方面的設(shè)計(jì)恰恰是它的弱點(diǎn)。

 

　　這次事件給我們帶來(lái)了一個(gè)警示，提醒我們要更加注重服務(wù)機(jī)器人的安全設(shè)計(jì)。沒(méi)有安全設(shè)計(jì)和認(rèn)證的服務(wù)機(jī)器人，特別是提供對(duì)人服務(wù)的機(jī)器人不能走向市場(chǎng)。此外，隨著對(duì)服務(wù)機(jī)器人需求的增長(zhǎng)，市場(chǎng)變得更廣闊。而服務(wù)機(jī)器人安全標(biāo)準(zhǔn)和現(xiàn)有設(shè)計(jì)是滯后的。其實(shí)在今年和去年的世界機(jī)器人大會(huì)都特別加強(qiáng)了對(duì)服務(wù)機(jī)器人進(jìn)行安全認(rèn)證的要求。

 

　　這次高交會(huì)的機(jī)器人傷人事件，雖說(shuō)是人為操縱失誤，但它其實(shí)應(yīng)該有緊急制動(dòng)的功能，而不是在危急時(shí)刻要完全依靠人力控制，這是安全設(shè)計(jì)方面的天然缺陷，可能也是產(chǎn)業(yè)發(fā)展的必經(jīng)過(guò)程，但要引起我們足夠的警惕和重視。

 

　　現(xiàn)在HBO大熱的美劇——《西部世界》，也在講述機(jī)器人開始覺(jué)醒的故事，里面有兩點(diǎn)值得關(guān)注，一個(gè)是機(jī)器人具有自我學(xué)習(xí)的能力，人類往往忽視它已經(jīng)學(xué)習(xí)到什么程度，沒(méi)有意識(shí)到它的智慧，但其實(shí)機(jī)器人已經(jīng)變得更加聰明了。未來(lái)這種情況在現(xiàn)實(shí)生活中怎么注意避免？

 

　　徐曉蘭：這實(shí)際上也是機(jī)器人技術(shù)和產(chǎn)業(yè)在推進(jìn)過(guò)程中與其他信息技術(shù)或是科技成果不一樣的地方，我們要更加注重法律和倫理的約束。智能機(jī)器人領(lǐng)域?qū)Ψ珊蛡惱砑s束的要求更高，如果這種約束缺失，智能機(jī)器人越聰明，越可能做出更多壞事，對(duì)人類破壞的作用越大，這要求研發(fā)智能機(jī)器人的科技工作者要加強(qiáng)設(shè)計(jì)上的道德約束。今年的世界機(jī)器人大會(huì)特別增加了一個(gè)專題論壇，討論法律、道德、倫理應(yīng)該進(jìn)入智能機(jī)器人這種科技產(chǎn)品的話題，呼吁更多人關(guān)注這個(gè)領(lǐng)域，提醒要及早立法來(lái)約束智能機(jī)器人發(fā)展中可能出現(xiàn)的問(wèn)題。

 

　　除了產(chǎn)業(yè)安全標(biāo)準(zhǔn)的建立，此事引發(fā)的另一大思考在于：隨著人工智能飛速發(fā)展，機(jī)器人的高度智能化并非遙不可及。當(dāng)機(jī)器人具備自我意識(shí)、開始進(jìn)入到人類日常工作與生活的時(shí)候，人類該與其如何相處？人類社會(huì)又該如何為那一天的到來(lái)做好準(zhǔn)備？關(guān)于此話題，科幻作家、《三體》作者劉慈欣也做出了點(diǎn)評(píng)。

 

　　劉慈欣：早在20世紀(jì)末，在日本的生產(chǎn)線上就有一個(gè)機(jī)械手把一個(gè)工人拿到生產(chǎn)線上去加工，導(dǎo)致了工人的死亡，別的領(lǐng)域也發(fā)生過(guò)類似事情。我認(rèn)為，這類機(jī)器人傷人的事件應(yīng)該分為兩大類。一是意外，比如高交會(huì)上這起事件，包括程序錯(cuò)誤、軟件錯(cuò)誤或是硬件錯(cuò)誤都可能導(dǎo)致傷人的意外發(fā)生。第二種是機(jī)器人故意傷人，即機(jī)器人有自我意識(shí)，有很高的智能，故意傷害別人。通常遇到這類問(wèn)題時(shí)，社會(huì)輿論往往都向第二類情況想，如果真的發(fā)生第二種類型的傷害，情況是相當(dāng)嚴(yán)重的，因?yàn)檫@表明機(jī)器人有某種自我意識(shí)，有某種自我行動(dòng)的能力，而且用以傷害別人。但迄今為止發(fā)生過(guò)的所有機(jī)器人傷人事件，包括高交會(huì)上發(fā)生的事件，都是普通事故。就好像一些別的家用電器如電視、洗衣機(jī)、冰箱等都可能出事，可能傷害到人類，前段時(shí)間還發(fā)生過(guò)手機(jī)爆炸傷人事件。本質(zhì)上，現(xiàn)在的機(jī)器人傷人事件和這種事件是一樣的。我們把它當(dāng)作普通家用電器故障來(lái)處理就可以，沒(méi)有必要因?yàn)檫@是個(gè)智能的機(jī)器而過(guò)度解讀。目前人類所達(dá)到的人工智能水準(zhǔn)離機(jī)器人覺(jué)醒還差著十萬(wàn)八千里，能不能克服大量技術(shù)障礙而走到高度智能化的地步尚未可知。

 

　　現(xiàn)在公眾和社會(huì)輿論，特別是中國(guó)公眾和社會(huì)輿論，很傾向于把科幻的東西當(dāng)成現(xiàn)實(shí)的科技，這其實(shí)是兩碼事?？苹檬澜缰?，設(shè)想機(jī)器具有自我意識(shí)，主動(dòng)傷害人類是很平常的事，而現(xiàn)實(shí)中還是不可能的。以長(zhǎng)遠(yuǎn)計(jì)，可以做這方面的學(xué)術(shù)考慮，但在現(xiàn)實(shí)生活中，因此來(lái)限制人工智能的發(fā)展是很可笑的。現(xiàn)在我們竭盡全力想造這種人工智能還造不出來(lái)呢，卻反而被這種莫須有的恐懼所牽制，反而去限制它的發(fā)展，我認(rèn)為這種做法是十分愚蠢的。

 

　　目前為止的人工智能還是沒(méi)有生命的普通機(jī)器，和其他機(jī)器設(shè)備沒(méi)有區(qū)別，從社會(huì)地位及人文角度來(lái)看，都沒(méi)有什么特別的。但假如未來(lái)機(jī)器人擁有自我意識(shí)，其智力和人類相當(dāng)、甚至高于人類，這個(gè)問(wèn)題是相當(dāng)復(fù)雜的。這時(shí)候，不能再把它看做普通機(jī)器。到那時(shí)，我們?nèi)绾谓缍C(jī)器的權(quán)利，是否給它以真正的權(quán)利，或給它以人權(quán)，要做社會(huì)學(xué)、哲學(xué)和文化方面的深邃思考。

 

　　現(xiàn)在已經(jīng)有很多學(xué)者在探討這方面的問(wèn)題，據(jù)我所知，美國(guó)現(xiàn)在已經(jīng)有一個(gè)相當(dāng)大的組織，探討學(xué)術(shù)和其他機(jī)器倫理方面的探討。但目前也只是理論上的探討，與運(yùn)用到實(shí)際上還有相當(dāng)?shù)木嚯x。如果機(jī)器人高度智能的那一天真的到來(lái)，人類將面臨相當(dāng)大的社會(huì)學(xué)、倫理學(xué)挑戰(zhàn)。因?yàn)榈厍蛏犀F(xiàn)存的其他高等生命，如大猩猩、海豚，人類都沒(méi)有給予其應(yīng)有的權(quán)利，沒(méi)有生命的機(jī)器否要應(yīng)該得到這種權(quán)利是很難抉擇的。但這都還屬于科學(xué)幻想領(lǐng)域，離真正實(shí)現(xiàn)還是很遙遠(yuǎn)的。