當(dāng)我們不可阻擋地朝著自動化的未來邁進(jìn)，而人工智能又幾乎擁有無限可能時(shí)，我們必須搞清楚這一新興技術(shù)的道德影響，并解決出現(xiàn)在我們面前的前所未有的法律和社會挑戰(zhàn)。

 

　　洪智偉（馬來西亞）系聯(lián)合國教科文組織生物倫理和倫理科方案專家，2005年加入聯(lián)合國教科文組織，之前曾從事設(shè)計(jì)工程和工程管理工作。

 

　　達(dá)弗納·芬赫（墨西哥）系聯(lián)合國教科文組織生物倫理和倫理科科長，接受過心理學(xué)和生物倫理學(xué)的正式教育，曾任墨西哥全國生物倫理委員會秘書長。

 

　　每隔一段時(shí)間，我們就會遇到一種技術(shù)，讓我們停下來去思考作為人類的意義。人工智能的問世要求我們深切反思其潛在的深遠(yuǎn)影響。雖然這一技術(shù)背后的概念已經(jīng)在我們的集體想象中存在了幾十年，但它直到現(xiàn)在才成為我們生活中的現(xiàn)實(shí)。

 

　　人工智能技術(shù)的最新進(jìn)展——特別是那些從總體來說與機(jī)器學(xué)習(xí)有關(guān)，具體而言涉及深度學(xué)習(xí)的進(jìn)展——已經(jīng)表明，人工智能支持系統(tǒng)的效率和效力在很多領(lǐng)域，包括在需要一定程度認(rèn)知推理的任務(wù)方面，都能趕超人類。因此，人工智能有可能為人類帶來巨大進(jìn)步并造福人類，但同時(shí)也會擾亂當(dāng)前人類社會的經(jīng)濟(jì)和政治安排。

 

　　當(dāng)我們思考人工智能的倫理影響時(shí)，應(yīng)當(dāng)明白了如今的人工智能究竟是什么。我們談及人工智能時(shí)，一般指的是“狹義人工智能”或“弱人工智能”，它旨在完成一項(xiàng)特定任務(wù)，例如分析和改善交通狀況，根據(jù)既往購買情況在線推薦產(chǎn)品等。這些“狹義人工智能”已經(jīng)存在，而且將變得越來越復(fù)雜，并融入我們的日常生活。

 

　　在這里，我們不談?wù)摽苹霉适潞?a href="http://baoxianwx.cn/video/list-1410.html" target="_blank">電影中描述的“強(qiáng)人工智能”或者通用人工智能，據(jù)說它們能完成所有的人類認(rèn)知任務(wù)。一些專家認(rèn)為其甚至擁有“自我認(rèn)知”和“意識”的特征。目前尚無通用人工智能是否可行的一致觀點(diǎn)，更不用說何時(shí)能夠?qū)崿F(xiàn)了。

　　《數(shù)字時(shí)代的隱私終結(jié)？》（Theendofprivacyinthedigitalage?）古巴漫畫家法爾科（Falco）作品

 

　　永無止境的數(shù)據(jù)收集

 

　　機(jī)器學(xué)習(xí)和深度學(xué)習(xí)方法需要大量的歷史和實(shí)時(shí)數(shù)據(jù)，以便人工智能支持系統(tǒng)從“經(jīng)驗(yàn)”中“學(xué)習(xí)”，同時(shí)還需要一個(gè)架構(gòu)，以便人工智能在其所學(xué)的基礎(chǔ)上，實(shí)現(xiàn)目標(biāo)或任務(wù)。這意味著我們在思考人工智能的倫理影響時(shí)，還必須顧及人工智能運(yùn)作所需的復(fù)雜技術(shù)環(huán)境。這包括通過物聯(lián)網(wǎng)（InternetofThings）持續(xù)收集大數(shù)據(jù)；將大數(shù)據(jù)存儲在云端；人工智能將大數(shù)據(jù)用于其“學(xué)習(xí)”過程；以及通過智能城市、自動駕駛汽車或機(jī)器人裝置等，進(jìn)行人工智能分析或執(zhí)行任務(wù)。

 

　　技術(shù)發(fā)展越復(fù)雜，所產(chǎn)生的倫理問題就越復(fù)雜。雖然倫理原則沒有改變，但我們處理問題的方式會發(fā)生根本性的變化。因此，這些原則會在我們知情或不知情的情況下受到嚴(yán)重破壞。

 

　　例如，我們的隱私、保密和自主概念可能會發(fā)生根本性變化。通過智能設(shè)備和臉書、推特等已經(jīng)成為社交網(wǎng)絡(luò)工具的程序，我們在沒有切實(shí)了解數(shù)據(jù)的潛在用途和使用者的情況下，就“自由”和自愿地提供了個(gè)人信息。接著，這些數(shù)據(jù)被輸入主要由私營部門開發(fā)的人工智能支持系統(tǒng)。

 

　　由于沒有經(jīng)過匿名處理，關(guān)于我們的喜好和習(xí)慣的信息會被用來創(chuàng)建行為模式，使得人工智能能夠向我們推送政治信息，銷售商業(yè)應(yīng)用程序，追蹤一些與我們的健康有關(guān)的活動等。

 

　　最好的一面和最差的一面

 

　　這會意味著隱私的終結(jié)嗎？數(shù)據(jù)安全情況如何，被黑客入侵的可能性有多大？這些數(shù)據(jù)會被國家用來控制人民，甚至以個(gè)人人權(quán)為代價(jià)嗎？一個(gè)持續(xù)監(jiān)測我們的喜好，并根據(jù)這些喜好為我們提供一系列選項(xiàng)的由人工智能支持的環(huán)境，會以某種方式限制我們的選擇自主性和創(chuàng)造性嗎？

 

　　另一個(gè)要考慮的重要問題是，人工智能支持系統(tǒng)用來“學(xué)習(xí)”的數(shù)據(jù)本身是否包含偏見或成見，從而可能使人工智能做出導(dǎo)致歧視或侮辱的“決定”。用于社會互動或提供社會服務(wù)的人工智能系統(tǒng)將特別容易受此影響。我們必須意識到，一些數(shù)據(jù)，例如互聯(lián)網(wǎng)上生成的數(shù)據(jù)，包含著反映人類最好一面和最差一面的信息。因此，僅靠人工智能支持系統(tǒng)從這些數(shù)據(jù)中學(xué)習(xí)，不足以確保產(chǎn)生合乎道德標(biāo)準(zhǔn)的成果，人為干預(yù)必不可少。

 

　　可以向人工智能支持系統(tǒng)傳授倫理道德嗎？一些哲學(xué)家認(rèn)為，某些經(jīng)驗(yàn)，如美學(xué)和倫理等，是人類與生俱來的，因此無法進(jìn)行編程。其他人則提出，道德可以通過理性得到加強(qiáng)，因此可以進(jìn)行編程，但同時(shí)必須尊重自由選擇。

 

　　能否僅在理性思考的基礎(chǔ)上，向人類傳授倫理和道德，就這一問題人們目前尚且都無法達(dá)成共識，更不用說傳授給人工智能了。即便最終可以通過編程使人工智能具備倫理道德，那我們又該使用誰的倫理道德呢？僅僅是開發(fā)者的嗎？鑒于人工智能的發(fā)展主要由私營部門推動，因此必須考慮到私營部門的倫理有可能不符合社會倫理。

 

　　要確保人工智能為我們所用，而不是與我們?yōu)閿常覀兙捅仨殔⑴c全面對話，對話當(dāng)中要包含受人工智能影響的所有人的不同的倫理觀點(diǎn)。同時(shí)，為了能夠抵消對人類社會的潛在破壞，我們也必須確保，我們用來開發(fā)人工智能的倫理框架考慮到社會責(zé)任等更大的問題。