美國(guó)最近簽署的一項(xiàng)確立了“美國(guó)人工智能倡議”(American AI Initiative)的行政命令，將人工智能確立為美國(guó)競(jìng)爭(zhēng)力和國(guó)防的核心。然而，目前還不清楚人工智能是否達(dá)到了許多人聲稱的那樣“智能”的地步。事實(shí)上，目前的技術(shù)所展現(xiàn)的證據(jù)還不能讓人信服，因其遠(yuǎn)遠(yuǎn)未達(dá)到“智能”的標(biāo)準(zhǔn)。

 

　　若想在人工智能領(lǐng)域處于領(lǐng)先地位，最好的辦法是采取一種更貼近人類(lèi)學(xué)習(xí)方式的戰(zhàn)略，這樣等到人工智能領(lǐng)域羽翼豐滿之時(shí)，才能走向隨之而來(lái)的通往經(jīng)濟(jì)增長(zhǎng)和廣泛社會(huì)效益的最佳道路。

 

　　這是大多數(shù)深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)所面臨的挑戰(zhàn)。深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)反映了人工智能的主流方法：稱這些網(wǎng)絡(luò)具有“深度”和“智能”，則假設(shè)了它們?cè)诰W(wǎng)絡(luò)越來(lái)越深的層次上實(shí)現(xiàn)了呈現(xiàn)越來(lái)越抽象和有意義的數(shù)據(jù)。它進(jìn)一步假設(shè)，在某種程度上，深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)超越了死記硬背，獲得了真正的認(rèn)知或智力。但事實(shí)并非如此。

 

　　以深度神經(jīng)網(wǎng)絡(luò)在基準(zhǔn)圖像分類(lèi)任務(wù)上取得了驚人性能改進(jìn)的計(jì)算機(jī)視覺(jué)為例，假設(shè)我們給計(jì)算機(jī)視覺(jué)算法下達(dá)一個(gè)任務(wù)：正確標(biāo)識(shí)貓和狗的圖像。如果該算法可以正確標(biāo)識(shí)，那么我們可能就會(huì)得出結(jié)論，認(rèn)為深度神經(jīng)網(wǎng)絡(luò)已經(jīng)學(xué)會(huì)如何了區(qū)分貓和狗。

 

　　現(xiàn)在假設(shè)在上述情況中，所有的狗都戴了閃亮的金屬狗牌，但是沒(méi)有貓戴貓牌。這樣的話，最可能情況是，深度神經(jīng)網(wǎng)絡(luò)根本沒(méi)有學(xué)會(huì)區(qū)分貓和狗，只是學(xué)會(huì)了檢測(cè)出閃亮的金屬牌。最近的研究表明，實(shí)際上是這樣類(lèi)似的情況在支持深度神經(jīng)網(wǎng)絡(luò)在計(jì)算機(jī)視覺(jué)任務(wù)中的表現(xiàn)。具體解釋起來(lái)可能不像閃亮的金屬牌那樣淺顯，但大多數(shù)學(xué)術(shù)數(shù)據(jù)集都包含類(lèi)似的無(wú)意線索，而深度學(xué)習(xí)算法則會(huì)利用這些線索。

 

　　利用設(shè)計(jì)來(lái)挫敗神經(jīng)網(wǎng)絡(luò)的對(duì)抗性例子，進(jìn)一步提供了更令人不安的證據(jù)，證明深度神經(jīng)網(wǎng)絡(luò)可能根本就不是在“識(shí)別”，而只是在檢測(cè)表面圖像特征。簡(jiǎn)而言之，可以通過(guò)逆向運(yùn)行相同的計(jì)算工具從而創(chuàng)建對(duì)抗性例子，來(lái)訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)。研究人員發(fā)現(xiàn)，對(duì)圖像進(jìn)行人類(lèi)察覺(jué)不到的細(xì)微修改后，就能“哄騙”深度神經(jīng)網(wǎng)絡(luò)，讓它們?cè)趯?duì)圖像進(jìn)行分類(lèi)時(shí)出錯(cuò)，而且往往是些根本性的錯(cuò)誤。

 

　　事實(shí)證明，這個(gè)問(wèn)題屬于計(jì)算誤導(dǎo)的范疇。僅僅添加或刪除幾個(gè)像素就可以瓦解深度神經(jīng)網(wǎng)絡(luò)已經(jīng)學(xué)會(huì)依賴的特定線索。更重要的是，這個(gè)錯(cuò)誤表明深度神經(jīng)網(wǎng)絡(luò)依賴的表面圖像特征通常缺乏意義，至少對(duì)人類(lèi)來(lái)說(shuō)是這樣。

 

　　這為不法分子利用有針對(duì)性的對(duì)抗性例子進(jìn)行嚴(yán)重傷害行為創(chuàng)造了機(jī)會(huì)。例如，如果你指望自動(dòng)駕駛汽車(chē)能夠識(shí)別道路標(biāo)志，或者安全系統(tǒng)能夠識(shí)別指紋，那么你就麻煩了。

 

　　最近在以色列由納夫塔利(Naftali Tishby)領(lǐng)導(dǎo)的一項(xiàng)研究發(fā)現(xiàn)，深度神經(jīng)網(wǎng)絡(luò)會(huì)選擇性地在每一層刪除不重要的信息。一個(gè)訓(xùn)練有素的深度神經(jīng)網(wǎng)絡(luò)刪掉了這么多信息，變得嚴(yán)重依賴幾個(gè)關(guān)鍵的表面特征——“閃亮的金屬牌”——它已經(jīng)失去了所有可以稱為“智能”的東西。與其說(shuō)是深度學(xué)習(xí)，還不如說(shuō)是深度遺忘。

 

　　更糟糕的是，深度神經(jīng)網(wǎng)絡(luò)沒(méi)有能力通過(guò)類(lèi)比進(jìn)行學(xué)習(xí)，而類(lèi)比是所有智能的基礎(chǔ)。例如，人類(lèi)和其他動(dòng)物通過(guò)類(lèi)比來(lái)了解世界是由具有共同屬性的物體組成的。無(wú)論是石頭、蘋(píng)果還是棒球，所有這些物體都會(huì)掉到地上，因?yàn)樗鼈冏裱谥橇Πl(fā)展過(guò)程中憑直覺(jué)獲知的物理定律。

 

　　布朗大學(xué)的研究人員最近測(cè)試了深度神經(jīng)網(wǎng)絡(luò)是否可以通過(guò)類(lèi)比來(lái)學(xué)習(xí)。研究小組發(fā)現(xiàn)，神經(jīng)網(wǎng)絡(luò)沒(méi)有學(xué)到類(lèi)比這個(gè)概念。在一組訓(xùn)練圖像中，深度神經(jīng)網(wǎng)絡(luò)不是通過(guò)類(lèi)比來(lái)學(xué)習(xí)聯(lián)系相似圖像的基本概念，而是簡(jiǎn)單地記憶一組模板來(lái)正確地標(biāo)記訓(xùn)練圖像。

 

　　不能通過(guò)類(lèi)比來(lái)學(xué)習(xí)，很難想象還有什么對(duì)深度學(xué)習(xí)的控訴會(huì)比這個(gè)更強(qiáng)烈了!從本質(zhì)上說(shuō)，所有的認(rèn)知發(fā)展都建立在學(xué)習(xí)和概括一系列具體例子背后的原則的基礎(chǔ)上。迄今為止，深度學(xué)習(xí)不能類(lèi)比學(xué)習(xí)揭示了當(dāng)前人工智能系統(tǒng)所呈現(xiàn)的智能表象背后的虛幻。

 

　　我們經(jīng)過(guò)了漫長(zhǎng)而緩慢的認(rèn)知發(fā)展過(guò)程，現(xiàn)在發(fā)展到專(zhuān)注于解決具有高商業(yè)或市場(chǎng)價(jià)值的特定任務(wù)，從而“剝奪”了人工智能以智能方式處理信息的能力。

 

　　當(dāng)真正的智能機(jī)器最終崛起時(shí)，它們將很可能不再是深度神經(jīng)網(wǎng)絡(luò)或其他當(dāng)前人工智能算法中的任何一種。未來(lái)人工智能的發(fā)展將貫穿著模擬生物學(xué)的系統(tǒng)。就像它們的生物對(duì)手一樣，智能機(jī)器必須通過(guò)類(lèi)比來(lái)學(xué)習(xí)，以獲得對(duì)周?chē)锢憩F(xiàn)象的直觀理解。為了進(jìn)入這個(gè)未來(lái)，我們必須首先回到過(guò)去，給我們的機(jī)器一段嬰兒期，在這段時(shí)間里，它可以跌跌撞撞地認(rèn)識(shí)世界的結(jié)構(gòu)，直到發(fā)現(xiàn)所有智能推理所依賴的憑直覺(jué)獲得的物理規(guī)律。