美國最近簽署的一項確立了“美國人工智能倡議”(American AI Initiative)的行政命令，將人工智能確立為美國競爭力和國防的核心。然而，目前還不清楚人工智能是否達(dá)到了許多人聲稱的那樣“智能”的地步。事實上，目前的技術(shù)所展現(xiàn)的證據(jù)還不能讓人信服，因其遠(yuǎn)遠(yuǎn)未達(dá)到“智能”的標(biāo)準(zhǔn)。

 

　　若想在人工智能領(lǐng)域處于領(lǐng)先地位，最好的辦法是采取一種更貼近人類學(xué)習(xí)方式的戰(zhàn)略，這樣等到人工智能領(lǐng)域羽翼豐滿之時，才能走向隨之而來的通往經(jīng)濟(jì)增長和廣泛社會效益的最佳道路。

 

　　這是大多數(shù)深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)所面臨的挑戰(zhàn)。深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)反映了人工智能的主流方法：稱這些網(wǎng)絡(luò)具有“深度”和“智能”，則假設(shè)了它們在網(wǎng)絡(luò)越來越深的層次上實現(xiàn)了呈現(xiàn)越來越抽象和有意義的數(shù)據(jù)。它進(jìn)一步假設(shè)，在某種程度上，深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)超越了死記硬背，獲得了真正的認(rèn)知或智力。但事實并非如此。

 

　　以深度神經(jīng)網(wǎng)絡(luò)在基準(zhǔn)圖像分類任務(wù)上取得了驚人性能改進(jìn)的計算機(jī)視覺為例，假設(shè)我們給計算機(jī)視覺算法下達(dá)一個任務(wù)：正確標(biāo)識貓和狗的圖像。如果該算法可以正確標(biāo)識，那么我們可能就會得出結(jié)論，認(rèn)為深度神經(jīng)網(wǎng)絡(luò)已經(jīng)學(xué)會如何了區(qū)分貓和狗。

 

　　現(xiàn)在假設(shè)在上述情況中，所有的狗都戴了閃亮的金屬狗牌，但是沒有貓戴貓牌。這樣的話，最可能情況是，深度神經(jīng)網(wǎng)絡(luò)根本沒有學(xué)會區(qū)分貓和狗，只是學(xué)會了檢測出閃亮的金屬牌。最近的研究表明，實際上是這樣類似的情況在支持深度神經(jīng)網(wǎng)絡(luò)在計算機(jī)視覺任務(wù)中的表現(xiàn)。具體解釋起來可能不像閃亮的金屬牌那樣淺顯，但大多數(shù)學(xué)術(shù)數(shù)據(jù)集都包含類似的無意線索，而深度學(xué)習(xí)算法則會利用這些線索。

 

　　利用設(shè)計來挫敗神經(jīng)網(wǎng)絡(luò)的對抗性例子，進(jìn)一步提供了更令人不安的證據(jù)，證明深度神經(jīng)網(wǎng)絡(luò)可能根本就不是在“識別”，而只是在檢測表面圖像特征。簡而言之，可以通過逆向運行相同的計算工具從而創(chuàng)建對抗性例子，來訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)。研究人員發(fā)現(xiàn)，對圖像進(jìn)行人類察覺不到的細(xì)微修改后，就能“哄騙”深度神經(jīng)網(wǎng)絡(luò)，讓它們在對圖像進(jìn)行分類時出錯，而且往往是些根本性的錯誤。

 

　　事實證明，這個問題屬于計算誤導(dǎo)的范疇。僅僅添加或刪除幾個像素就可以瓦解深度神經(jīng)網(wǎng)絡(luò)已經(jīng)學(xué)會依賴的特定線索。更重要的是，這個錯誤表明深度神經(jīng)網(wǎng)絡(luò)依賴的表面圖像特征通常缺乏意義，至少對人類來說是這樣。

 

　　這為不法分子利用有針對性的對抗性例子進(jìn)行嚴(yán)重傷害行為創(chuàng)造了機(jī)會。例如，如果你指望自動駕駛汽車能夠識別道路標(biāo)志，或者安全系統(tǒng)能夠識別指紋，那么你就麻煩了。

 

　　最近在以色列由納夫塔利(Naftali Tishby)領(lǐng)導(dǎo)的一項研究發(fā)現(xiàn)，深度神經(jīng)網(wǎng)絡(luò)會選擇性地在每一層刪除不重要的信息。一個訓(xùn)練有素的深度神經(jīng)網(wǎng)絡(luò)刪掉了這么多信息，變得嚴(yán)重依賴幾個關(guān)鍵的表面特征——“閃亮的金屬牌”——它已經(jīng)失去了所有可以稱為“智能”的東西。與其說是深度學(xué)習(xí)，還不如說是深度遺忘。

 

　　更糟糕的是，深度神經(jīng)網(wǎng)絡(luò)沒有能力通過類比進(jìn)行學(xué)習(xí)，而類比是所有智能的基礎(chǔ)。例如，人類和其他動物通過類比來了解世界是由具有共同屬性的物體組成的。無論是石頭、蘋果還是棒球，所有這些物體都會掉到地上，因為它們遵循在智力發(fā)展過程中憑直覺獲知的物理定律。

 

　　布朗大學(xué)的研究人員最近測試了深度神經(jīng)網(wǎng)絡(luò)是否可以通過類比來學(xué)習(xí)。研究小組發(fā)現(xiàn)，神經(jīng)網(wǎng)絡(luò)沒有學(xué)到類比這個概念。在一組訓(xùn)練圖像中，深度神經(jīng)網(wǎng)絡(luò)不是通過類比來學(xué)習(xí)聯(lián)系相似圖像的基本概念，而是簡單地記憶一組模板來正確地標(biāo)記訓(xùn)練圖像。

 

　　不能通過類比來學(xué)習(xí)，很難想象還有什么對深度學(xué)習(xí)的控訴會比這個更強(qiáng)烈了!從本質(zhì)上說，所有的認(rèn)知發(fā)展都建立在學(xué)習(xí)和概括一系列具體例子背后的原則的基礎(chǔ)上。迄今為止，深度學(xué)習(xí)不能類比學(xué)習(xí)揭示了當(dāng)前人工智能系統(tǒng)所呈現(xiàn)的智能表象背后的虛幻。

 

　　我們經(jīng)過了漫長而緩慢的認(rèn)知發(fā)展過程，現(xiàn)在發(fā)展到專注于解決具有高商業(yè)或市場價值的特定任務(wù)，從而“剝奪”了人工智能以智能方式處理信息的能力。

 

　　當(dāng)真正的智能機(jī)器最終崛起時，它們將很可能不再是深度神經(jīng)網(wǎng)絡(luò)或其他當(dāng)前人工智能算法中的任何一種。未來人工智能的發(fā)展將貫穿著模擬生物學(xué)的系統(tǒng)。就像它們的生物對手一樣，智能機(jī)器必須通過類比來學(xué)習(xí)，以獲得對周圍物理現(xiàn)象的直觀理解。為了進(jìn)入這個未來，我們必須首先回到過去，給我們的機(jī)器一段嬰兒期，在這段時間里，它可以跌跌撞撞地認(rèn)識世界的結(jié)構(gòu)，直到發(fā)現(xiàn)所有智能推理所依賴的憑直覺獲得的物理規(guī)律。