谷歌人工智能新目標(biāo)已出 或?qū)⒒貧w軟件本身的突破

 

　　想象一下，如果計(jì)算機(jī)自己能理解自己，它們可以做些什么？用不了多久，計(jì)算機(jī)就能做到這件事。并且，這不是在描述遙遠(yuǎn)的未來(lái)，而是觸手可及的現(xiàn)在，使用時(shí)下現(xiàn)有的技術(shù)就能達(dá)到。

 

　　迄今為止，機(jī)器學(xué)習(xí)的專(zhuān)家傾向于聚焦那些為特定任務(wù)開(kāi)發(fā)的AI應(yīng)用，比如人臉識(shí)別、自動(dòng)駕駛、語(yǔ)音識(shí)別甚至是搜索。但是，如果這些類(lèi)似的算法能夠在不需要人為幫助、解釋或者干預(yù)的情況下，理解它們自身的代碼結(jié)構(gòu)呢？正如他們理解人類(lèi)的語(yǔ)言和圖像一樣。

 

　　如果代碼開(kāi)始對(duì)自己進(jìn)行分析、自我修正并提升，且速度比認(rèn)為的更快，那么技術(shù)的突破可能會(huì)來(lái)得更快。由此帶來(lái)的可能性是無(wú)止境的：醫(yī)學(xué)的進(jìn)步、更加自然的機(jī)器人、更智能的手機(jī)、更少bug的軟件，更少的銀行欺詐等等。

 

 

　　人工智能具有解決軟件開(kāi)發(fā)中的一個(gè)古老問(wèn)題的潛力。代碼編寫(xiě)或操縱其他代碼的能力的概念已經(jīng)存在了很長(zhǎng)時(shí)間，一般稱(chēng)為元編程（它實(shí)際上起源于20世紀(jì)50年代末的Lisp）。它解決的難題，目前都還在人們的想象之中。

 

　　但是，現(xiàn)在人工智能讓改變發(fā)生了。

 

　　使用人工智能，計(jì)算機(jī)能夠理解一個(gè)軟件開(kāi)發(fā)項(xiàng)目從無(wú)到有的發(fā)展歷史過(guò)程中的所有代碼，并立即改進(jìn)或者刪除單獨(dú)一行代碼中的bug，不管是用什么編程語(yǔ)言。即便是一個(gè)缺乏經(jīng)驗(yàn)的或者中等水平的程序員都能講清楚讓計(jì)算機(jī)自我編程的原理。由此，一個(gè)癌癥項(xiàng)目的研究可能幾天或者幾個(gè)月就能完成，而不需要花費(fèi)好幾年的時(shí)間，這將帶來(lái)顯著的進(jìn)步。

 

　　今天，這項(xiàng)最終將會(huì)帶來(lái)顛覆性改變的技術(shù)尚處在萌芽時(shí)期，但是，它已經(jīng)開(kāi)始生長(zhǎng)。比如，谷歌的TensorFlow機(jī)器學(xué)習(xí)軟件，讓每位程序員都能將神經(jīng)網(wǎng)絡(luò)直接融入到所開(kāi)發(fā)的APP中，讓APP擁有識(shí)別圖片中的人和物體的能力。要把這些想法變成現(xiàn)實(shí)，你將不再需要一個(gè)博士學(xué)位。讓業(yè)余人士也可以修正程序，這可能會(huì)成為AI發(fā)展歷史上最大的突破。

 

　　國(guó)外著名科技記者StevenLevy今年6月在他刊于BackChannel的文章《谷歌如何將自己重塑為一家“AI為先”的公司》（How GoogleIs Remaking Itself AsA" Machine Learning First"Company）中提到，谷歌大腦負(fù)責(zé)人Jeff Dean表示，隨著他和團(tuán)隊(duì)對(duì)機(jī)器學(xué)習(xí)了解得更多，他們利用機(jī)器學(xué)習(xí)的方法也更加大膽。“以前，我們可能在系統(tǒng)的幾個(gè)子組件中使用機(jī)器學(xué)習(xí)，”JeffDean說(shuō)：“現(xiàn)在我們實(shí)際上使用機(jī)器學(xué)習(xí)來(lái)替換整套系統(tǒng)，而不是試圖為每個(gè)部分制作一個(gè)更好的機(jī)器學(xué)習(xí)模型。”Levy在文中寫(xiě)道，如果現(xiàn)在讓JeffDean改寫(xiě)谷歌的基礎(chǔ)設(shè)施，大部分代碼都不會(huì)由人編碼，而將由機(jī)器學(xué)習(xí)自動(dòng)生成。

 

　　谷歌的代碼bug預(yù)測(cè)系統(tǒng)，使用一個(gè)得分算法，隨著commits變得越來(lái)越舊，它們的價(jià)值越來(lái)越小。

 

　　認(rèn)為計(jì)算機(jī)自我編程離我們還很遠(yuǎn)？如果我告訴你，一些大公司，比如谷歌，已經(jīng)開(kāi)始在內(nèi)部的項(xiàng)目管理系統(tǒng)中嘗試使用這一概念，你可能會(huì)覺(jué)得震驚。但是，谷歌確實(shí)已經(jīng)開(kāi)發(fā)了一個(gè)bug預(yù)測(cè)程序，使用機(jī)器學(xué)習(xí)和統(tǒng)計(jì)分析，來(lái)判斷某一行代碼是否存在瑕疵。谷歌工程師、W3C的聯(lián)合主席IlyaGrigorik也開(kāi)發(fā)了一個(gè)開(kāi)源版本的bug預(yù)測(cè)工具，目前已被下載2萬(wàn)次。

 

　　另一個(gè)例子來(lái)自Siri的繼承者——Viv。Wired最近的一篇報(bào)道中寫(xiě)道，Viv不僅使用一系列的自然語(yǔ)言處理來(lái)實(shí)現(xiàn)語(yǔ)言識(shí)別，還基于英語(yǔ)詞匯建立了復(fù)雜的自適應(yīng)性計(jì)算機(jī)程序。代碼自己寫(xiě)代碼（Codewritingcode）。由于被寫(xiě)入的代碼是經(jīng)過(guò)Viv的開(kāi)發(fā)人員自己訓(xùn)練和專(zhuān)門(mén)化的，所以這里的“寫(xiě)代碼”并不是我們通常所說(shuō)的寫(xiě)代碼的能力，但這確實(shí)是一個(gè)大的進(jìn)步。

 

　　在這個(gè)方向上，另一個(gè)大的進(jìn)步來(lái)自非專(zhuān)業(yè)領(lǐng)域。Emil Schutte曾有過(guò)一句非常具有挑釁性的言論：厭倦了寫(xiě)代碼？我也是！讓Stack Overflow來(lái)做這件事吧。他分享了一個(gè)例子來(lái)證明這一概念，從StackOverflow的大型編程數(shù)據(jù)庫(kù)中提取完整的工作代碼，來(lái)提供完整的功能代碼塊，但是，這樣得到的模塊還是基于已經(jīng)寫(xiě)好的代碼。

 

　　Deep Mind的嘗試

 

　　實(shí)際上更早之前，DeepMind團(tuán)隊(duì)開(kāi)發(fā)了一個(gè)“神經(jīng)編程解釋器”（NPI），能自己學(xué)習(xí)并且編輯簡(jiǎn)單的程序，排序的泛化能力也比序列到序列的LSTM更高。描述這項(xiàng)研究的論文《神經(jīng)程序解釋器》（Neural Programmer-Interpreters），被評(píng)選為ICLR16最佳論文。

 

　　NPI是一種遞歸性的合成神經(jīng)網(wǎng)絡(luò)，能學(xué)習(xí)對(duì)程序進(jìn)行表征和執(zhí)行。NPI的核心模塊是一個(gè)基于LSTM的序列模型，這個(gè)模型的輸入包括一個(gè)可學(xué)習(xí)的程序嵌入、由調(diào)用程序傳遞的程序參數(shù)和對(duì)環(huán)境的特征表征。這個(gè)核心模塊的輸出包括，一個(gè)能指示接下來(lái)將調(diào)用哪個(gè)程序的鍵、一個(gè)經(jīng)典算法程序的參數(shù)，以及一個(gè)能指示該程序是否該停止的標(biāo)記。除了遞歸性?xún)?nèi)核外，NPI構(gòu)架還包括一個(gè)內(nèi)嵌的可學(xué)習(xí)程序的鍵值內(nèi)存。這種程序-內(nèi)存的結(jié)構(gòu)對(duì)于程序的持續(xù)學(xué)習(xí)和重用是極其重要的。

 

　　NPI有三個(gè)擁有學(xué)習(xí)能力的部件：一是任務(wù)未知的遞歸內(nèi)核，二是持續(xù)鍵值程序內(nèi)存，三是基于特定領(lǐng)域的編碼器，這個(gè)編碼器能在多個(gè)感知上有差異的環(huán)境中讓單一的NPI提供截然不同的功能。通過(guò)合成低層程序表達(dá)高層程序，NPI減少了樣本復(fù)雜性，同時(shí)比序列到序列的LSTM更容易泛化。通過(guò)在既有程序的基礎(chǔ)上進(jìn)行建構(gòu)，程序內(nèi)存能高效學(xué)習(xí)額外的任務(wù)。NPI也可以利用環(huán)境緩存計(jì)算的中間結(jié)果，從而減輕遞歸隱藏單元的長(zhǎng)期存儲(chǔ)負(fù)擔(dān)。

 

　　不過(guò)，當(dāng)時(shí)DeepMind團(tuán)隊(duì)并未使用無(wú)監(jiān)督學(xué)習(xí)的方法的訓(xùn)練NPI，其模型也只能學(xué)習(xí)合成若干種簡(jiǎn)單的程序，包括加法、排序和對(duì)3D模型進(jìn)行正則化轉(zhuǎn)換。不過(guò)，單一NPI能學(xué)會(huì)執(zhí)行這些程序以及所有21個(gè)關(guān)聯(lián)子程序。

 

　　田淵棟對(duì)計(jì)算機(jī)自我編程的研究綜述

 

　　Facebook人工智能實(shí)驗(yàn)室研究員田淵棟在他提交ICLR17的文章中，就有一篇研究了這方面的問(wèn)題。

 

　　論文摘要：構(gòu)建能夠通過(guò)自動(dòng)推斷（infer），將一組輸入映射到輸出的計(jì)算機(jī)程序仍是一個(gè)開(kāi)放且極具挑戰(zhàn)性的問(wèn)題。由于在可能的程序上存儲(chǔ)著巨大的搜索空間，并且需要處理高階邏輯（如for循環(huán)或遞歸），所以程序進(jìn)行歸納（induction）任務(wù)是很困難的。在本文中，我們使用Hierarchical Generative Convolutional Neural Networks（HGCNN），自動(dòng)根據(jù)輸入/輸出對(duì)生成程序。HGCNN以層次式預(yù)測(cè)候選代碼串，由此可以使用標(biāo)準(zhǔn)的搜索技術(shù)來(lái)構(gòu)造程序。應(yīng)當(dāng)注意，該模型僅使用隨機(jī)生成的程序進(jìn)行訓(xùn)練，因此可被視為一種無(wú)監(jiān)督學(xué)習(xí)的方法。我們證明，文中所提出的方法可以生成程序，從簡(jiǎn)單的Swap到更復(fù)雜的循環(huán)和分支（比如找到一串?dāng)?shù)組中的最大值）。我們還展示了使用該方法，在實(shí)現(xiàn)諸如BubbleSort等嵌套循環(huán)程序時(shí)取得的不錯(cuò)結(jié)果。將LSTM等作為比較的基礎(chǔ)，新方法的預(yù)測(cè)精度有了顯著的提高。

 

　　田淵棟在《深度學(xué)習(xí)沒(méi)有解決的理論問(wèn)題》里表示，這篇論文將算法的輸入輸出的結(jié)果抽取特征后，送入卷積神經(jīng)網(wǎng)絡(luò)文獻(xiàn)中，再層次式地生成圖像的經(jīng)典框架，生成一張二維圖，每一行就是一行代碼，或者更確切地說(shuō)，是代碼的概率分布。有了好的分布，就可以幫助啟發(fā)式搜索找到正確的程序。而神經(jīng)網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)，則由大量的隨機(jī)代碼、隨機(jī)輸入及隨機(jī)代碼執(zhí)行后得到的輸出來(lái)提供——基本不需要人工干預(yù)，算是一種非監(jiān)督的辦法。

 

　　同時(shí)，田淵棟還在后面補(bǔ)充：“等到今年的ICLR的文章一公布，隨便翻一翻就找到了七篇計(jì)算機(jī)自動(dòng)生成（或者自動(dòng)優(yōu)化）代碼的文章。打開(kāi)一看，引論里全在描述同樣的動(dòng)機(jī)。”

 

　　那這個(gè)動(dòng)機(jī)就是什么？

 

　　“讓計(jì)算機(jī)自己寫(xiě)代碼”。

 

　　一旦機(jī)器可以理解自己，一場(chǎng)顛覆性變革將會(huì)發(fā)生

 

　　隨著越來(lái)越多的這類(lèi)技術(shù)變得成熟，機(jī)器將會(huì)在各種各樣的任務(wù)上超越人類(lèi)。那么，機(jī)器為什么不能理解自己呢？我想這只是時(shí)間的問(wèn)題。并且，一旦機(jī)器做到這一步，你會(huì)發(fā)現(xiàn)，在軟件發(fā)揮重大作用的所有領(lǐng)域，將會(huì)經(jīng)歷一場(chǎng)顛覆性的變革。

 

　　人工智能的核心挑戰(zhàn)之一便是教會(huì)機(jī)器學(xué)習(xí)新的程序、從既有程序中快速地編寫(xiě)新程序，并自動(dòng)在一定條件下執(zhí)行這些程序以解決廣泛種類(lèi)的任務(wù)。在各種人工智能問(wèn)題中，程序以不同的面貌出現(xiàn)，包括運(yùn)動(dòng)行為、圖像轉(zhuǎn)換、強(qiáng)化學(xué)習(xí)策略、經(jīng)典算法和符號(hào)關(guān)系等等。

 

　　現(xiàn)在，機(jī)器已經(jīng)能夠自動(dòng)執(zhí)行越來(lái)越多的程序，而且現(xiàn)在開(kāi)源代碼這么多，如果把歷史上的代碼都學(xué)習(xí)一下，很多編程場(chǎng)景應(yīng)該是可以自動(dòng)化的，至少可以大大減少人工。人類(lèi)程序員尤其是初級(jí)程序員的工作被取代的可能性，也越來(lái)越大。