人類大腦所具有的能力在某些方面要比任何宇宙中已知事物都更為強(qiáng)大，這一點(diǎn)毫無爭議。大腦能夠理解宇宙的存在，為什么會(huì)有無窮多質(zhì)數(shù)，蘋果墜落是因?yàn)闀r(shí)空曲率，遵循自身的生物本能在道德上可能是錯(cuò)誤的，它也能理解自身的存在。大腦不僅是唯一能夠理解上述現(xiàn)象的事物，它的獨(dú)特還體現(xiàn)在這一冷冰冰的物理事實(shí)上：它是唯一能將自己送入太空，然后完好返回的事物，它能預(yù)測或預(yù)防隕石砸到自己，或者將物體冷凍到絕對(duì)零點(diǎn)之上數(shù)十億分之一度，也只有大腦能夠在銀河遠(yuǎn)處尋找同類。
但是，對(duì)于以上所有被實(shí)現(xiàn)的事實(shí)和功能，這個(gè)星球上卻沒有一個(gè)大腦能夠知道自己到底是怎么做出來的。人工地去實(shí)現(xiàn)它——AGI領(lǐng)域（AGI，artificial genera lintelligence，人工通用智能）——六十年來，沒有任何進(jìn)展。
盡管如此，AGI肯定有可能。這源于物理定律的一個(gè)深刻特性，計(jì)算的通用性(universality of computation，譯者注：意思是說通過計(jì)算過程模擬自然過程的普遍可行性）。這一特點(diǎn)要求，只要時(shí)間和儲(chǔ)存能力允許，通用（general-purpose）計(jì)算機(jī)上的某種程序能夠模擬出物體遵循物理定律所做的每件事的任何細(xì)節(jié)。
那么，為什么這個(gè)領(lǐng)域卻一直沒有進(jìn)展呢？在我看來，正如一位不知名的賢人曾經(jīng)說過：「引起困惑的不是我們不知道的東西，而是我們以為知道，實(shí)際上并非如此的東西?！刮蚁氩怀鋈魏纹渌匾闹R(shí)領(lǐng)域會(huì)像這個(gè)領(lǐng)域一樣，社會(huì)和專家中的主流智慧會(huì)如此深受根深蒂固根本錯(cuò)誤的困擾。然而，這也是對(duì)預(yù)言——不久將來，AGI會(huì)取得終極突破——最具自信的領(lǐng)域之一。
1950年，艾倫·圖靈預(yù)測，到2000年「人們能夠談?wù)摍C(jī)器思考而毫無違和感」。1968年，阿瑟·C·克拉克預(yù)測這一情形會(huì)發(fā)生在2001年。直到今天，在對(duì)AGI的編程方面，仍然沒有人超越圖靈的范式。
這不會(huì)讓那些對(duì)AGI可能性持反對(duì)態(tài)度的人（這個(gè)陣營的人數(shù)在減少）感到奇怪。但是，另一陣營（AGI迫近論者）也承認(rèn)，失敗過往亟需一個(gè)合理解釋，至少能夠說得通。
「AGI」這個(gè)用語就是一個(gè)合理化（解釋）的例子，這個(gè)領(lǐng)域曾被稱為「AI」——人工智能。但是，AI漸漸適合于描述各種不相關(guān)的計(jì)算機(jī)程序，比如，游戲玩家，搜索引擎和聊天機(jī)器人，直至G代表的「通用（general）」被加上去，人們才有可能再次（用這個(gè)單詞）指代真實(shí)的事物，不過，現(xiàn)在的AGI不過是指更加聰明的聊天機(jī)器人。
另一類合理化（解釋）偏離了總路線：AGI一點(diǎn)都不牛；現(xiàn)在的軟件已經(jīng)越來越智能，不過是以非人類（non-human)方式，而且我們太虛榮、太過秉持文化上的偏見以至于無法給它應(yīng)有的認(rèn)可。這一解釋獲得了一定支持，因?yàn)樗屓讼肫鸪掷m(xù)流行中文化相對(duì)主義的非理性以及相關(guān)修辭：「我們?nèi)祟愐陨頌閯?dòng)物典范而驕傲，但是這種驕傲放錯(cuò)了地方，因?yàn)閯?dòng)物也有著語言、工具……以及自我意識(shí)。」還記得電影《終結(jié)者》中計(jì)算機(jī)系統(tǒng)（天網(wǎng)，Skynet）變得具有「自我覺知」而被如此關(guān)注嗎？
那只是另一種哲學(xué)上的錯(cuò)誤觀念，本身足以屏蔽通往AGI的任何途徑。事實(shí)上，現(xiàn)在的軟件開發(fā)員能夠直接為計(jì)算機(jī)編程，讓它具有行為意義上「自我覺知」——例如，通過「鏡子測試」（mirrortest，利用鏡子推測關(guān)于自己的事實(shí)）——如果他們希望如此。就我所知，沒人這么做，很可能因?yàn)檫@實(shí)在無關(guān)緊要。
自我覺知之所以會(huì)因其與AGI的聯(lián)系而獲得不應(yīng)有的名聲，原因可能在于任何一種自我參照都有這樣的名聲：迷信般的神秘性（woo-woomystery），這還要感謝哥德爾定律（哥德爾不完備定理，1931年提出，哥德爾證明了任何一個(gè)形式系統(tǒng)，只要包括了簡單的初等數(shù)論描述，而且是自洽的，它必定包含某些系統(tǒng)內(nèi)所允許的方法既不能證明真也不能證偽的命題。——譯者）和二十世紀(jì)各種形式邏輯爭議（為我們揭示出這一真相）。意識(shí)（consciousness）也是如此。而且為了描述意識(shí)，我們又會(huì)遇到術(shù)語模糊的難題：意識(shí)這個(gè)術(shù)語的含義太廣泛了。
在這個(gè)（含義廣泛）術(shù)語的一個(gè)極端，有個(gè)關(guān)于主觀感覺的本質(zhì)，即「感覺質(zhì)（qualia）」的哲學(xué)問題，這與AGI難題緊密相連；不過，另一方面，「意識(shí)」不過是麻醉狀態(tài)時(shí)所失去的東西。許多動(dòng)物當(dāng)然也有這種東西。
未來，AGI確實(shí)會(huì)有自我覺知——但是，那是因?yàn)樗麄儠?huì)變得通用（General）：他們能覺知到各種深刻而微妙的事物，包括它們自己。那并不意味著通過鏡子測試的黑猩猩被暗示具有「通用智能（general intelligence）」特征，AGI是這種「通用智能（general intelligence）」的人工版本。確實(shí)，RichardByrne對(duì)大猩猩模因（memes)的精彩研究已經(jīng)揭示出，黑猩猩如何能相互學(xué)習(xí)有用的行為，卻不理解這些行為的意義：對(duì)黑猩猩認(rèn)知原理的解釋實(shí)際上是行為主義的。
諷刺的是，合理化陣營（AGI已經(jīng)完成了/不重要/在黑猩猩中也存在/是一個(gè)文化虛構(gòu)）的觀點(diǎn)正是那些源于「AGI不可能」陣營觀點(diǎn)的鏡像。針對(duì)每個(gè)類似觀點(diǎn)「你做不出AGI，因?yàn)槟阌肋h(yuǎn)沒法為靈魂編程，因?yàn)樗浅匀坏摹?，「AGI容易實(shí)現(xiàn)」陣營中的合理化觀點(diǎn)會(huì)認(rèn)為，「如果你認(rèn)為人類認(rèn)知與黑猩猩有本質(zhì)不同，你一定信仰超自然靈魂?！?/div>
「我們至今所不可實(shí)現(xiàn)的是…『人類智能』」，這是另外一種合理化（解釋）。這種解釋的代表性人物是哲學(xué)家JohnSearle（他屬于「不可能」陣營），他認(rèn)為在計(jì)算機(jī)誕生之前，蒸汽發(fā)動(dòng)機(jī)和后來電報(bào)系統(tǒng)都曾被用來隱喻人類心智的工作方式。他認(rèn)為，AGI可能僅存在于類似脆弱的隱喻上，亦即心智「本質(zhì)上（essentially）」是計(jì)算機(jī)程序。但是，那并不是一個(gè)隱喻：計(jì)算的通用性(universalityofcomputation)遵循已知的物理定律。
有些人認(rèn)為，大腦使用了量子計(jì)算，甚至使用了以量子理論無法解釋的物理現(xiàn)象為基礎(chǔ)的超量子計(jì)算（hyper-quantumcomputation），這就解釋了為什么在現(xiàn)有計(jì)算機(jī)上創(chuàng)造AGI會(huì)失敗。我和量子理論領(lǐng)域絕大多數(shù)研究人員都無法茍同那就是人類大腦擁有獨(dú)特功能的原因之一，不過詳加解釋已經(jīng)超出本文的討論范圍。
AGI是「人」，從一開始就是該概念的暗含之意。如果有一個(gè)程序，哪怕缺少一個(gè)人類特有的認(rèn)知能力，那么，從定義上說，它就就不是AGI；使用非認(rèn)知性特征（non-cognitiveattributes）（比如碳含量的百分比）來定義人格，是種族主義的做法，贊同有機(jī)大腦優(yōu)于硅大腦。但是，能夠做出新解釋是「人」（人類和AGI）的獨(dú)特功能具有道德和智力上的重要性，他們借由推測和批評(píng)做出新的解釋，這一事實(shí)改變了一切。
如今，人格（personhood）更具象征意義，而非真實(shí)意義——如同一種榮譽(yù)，作為某個(gè)實(shí)體（黑猩猩，胎兒，公司）是人，以實(shí)現(xiàn)某種哲學(xué)或?qū)嵺`目的承諾。這并不好。請(qǐng)不要在乎這些術(shù)語，如果樂意，你可以改變它，對(duì)不同的實(shí)體都尊敬有嘉，使他們免于傷害及其他。那個(gè)客觀標(biāo)準(zhǔn)定義下的真實(shí)人類與其他實(shí)體之間的區(qū)別具有重大的道德和實(shí)踐意義，對(duì)包括AGI在內(nèi)的文明功能也非常重要。
比如，不是計(jì)算機(jī)而是運(yùn)行的程序才是人——僅這一事實(shí)就會(huì)提出一個(gè)未解的哲學(xué)難題，一旦AGl存在，這個(gè)難題就會(huì)變成現(xiàn)實(shí)的政治爭議。因?yàn)橐坏〢GI在計(jì)算機(jī)上運(yùn)行起來，再從計(jì)算機(jī)上剝離它無異于謀殺（或者至少會(huì)是錯(cuò)誤的監(jiān)禁），就像從人體剝奪掉他的思想。但是，和人體不同的是，僅需按鈕，一個(gè)AGI程序就能復(fù)制到許多臺(tái)計(jì)算機(jī)上。
雖然他們的運(yùn)行步驟相同，但是，那些程序是同一個(gè)人還是多個(gè)不同的人？一個(gè)投票權(quán)還是多個(gè)投票權(quán)？刪除程序是謀殺，還是較輕的攻擊？如果一個(gè)流氓程序員在一臺(tái)或者多臺(tái)電腦上編制出成千上萬個(gè)不同的AGI人群，也許這是違法的，會(huì)發(fā)生什么？他們都是人，享有人權(quán)。他們都能擁有選舉權(quán)嗎？
而且，考慮AGI，如同思考其他有創(chuàng)造力的實(shí)體，我們必須忘掉單詞「程序」的全部既有含義。將AGI視為任何其他計(jì)算機(jī)程序會(huì)帶來類似洗腦，奴役，暴虐的效果。這對(duì)小孩也同樣殘酷，因?yàn)楹推渌幊绦袨椴煌?，「編程」一個(gè)已經(jīng)處在運(yùn)行中的AGI意味著教育。這會(huì)引發(fā)道德和事實(shí)層面的爭議。忽視AGI的權(quán)利與人格，不僅是邪惡的化身，還會(huì)制造災(zāi)難：有創(chuàng)造力的存在不能永遠(yuǎn)被奴役。
有些人想知道，我們是否應(yīng)該歡迎新的機(jī)器人負(fù)擔(dān)，并且/或者如何裝備他們的程序，讓其本質(zhì)上對(duì)人類無害（就像阿西莫夫的「機(jī)器人三定律」），并且/或者防止他們掌握將宇宙變?yōu)榛匦吾樀睦碚摗Ｄ嵌疾皇菃栴}。事實(shí)一直如此，生產(chǎn)力、經(jīng)濟(jì)能力、智力，無論哪個(gè)方面，單個(gè)特別有創(chuàng)造力的人（的能力）都成千上萬倍于絕大多數(shù)普通人；而且這種人如果將自己的能力用來作惡，會(huì)禍害無窮。
這些現(xiàn)象與AGI沒關(guān)系。善惡之間的思想斗爭和人類物種一樣古老，還會(huì)繼續(xù)持續(xù)下去，無論智能在什么事物上運(yùn)行。問題在于：我們總是希望善的智能總能擊敗惡的智能，生物智能擊敗人工智能；但是我們錯(cuò)了，我們自己的「善」的概念需要不斷發(fā)展。社會(huì)組織結(jié)構(gòu)如何發(fā)展才算合理呢？「控制所有的智能」是一個(gè)巨大的錯(cuò)誤，「控制所有看起來不同于我們的智能」也好不到哪里去。
我們必須停止使用的含義之一就是將（人類或類似AGI的）教育視為指令（instruction)——作為一種不加變更灌輸既有知識(shí)的手段，讓既有價(jià)值得以遵從。正如波普爾寫道的（在科學(xué)的發(fā)現(xiàn)的語境下，它既適用于AGI編程也適用于孩子教育）：「沒有(不受認(rèn)知框架影響的)指令…我們不是通過復(fù)制而發(fā)現(xiàn)新事實(shí)或新影響，也不是從觀察中歸納推導(dǎo)出它們，或者用任何其他依靠環(huán)境指導(dǎo)的辦法發(fā)現(xiàn)新事物。毋寧說，我們的辦法是試錯(cuò)。」（譯者注：這是波普爾在其《TheMythoftheFramework》中說的話）也就是說，推測和批判。學(xué)習(xí)一定是指新創(chuàng)造的智能為自己行事和控制自身。
我沒有突出所有這些哲學(xué)論題，因?yàn)槲覔?dān)心在人類發(fā)展出理解AGI并將之融入人類文明的哲學(xué)解釋之前，AGI就被研發(fā)出來了。這一擔(dān)心出于幾乎完全相反的原因：我確信，研發(fā)AGI的全部問題就是個(gè)哲學(xué)事實(shí)，而不是計(jì)算機(jī)科學(xué)或神經(jīng)生理學(xué)問題，而且哲學(xué)研究進(jìn)展是AGI未來融合的關(guān)鍵，它也是把研發(fā)AGI放在首位的先決條件。
錯(cuò)誤觀念阻礙了AGI的發(fā)展。沒有了波普爾的認(rèn)識(shí)論，我們甚至沒辦法開始猜測成就AGI必須實(shí)現(xiàn)什么樣的細(xì)節(jié)功能。波普爾的認(rèn)識(shí)論并不為眾人所知，更別說充分理解并加以運(yùn)用了。為了把經(jīng)驗(yàn)，獎(jiǎng)賞與懲罰翻譯成想法（或者更糟，翻譯成行為）而將AGI視為機(jī)器，這如同通過平衡身體幽默來治愈傳染?。簺]用，因?yàn)樗从诠爬锨义e(cuò)得離譜的世界觀。
如果沒有理解AGI功能和其他任何一種計(jì)算機(jī)程序功能存在質(zhì)的不同，那么，這個(gè)人就是在完全不同領(lǐng)域工作。如果一個(gè)人努力制作出其「思維」天生就無法違背先決約束的程序，那么，這個(gè)人就是在設(shè)計(jì)定義智能存在，比如一個(gè)人的特征，也就是創(chuàng)造力。
清除這一障礙不會(huì)自動(dòng)得出結(jié)論。然而，獲得答案也不全然很難。既然人類能夠設(shè)定目標(biāo)而黑猩猩沒有這一能力，理解這一能力質(zhì)的不同就為我們提供了信息：如何獲取這一能力，答案肯定被編碼進(jìn)了人和黑猩猩DNA的相對(duì)少量差異中。因此，在一方面，我贊同AGI迫近陣營的觀點(diǎn)：有理由認(rèn)為我們和突破之間僅隔著一個(gè)想法。但是，這個(gè)想法必須是最好的想法中的一個(gè)。
更多>相關(guān)資訊
0 條相關(guān)評(píng)論
