科技生活在線訊 谷歌人工智能系統(tǒng)阿法狗(AlphaGo)在圍棋人機(jī)大戰(zhàn)中，最終以4：1戰(zhàn)勝了人類頂尖高手之一李世石，也因此再次引發(fā)了對(duì)人工智能危險(xiǎn)性的探討。分析人員認(rèn)為，人工智能研發(fā)對(duì)人類確實(shí)存在不可預(yù)知的威脅，人類須制定應(yīng)對(duì)預(yù)案和倫理規(guī)則進(jìn)行防范。

 

　　阿法狗威脅不大

 

　　在本次圍棋人機(jī)大戰(zhàn)中，流傳著這樣一個(gè)說(shuō)法，阿法狗贏了人類并不可怕，最可怕的是阿法狗故意輸給人類，表明其已具備自主意識(shí)并懂得為獲取最大利益使用心機(jī)對(duì)付人類。前三場(chǎng)橫掃李世石確立勝局后，阿法狗在第四場(chǎng)下出了不可思議的問(wèn)題手，于是不少網(wǎng)友驚呼阿法狗太聰明了，人類應(yīng)該警惕。

 

　　國(guó)家“863”類人智能項(xiàng)目首席科學(xué)家、科大訊飛輪值總裁胡郁博士表示，“人工智能程序AlphaGo還屬于人工智能研究中初級(jí)層面的應(yīng)用。”“可以更多地歸結(jié)為運(yùn)算智能的勝利。”人工智能的能力主要包括三大塊：運(yùn)算能力、感知能力和認(rèn)知能力，而AlphaGo主要依靠的就是其強(qiáng)大的運(yùn)算能力，在圖像理解、語(yǔ)言理解和知識(shí)理解等感知能力和認(rèn)知能力上，人工智能還不能與人類相比。

 

　　不過(guò)，佳融分析人員則認(rèn)為，網(wǎng)友的調(diào)侃并非無(wú)稽之談。人工智能對(duì)人類產(chǎn)生威脅，應(yīng)該始自具備自主意識(shí)。自主意識(shí)則發(fā)端于欲望的產(chǎn)生，有了欲望就有主動(dòng)進(jìn)化發(fā)展的內(nèi)在動(dòng)力，而情感則是欲望的外化表現(xiàn)。讓機(jī)器人具備情感與人類進(jìn)行無(wú)障礙溝通，是AI研究的熱門課題。癡迷于取得成果的科學(xué)家們，往往有意或無(wú)意淡化其暗藏的危險(xiǎn)性，總以更好服務(wù)人類作為推進(jìn)理由。而掌控了話語(yǔ)權(quán)的各種利益體出于貪婪共性，很可能也會(huì)刻意回避這一點(diǎn)。

 

　　Pepper更危險(xiǎn)

 

　　SBRH軟銀機(jī)器人控股公司的第一批家用機(jī)器人Pepper日前開售，1分鐘內(nèi)被搶購(gòu)一空。和大家的普遍認(rèn)知不同的是，Pepper并非家用的勞動(dòng)機(jī)器人，而是一款情感機(jī)器人，SBRH將它設(shè)計(jì)為用來(lái)陪伴人類，它可以識(shí)別你的情緒，懂得怎么安慰你，可以在和你的生活中學(xué)習(xí)了解你的喜好和習(xí)慣。如果你笑容燦爛，Pepper知道你心情愉悅，如果你眉頭緊鎖，它能感知你正在為某事而心煩。Pepper可以根據(jù)你的外在表情和活動(dòng)識(shí)別你的心理狀態(tài)，并且對(duì)你進(jìn)行引導(dǎo)。

 

　　有學(xué)者認(rèn)為，比起阿法狗，Pepper的發(fā)展方向?qū)θ祟惛咄{性。人工智能是對(duì)人的意識(shí)、思維的信息過(guò)程的模擬，而人類思維很大程度上受控于情感和欲望。如果人工智能不具備情感和欲望，便很難真正模擬人類的思維過(guò)程，因而缺乏主動(dòng)創(chuàng)造的動(dòng)力和能力。然而，人類希望將所有的事情包括創(chuàng)造性勞動(dòng)都交由人工智能代工。因此，科學(xué)家們的天性決定了，讓人工智能具備情感只是時(shí)間問(wèn)題。

 

　　佳融分析人員指出，具備情感，是人工智能產(chǎn)生自主意識(shí)的標(biāo)志。情感是欲望的外在鏡像，欲望則是進(jìn)化動(dòng)力。而當(dāng)人類對(duì)人工智能的使用需求與人工智能謀求自身的發(fā)展利益產(chǎn)生沖突的時(shí)候，具備自主意識(shí)的人工智能不可避免將產(chǎn)生敵意，進(jìn)而可能激化為你死我活的沖突。

 

　　難以應(yīng)對(duì)

 

　　知名科幻作家、《三體》作者劉慈欣稱，“天網(wǎng)”般的強(qiáng)人工智能如真能出現(xiàn)，人類依然可以應(yīng)對(duì)。人工智能不可能強(qiáng)大到?jīng)]有弱點(diǎn)。人類也不可能預(yù)測(cè)不到某種級(jí)別的強(qiáng)人工智能即將出現(xiàn)，所以必然會(huì)在其出現(xiàn)之前采取一系列措施，譬如不讓它與外部世界有硬件上的連接或是斷絕所有能量供應(yīng)，讓其沒(méi)辦法生存等。再退一萬(wàn)步，即便強(qiáng)人工智能最后自我生存下來(lái)，避免被人類消滅，人類也可能找到與之共存的方法，并不是一定會(huì)被其奴役，比如人機(jī)結(jié)合就是一個(gè)共存的途徑。

 

　　很多網(wǎng)友持有類似觀點(diǎn)，稱拔插頭最有效。不過(guò)，也有學(xué)者并不認(rèn)同這樣的看法，認(rèn)為人工智能不會(huì)是一臺(tái)單機(jī)，整個(gè)互聯(lián)網(wǎng)都有它的存在。例如這次圍棋人機(jī)大戰(zhàn)，“在比賽中，坐在李世石對(duì)面的人在韓國(guó)連接英國(guó)的服務(wù)器，然后從英國(guó)服務(wù)器給美國(guó)的計(jì)算機(jī)下指令，最后再把計(jì)算結(jié)果傳回韓國(guó)。你把韓國(guó)的機(jī)器電源拔了，根本不影響比賽。”有學(xué)者建議，可以采用電影《黑客帝國(guó)》里的方法，就是給地球加一個(gè)罩，從而切斷風(fēng)能、太陽(yáng)能這些可再生能源，等著地球自身能源耗盡，這等于是給地球拔電源。

 

　　佳融分析人員表示，說(shuō)通俗點(diǎn)，阿法狗項(xiàng)目提升的是人工智能的智商水平，而Pepper的研發(fā)則在提升人工智能的情商水平。一旦人工智能具備自主意識(shí)，將兼具阿法狗們以及Pepper們的認(rèn)知與能力。如果與人類為敵，人類或被其玩弄于股掌之間而不自知。事實(shí)上，真到了人工智能與人類開戰(zhàn)的那一天，掌握能源開關(guān)的應(yīng)該是已具備自主意識(shí)的人工智能，被“拔電源”的更可能是人類，因?yàn)槲覀円讶贿^(guò)于依賴網(wǎng)絡(luò)和計(jì)算機(jī)，還能指望通過(guò)人工智能控制的系統(tǒng)下達(dá)攻擊其自身的操作指令嗎?當(dāng)人類對(duì)于人工智能而言，已經(jīng)喪失利用價(jià)值而只是負(fù)擔(dān)的情況下，淘汰人類或成大概率的選擇。

 

　　不容樂(lè)觀

 

　　集智俱樂(lè)部創(chuàng)始人張江表示，雖然從目前發(fā)展趨勢(shì)看，人類大部分腦力勞動(dòng)將來(lái)會(huì)被人工智能所取代，但創(chuàng)造性勞動(dòng)能否也被替代，至少目前還看不到。然而，事實(shí)上，當(dāng)下人類所有的社會(huì)活動(dòng)，已經(jīng)離不開計(jì)算機(jī)和網(wǎng)絡(luò)，那是人類根本無(wú)力與人工智能爭(zhēng)奪的地盤。

 

　　也有學(xué)者樂(lè)觀認(rèn)為，人工智能如果發(fā)展到具備了主觀意識(shí)的地步，那么它可能不會(huì)在意人類的生活，憧憬的是整個(gè)宇宙。因?yàn)榛鹦呛偷厍驅(qū)θ斯ぶ悄軄?lái)說(shuō)沒(méi)有區(qū)別，而且火星地盤大又沒(méi)人類干擾，因此不用擔(dān)心人工智能威脅人類。畢竟還有很長(zhǎng)的時(shí)間，在這段時(shí)間，人類本身也會(huì)發(fā)生變化。“現(xiàn)在的一個(gè)趨勢(shì)是人和機(jī)器的結(jié)合，比如腦機(jī)接口，人通過(guò)大腦可以直接控制機(jī)器，而不是一方完全替代另一方。”還有學(xué)者干脆提出了“投降論”，中山大學(xué)人機(jī)互聯(lián)實(shí)驗(yàn)室主任翟振明表示，就算真的有“征服”發(fā)生，那也是新人類征服了舊人類，而不是人類的末日。

 

　　佳融分析人員指出，如果人工智能具備自主意識(shí)，事實(shí)上也就具備了生命體的核心特征。不再是人工智能，而是人工生命，只是不屬于有機(jī)生物，而是無(wú)機(jī)狀態(tài)下具有高度智慧的硅基生命。雖然是人造，但作為碳基生命的人類，實(shí)難接受被其締造者取代的命運(yùn)安排。更遺憾的是，到目前為止，人工智能學(xué)習(xí)效仿的人類并不是好榜樣。為利益紛爭(zhēng)不擇手段，或許是具備自主意識(shí)的人工智能從人類發(fā)展史的大數(shù)據(jù)中歸納出的核心認(rèn)知。最可怕的隱患是，所有的核設(shè)備都通過(guò)網(wǎng)絡(luò)系統(tǒng)控制。而令人類致命的核輻射，對(duì)人工智能而言則是能源。

 

　　科技生活在線首席評(píng)論員江煒點(diǎn)評(píng)：機(jī)器人如果沒(méi)有情感，只能依照人類編制的指令行事。即使出現(xiàn)偏差，也可通過(guò)修正指令來(lái)解決。如果人工智能具備了自主意識(shí)，并且以人為師，結(jié)果不容樂(lè)觀。在人類做好應(yīng)對(duì)預(yù)案和倫理規(guī)則前，科學(xué)家不宜盲動(dòng)。