騰訊思享會，是由騰訊網(wǎng)主辦、騰訊文化傾力打造的跨界思想論壇，每年夏冬舉行兩次。思享會堅持建設(shè)性、開放性、獨立性、學術(shù)性，匯聚思想，容納意見。與上一次思享會側(cè)重思想文化領(lǐng)域不同，本次的主題關(guān)注時下科技前沿——物聯(lián)網(wǎng)、人工智能，以及由此產(chǎn)生的哲學、倫理議題。

 

　　物聯(lián)網(wǎng)是柄“雙刃劍”

 

　　被稱為“第三次信息技術(shù)革命”的物聯(lián)網(wǎng)，無疑是時下的熱門話題。曾著有《智慧的物聯(lián)網(wǎng)》一書的南開大學教授吳功宜，當天圍繞“從互聯(lián)網(wǎng)到物聯(lián)網(wǎng)：機遇or風險”進行了演講。

 

　　在回顧了互聯(lián)網(wǎng)和物聯(lián)網(wǎng)的發(fā)展歷程后，吳功宜指出，物聯(lián)網(wǎng)發(fā)展的最終目的是什么？“是讓人們有更多智慧”。在他看來，實現(xiàn)人與人、人與物、物與物的互聯(lián)并非物聯(lián)網(wǎng)的目的。最終目的是要提升人類對外界世界的全面感知、透徹認知和智慧處理的能力，催生大量具有計算、通信、控制系統(tǒng)的智能設(shè)備和系統(tǒng)。物聯(lián)網(wǎng)的推廣將加快人類邁入智能時代的步伐。但是任何事情都沒有完全的利和弊。有研究表明，物聯(lián)網(wǎng)是懸在人類頭上的一把雙刃劍。“現(xiàn)在我們對互聯(lián)網(wǎng)的安全問題頭疼得要命，將來物聯(lián)網(wǎng)的問題更要命。”根據(jù)物聯(lián)網(wǎng)網(wǎng)絡(luò)安全的特性，RFID \WSN的無限信道、嵌入式系統(tǒng)等將成為新的攻擊重點。網(wǎng)絡(luò)攻擊的動機也已經(jīng)由過去的好奇心，變得趨利，甚至成為有組織的經(jīng)濟犯罪。

 

　　他還以諾基亞的一項移動數(shù)據(jù)研究計劃為例，指出智能技術(shù)與隱私保護的矛盾。“智能數(shù)據(jù)處理的方法，智能信息服務(wù)系統(tǒng)和智能系統(tǒng)都會對人類的隱私保護產(chǎn)生嚴重的影響，而我們現(xiàn)在恰恰很難注意到這些問題。”

 

　　吳功宜的結(jié)論是，“物聯(lián)網(wǎng)是高懸在人頭上的雙刃劍，它的安全問題是一個系統(tǒng)工程。”

 

　　劉德寰：最可怕的是模擬人性

 

　　提到“科學怪人”，人們常常會聯(lián)想到瑪麗·雪萊在《弗蘭肯斯坦》一書中創(chuàng)造的“人造人”。當人類意識到未來有可能創(chuàng)造出有獨立意識的生命體，關(guān)于人工智能風險的討論就從未停止。在思享會當天的對話環(huán)節(jié)，北京大學新媒體研究院副院長、CMRA會長劉德寰就以“商業(yè)智能：科學怪人”為題發(fā)表演講。

 

　　談到人工智能可能帶來的風險，劉德寰說，目前大規(guī)模的機器信息搜集、機器模擬認知已經(jīng)開始，“更可怕的是機器決策。這件事如果有突破性進展，后果非常值得探討。當然最可怕的是模擬人性。”

 

　　他的看法是，“如果把所有這些技術(shù)整合在一起，就不再只是技術(shù)問題，而是道德問題。就有點兒像克隆?，F(xiàn)在克隆出一個人來沒問題，但是問題在于從道德來說有巨大的風險，對人類的未來也會有非常大的風險。”

 

　　“現(xiàn)在可看到的最可怕的機器人是能模擬女性思維。我們知道任何一個女性都是一個大數(shù)據(jù)分析終端，男的不行。這個感覺本身如果放到機器上，大家可以想象后果是什么，好在還沒有把女性研究透。”劉德寰還有一個擔心：“如果我們能探討出來人類思考的密碼，類似DNA的一個東西，我估計這東西出來的時候人類就走向毀滅，因為它本身太可怕了。”

 

　　網(wǎng)絡(luò)安全性帶來的隱患也是劉德寰所擔心的。“過度互聯(lián)本身會帶來過度風險，一旦我們的生活跟所有的東西聯(lián)結(jié)在一起的時候，也就是所謂物聯(lián)網(wǎng)的圖景，那么這個網(wǎng)絡(luò)會綁架我們的一切，帶來一個整體性安全事件的可能性比較大。”而且，“過度互聯(lián)會把我們與生俱來的能力給喪失，我們會被機器裹脅，很多病會增加，會帶來社會成本的上升。” Wi-fi對人有什么影響？電視、冰箱這些家電有了傳輸能力有什么影響？這些都無法確認，是潛在的公共衛(wèi)生事件。過度互聯(lián)還引發(fā)了一個純社會性話題，“你會發(fā)現(xiàn)現(xiàn)在在輿論當中能獨立思考的人越來越少，判斷問題都是直線思維”。而數(shù)據(jù)產(chǎn)業(yè)由于存儲時間、難以精準預測的尷尬，使得人類未來造出的模擬人性的機器，會比較稚嫩，很難模擬一個“愛因斯坦”。“如果真的所有的機器都變成了愛因斯坦，人也就麻煩了，真的非常非常的麻煩。”

 

　　他的結(jié)論是，“發(fā)揮這個科學怪人的所有能力，讓我們的生活更方便、更好。也要控制這個科學怪人的心思，因為如果不控制涉及人性的部分，風險是非常高的。”

 

　　中山大學人機互聯(lián)實驗室主任、哲學系教授翟振明以世界上第一個“有情感”的機器人“辣椒”為例說，有了情感就不再是簡單的機器人，“過兩天控告你販賣感情、騷擾，不把我當人看，那怎么辦？”

 

　　翟振明當天更多介紹的是虛擬世界和主從機器人技術(shù)，“我一動他就動”。“戴上頭盔，接上電腦，人就進入一個新的世界，可以在其他地方相遇，我的實驗室可以做到這一點。”在他看來，“如果把電腦換成手機，把大頭盔換成小一點的，變成可穿戴設(shè)備，全世界網(wǎng)絡(luò)功能再強大一點，就進入了電影《黑客帝國》的世界。”而這，并不是遙遠的未來。

 

　　虛擬世界給人類帶來的變化將是空前巨大的，“國家主權(quán)的概念，領(lǐng)土的概念，人在什么國家，出國的概念完全就改變了”。就比如，人在中國，機器人“替身”在美國，那么這個人出沒出國？“替身”要是殺人如何定性？這里面有復雜的倫理、道德和責任主體問題。

 

　　翟振明總結(jié)說，虛擬現(xiàn)實對于人類生活的意義還不可知，盡管感官層次已經(jīng)沒問題，但如果植入芯片后，這個人還是有自由意志的人嗎？

 

　　趙勇：機器人開車比人開車安全得多

 

　　在隨后的第二場對話中，年輕的格靈深瞳聯(lián)合創(chuàng)始人、CTO趙勇從技術(shù)應(yīng)用方面，介紹了人工智能的最新研究進展——可以看到三維世界的深度視覺，以及人工神經(jīng)網(wǎng)絡(luò)技術(shù)等。“人工智能最底層是感知領(lǐng)域。”目前他所在公司的研究，可以將成果應(yīng)用到銀行安防監(jiān)控、交通領(lǐng)域等。“當我們給汽車賦予了最底層的人工智能，比如視覺感知智能，我們就可以教他安全行駛或者幫助人更加安全行駛。”如果這個技術(shù)做得越來越好，有一天我們就可以把控制權(quán)完全交給汽車，讓他幫我們開車。

 

　　“有研究表明，機器開車比人開車安全得多。我相信輔助駕駛兩年內(nèi)會出現(xiàn)，自主巡航可能五年，真正的自動駕駛可能要十年之后。”他為現(xiàn)場觀眾設(shè)想了這樣一幅畫面：“有一天你打?qū)＼?，發(fā)現(xiàn)是汽車自己駕駛……”

 

　　展望20年以后的網(wǎng)絡(luò)世界，趙勇說：“我想象中的因特網(wǎng)95%的網(wǎng)民不是人，而是幫你掃地的機器人，是你的汽車，是每個監(jiān)控攝像頭，是各種各樣有自我分析能力的傳感器。他們在一起跟我們交流，他們之間也相互交流，而且交流的東西并不是數(shù)據(jù)，而是想法、建議、決策。到那個時代我覺得因特網(wǎng)會變得特別有意思，也會有很多潛在的風險和隨之而來的倫理問題。”

 

　　長期關(guān)注互聯(lián)網(wǎng)發(fā)展的知名IT評論人謝文當天表示，當下萬事萬物數(shù)據(jù)化的趨勢正在加速，勢不可擋。這些數(shù)據(jù)原來是孤立的、片面的、破碎的，現(xiàn)在正在以越來越快的方式互聯(lián)互接起來，比如微信。他同時也表示，“我們沒有資格談?wù)撝悄苌鐣軒硎裁次：Α?rdquo;

 

　　機器人有沒有自由意識？

 

　　短暫的休息過后，包括中國社科院農(nóng)村發(fā)展研究所研究員馮興元、中國林業(yè)大學心理系主任朱建軍、圖靈機器人 CEO俞志晨、北京大學心理系認知神經(jīng)科學副教授毛利華以及科幻作家韓松在內(nèi)的多位嘉賓，在中國信息經(jīng)濟學會信息社會研究所所長王俊秀的主持下，圍繞“人工智能與人類未來”展開討論。

 

　　韓松回顧了科幻文學中機器人的歷史，并以電影《人工智能》為例說明，“科幻作品里對人工智能的關(guān)注，表面上看是技術(shù)的，核心的東西還是人文的。”關(guān)于機器人的討論有以下幾層：技術(shù)上討論能否造出來，造出來之后機器人的地位是怎樣的，再有就是機器人有沒有自由意志。

 

　　毛利華則提出疑問，“我們所謂的智能，所謂的自我意識，很多東西并不一定像我們想象的那樣靠譜或者真正存在，科學的很多證據(jù)說明這一點。那么拿什么定義智能？人和機器的區(qū)別在哪里？”對于未來他是個樂觀派，“無論將來的智能社會發(fā)展到什么程度，我都不是很悲觀。”

 

　　輪到朱建軍發(fā)言，他向現(xiàn)場觀眾發(fā)問：“在座有機器人嗎？”一片笑聲中，還真有兩三個人舉手。他的觀點是，人類和機器的核心差異就是自我意識。

 

　　王俊秀在總結(jié)這一單元時表示，“當我們這些人談?wù)撊斯ぶ悄芑蛘咧悄苌鐣臅r候，事實上我們也在定義人，定義我們自己。”

 

　　當天思享會最后，由中科院自動化研究所復雜系統(tǒng)智能控制與管理國家重點實驗室主任王飛躍做閉幕演講。他結(jié)合自身的跨界科研經(jīng)歷指出，未來的智能就是平行智能，未來的技術(shù)就是平行技術(shù)，將來社會的基礎(chǔ)一定是平行社會，而且將來會越來越好。談到人工智能的前途，王飛躍認為，“將來的機器人，將來的智能機一定要產(chǎn)生出新的工作，就像計算機產(chǎn)生新的工種一樣，就像工業(yè)社會把農(nóng)民轉(zhuǎn)成工人一樣。只有這樣，它才有未來。所以，我不信機器替換人，應(yīng)該是機器度人，機器生人，機器化人。”

 

　　“我是不大相信人工智能危害人，至少近一段時期我相信它的前途在知識自動化方面。”他也大膽設(shè)想未來：每個人一生下來，除了物理空間有一個你，就有好多平行網(wǎng)絡(luò)上的你，伴你成長。以后你沒有這個“平行人”，就相當于拿著大刀紅纓槍，跟槍炮對著干 。