MargaretMitchell曾是GoogleAI倫理團(tuán)隊(duì)的聯(lián)合負(fù)責(zé)人，她在寫(xiě)了一篇批評(píng)Google系統(tǒng)的論文后被公司解雇。她說(shuō)，這家搜尋巨頭向股東宣傳的賣(mài)點(diǎn)之一是，它在人工智能領(lǐng)域是全球做得最好的。

 

　　Mitchell目前在一家名為HuggingFace的AI初創(chuàng)公司工作，她和GoogleAI倫理團(tuán)隊(duì)的另一位聯(lián)合負(fù)責(zé)人TimnitGebru是最早提醒人們注意該技術(shù)危險(xiǎn)性的人之一。Gebru也被Google解雇。

 

　　在供職Google期間寫(xiě)的最后一篇論文中，她們稱(chēng)這些技術(shù)有時(shí)會(huì)造成傷害，AI的類(lèi)人能力意味著有和人類(lèi)一樣的失敗可能。她們列舉的例子包括，F(xiàn)acebook的AI系統(tǒng)將阿拉伯語(yǔ)的“早上好”誤譯為英語(yǔ)的“傷害他們”和希伯來(lái)語(yǔ)的“攻擊他們”，導(dǎo)致以色列警方逮捕了發(fā)布該問(wèn)候語(yǔ)的巴勒斯坦男子，后來(lái)警方意識(shí)到了自己的失誤。

 

　　去年出版的《Facebook文件》系列報(bào)道援引的內(nèi)部文件也顯示，F(xiàn)acebook的系統(tǒng)未能持續(xù)一貫地識(shí)別第一人稱(chēng)射擊影片和種族主義言論，只刪除了違反該公司規(guī)定的內(nèi)容中的一小部分。《華爾街日?qǐng)?bào)》（TheWallStreetJournal）看到了這些內(nèi)部文件。

 

　　Facebook表示，其人工智能的改進(jìn)大大減少了仇恨言論和其他違反其規(guī)定的內(nèi)容。

 

　　Google表示，解雇Mitchell的原因是她與公司以外的人分享內(nèi)部文件。Google的人工智能主管告訴員工稱(chēng)，Gebru的工作不夠嚴(yán)謹(jǐn)。

 

　　上述解聘事件在科技行業(yè)造成振動(dòng)，引發(fā)Google內(nèi)外數(shù)以千計(jì)的人譴責(zé)他們?cè)谝环菡?qǐng)?jiān)笗?shū)中所稱(chēng)的“前所未有的研究審查制”。Google首席執(zhí)行官皮查伊（SundarPichai）表示，他將努力在這些問(wèn)題上恢復(fù)人們的信任，并承諾把研究人工智能倫理的人數(shù)增加一倍。

 

　　感覺(jué)和現(xiàn)實(shí)之間存在差距并不是什么新鮮事。Etzioni和其他人提到了有關(guān)Watson的營(yíng)銷(xiāo)，Watson是InternationalBusinessMachinesCorp.（IBM）開(kāi)發(fā)的人工智能業(yè)務(wù)，在智力競(jìng)賽節(jié)目《危險(xiǎn)邊緣》（Jeopardy）中打敗人類(lèi)后變得廣為人知。在進(jìn)行了10年和數(shù)以十億美元計(jì)的投資后，IBM去年表示正探索出售WatsonHealth的可能性，該部門(mén)的主營(yíng)產(chǎn)品本應(yīng)用于幫助醫(yī)生診斷和治療癌癥。

 

　　人工智能現(xiàn)在無(wú)處不在，而且涉及更多公司，因此變得更舉足輕重。這些公司開(kāi)發(fā)的軟件包括電子郵件、搜索引擎、動(dòng)態(tài)消息、語(yǔ)音助手，已滲透至大眾數(shù)字生活的各個(gè)角落。

 

　　在上述工程師發(fā)表最近的說(shuō)法之后，Google反駁了其聊天機(jī)器人具有感知力的說(shuō)法。

 

　　Google的聊天機(jī)器人和其他對(duì)話(huà)工具“可以大聊任何虛幻的話(huà)題”，該公司發(fā)言人BrianGabriel表示。“如果你問(wèn)成為一只冰激凌恐龍是什么感覺(jué)，它們可以生成與融化、咆哮等有關(guān)的文本。”他說(shuō)，這并不等同于有意識(shí)。

 

　　現(xiàn)已被停職的那位工程師BlakeLemoine在接受采訪時(shí)稱(chēng)，他曾匯集了數(shù)以百頁(yè)計(jì)來(lái)自聊天機(jī)器人LaMDA相關(guān)受控實(shí)驗(yàn)的對(duì)話(huà)以支持自己的研究，他確切介紹了Google程序的內(nèi)部運(yùn)作情況。

 

　　“這并不是夸大該系統(tǒng)的本質(zhì)，”Lemoine說(shuō)。“我正盡可能小心、精確地傳遞訊息，說(shuō)清哪里有不確定性，哪里沒(méi)有。”

 

　　Lemoine自稱(chēng)是一個(gè)神秘主義者，融合了基督教以及冥想等其他精神實(shí)踐的元素。他已表示，當(dāng)他說(shuō)LaMDA有意識(shí)的時(shí)候，是在以宗教身份說(shuō)話(huà)。

 

　　布朗大學(xué)（BrownUniversity）研究人工智能政策的計(jì)算器科學(xué)博士生ElizabethKumar稱(chēng)，認(rèn)知差距已經(jīng)在政策文件中悄然顯現(xiàn)。最近的地方、聯(lián)邦和國(guó)際規(guī)定以及監(jiān)管提案，紛紛尋求應(yīng)對(duì)人工智能系統(tǒng)可能通過(guò)歧視、操縱或其他方式造成傷害的問(wèn)題，這些都是基于系統(tǒng)具有高度能力的假設(shè)。她說(shuō)，一種更有可能發(fā)生的情況在很大程度上被忽略了，即此類(lèi)人工智能系統(tǒng)因失靈而造成傷害。

 

　　Etzioni也是拜登（JoeBiden）政府的國(guó)家人工智能研究資源工作組（NationalArtificialIntelligenceResearchResourceTaskForce）的成員，他表示，政策制定者往往難以把握這些問(wèn)題。他說(shuō)：“我可以告訴你，從我與他們中的一些人的交流來(lái)看，他們的出發(fā)點(diǎn)是好的，也問(wèn)出了一些好問(wèn)題，但他們并非對(duì)情況了如指掌。”