公共機(jī)構(gòu)使用這類系統(tǒng)會(huì)嚴(yán)重引起人們對(duì)這類法定訴訟程序的擔(dān)憂。這些系統(tǒng)至少要經(jīng)歷公共審計(jì)、測(cè)試及審查的過程，符合相應(yīng)的問責(zé)標(biāo)準(zhǔn)。

 

　　這將帶來一個(gè)重大的轉(zhuǎn)變：提出的這項(xiàng)建議反映了 AI 及相關(guān)系統(tǒng)已經(jīng)對(duì)部分重大決策產(chǎn)生影響。過去的一年里，也有許多能夠作證這一點(diǎn)的研究報(bào)告。人們?cè)诔@個(gè)方向邁進(jìn)，本月，紐約市議會(huì)就開展了一項(xiàng)關(guān)于保障算法決策系統(tǒng)的透明度和測(cè)試的相關(guān)法案。

 

 

　　AI 是一個(gè)發(fā)展迅猛的領(lǐng)域，開展測(cè)試的方法、假設(shè)以及測(cè)試結(jié)果，都應(yīng)該是公開透明、有明確版本的，這有助于應(yīng)對(duì)更新升級(jí)以及新的發(fā)現(xiàn)。

 

　　那些開發(fā)系統(tǒng)并從中獲利的人應(yīng)該肩負(fù)起相應(yīng)的測(cè)試及保障環(huán)節(jié)的責(zé)任，包括預(yù)發(fā)布版本的測(cè)試。AI 領(lǐng)域距離標(biāo)準(zhǔn)化方法的實(shí)現(xiàn)還有很長的路要走，這也是建議這些方法和假設(shè)需要公開審核和討論的原因。如果隨著時(shí)間的推移，AI 領(lǐng)域能夠制定出具有魯棒性的測(cè)試準(zhǔn)則，那么這種開放性是至關(guān)重要的。另外，即便在標(biāo)準(zhǔn)化方法中，實(shí)驗(yàn)室測(cè)試也不能捕捉到所有的錯(cuò)誤和盲區(qū)，這也是建議三出現(xiàn)的原因。

 

 

　　監(jiān)測(cè)方法和結(jié)果的定義需要一個(gè)公開、嚴(yán)謹(jǐn)?shù)膶W(xué)術(shù)過程，要對(duì)公眾負(fù)責(zé)。特別是在高風(fēng)險(xiǎn)決策環(huán)境中，應(yīng)該優(yōu)先考慮傳統(tǒng)邊緣化社區(qū)的看法和經(jīng)驗(yàn)。

 

　　確保 AI 算法系統(tǒng)的安全性問題是非常復(fù)雜的，是一個(gè)針對(duì)給定系統(tǒng)生命周期的持續(xù)過程，而不是一個(gè)完成后就可以遺忘的短期檢驗(yàn)。只有在動(dòng)態(tài)的使用案例和環(huán)境中進(jìn)行監(jiān)測(cè)才能確保 AI 系統(tǒng)不會(huì)在假設(shè)和領(lǐng)域發(fā)生改變時(shí)引入錯(cuò)誤和偏差。同樣值得注意的是，許多 AI 模型和系統(tǒng)都有通用性，產(chǎn)品可能會(huì)采用一些即插即用的附加功能，如情感檢測(cè)或面部識(shí)別等。這意味著那些提供通用 AI 模型的企業(yè)也可以考慮選擇已經(jīng)批準(zhǔn)使用的功能，這些經(jīng)過許可的功能已經(jīng)把潛在的負(fù)面影響和風(fēng)險(xiǎn)等因素考慮在內(nèi)。

 

 

　　這項(xiàng)研究將補(bǔ)充目前自動(dòng)化取代工人的這一研究焦點(diǎn)，應(yīng)該特別注意對(duì)勞工權(quán)利和行為的潛在影響，以及操縱行為的潛力以及在招聘和晉升過程中無意強(qiáng)化的偏見。

 

　　圍繞 AI 和勞動(dòng)力的爭論通常會(huì)集中在工人流離失所的問題上，這是一個(gè)非常嚴(yán)重的問題。然而，了解 AI 算法系統(tǒng)在整個(gè)工作場所中的使用情況也同樣重要，包括行為推動(dòng)，到檢測(cè)環(huán)節(jié)，再到績效評(píng)估過程。例如，一家名為 HireVue 的公司最近部署了一項(xiàng)基于 AI 的視頻面試服務(wù)，可以分析求職者的講話、肢體語言、語調(diào)，從而確定求職者是否符合一家給定公司的「優(yōu)秀」模型。鑒于這些系統(tǒng)存在降低多樣性并鞏固現(xiàn)有偏見的可能性，人們需要做更多的工作來充分理解 AI 是如何融入管理、招聘、調(diào)度以及日常工作場所中的實(shí)踐中的。

 

 

　　這是為了更好地了解和監(jiān)控偏差及代表性曲解問題。除了更好地記錄訓(xùn)練數(shù)據(jù)集的創(chuàng)建和維護(hù)過程，AI 偏差領(lǐng)域的社會(huì)科學(xué)家和測(cè)量研究員應(yīng)該繼續(xù)檢驗(yàn)現(xiàn)有的訓(xùn)練數(shù)據(jù)集，并努力理解已經(jīng)存在在實(shí)際工作中的潛在盲區(qū)和偏差。

 

　　依賴于大規(guī)模數(shù)據(jù)，AI 才能發(fā)現(xiàn)模式并作出預(yù)測(cè)。這些數(shù)據(jù)反映人類歷史的同時(shí)，也不可避免地反映了訓(xùn)練數(shù)據(jù)集的偏差和成見。機(jī)器學(xué)習(xí)技術(shù)山擅長提取統(tǒng)計(jì)模式，常常會(huì)在試圖概括常見案例的過程下省略不同的異常值，這也是不根據(jù)數(shù)據(jù)表面價(jià)值進(jìn)行偏差研究的重要原因。這樣的研究要從理解訓(xùn)練 AI 系統(tǒng)的數(shù)據(jù)來自哪里開始，追蹤這些數(shù)據(jù)是如何在系統(tǒng)中使用的，而且要隨著時(shí)間推移驗(yàn)證給定數(shù)據(jù)集的形態(tài)。在掌握這一點(diǎn)的基礎(chǔ)上，人們可以更好地理解數(shù)據(jù)中反映出的錯(cuò)誤和偏差，進(jìn)而研發(fā)出能夠在數(shù)據(jù)的開發(fā)和采集中識(shí)別這種情況并將其削弱的方法。

 

 

　　偏差問題長期以來一直存在，并且是一個(gè)結(jié)構(gòu)性問題，深度的跨學(xué)科研究是解決偏差問題的必要途徑之一。在技術(shù)層面，研究者們往往希望能一勞永逸地徹底解決問題，這嚴(yán)重低估了問題放在社會(huì)層面時(shí)的復(fù)雜性。在教育、醫(yī)療、刑事司法等領(lǐng)域，偏差問題的趨勢(shì)源于其自身的歷史進(jìn)程和過往實(shí)踐，如果不結(jié)合相應(yīng)的領(lǐng)域知識(shí)，偏差問題就不能被徹底解決。要解決偏差問題，一定需要跨學(xué)科的合作，并尊重不同學(xué)科的規(guī)則。

 

　　最近，人工智能以及偏差算法領(lǐng)域有了一些喜人的進(jìn)展。但在這里，我們還是要提醒諸位不要閉門造車。否則，很有可能出現(xiàn)這樣的情況——系統(tǒng)雖然一直在優(yōu)化，但我們卻不知道怎樣用這個(gè)越來越優(yōu)化的系統(tǒng)解決問題。計(jì)算機(jī)科學(xué)家能夠通過與諸如法律、醫(yī)學(xué)、社會(huì)學(xué)、人類學(xué)和交流學(xué)等領(lǐng)域的專家合作，在 AI 數(shù)據(jù)形成以及上下文集成之前，更好地理解數(shù)據(jù)底層的結(jié)構(gòu)性不平等問題。

 

 

　　該標(biāo)準(zhǔn)的制定應(yīng)結(jié)合不同學(xué)科及聯(lián)盟的觀點(diǎn)，以公開、嚴(yán)謹(jǐn)?shù)膶W(xué)術(shù)態(tài)度進(jìn)行，并須定期審查和修訂。目前，還沒有確定的能夠評(píng)估 AI 系統(tǒng)在其應(yīng)用的社會(huì)領(lǐng)域中所產(chǎn)生的影響的理論體系?？紤]到目前尚處于早期的人工智能系統(tǒng)已經(jīng)給一些危險(xiǎn)程度較高的的社會(huì)領(lǐng)域造成了影響，這一問題必須被重視起來，甚至可以說是當(dāng)務(wù)之急。

 

 

　　現(xiàn)在有很多人已經(jīng)意識(shí)到，AI 領(lǐng)域研究人員缺乏多樣性這一問題，但還沒有細(xì)粒度數(shù)據(jù)論證該問題的嚴(yán)重性。為了建立真正的多元文化工作場所，我們需要對(duì)科技行業(yè)的工作文化進(jìn)行更深層次的評(píng)估。這需要數(shù)據(jù)的支撐，而不僅僅是多雇傭女性和少數(shù)族裔這樣簡單。

 

　　創(chuàng)造 AI 系統(tǒng)的人本身持有的假設(shè)和觀點(diǎn)必會(huì)影響到 AI 系統(tǒng)的走向。目前，人工智能的開發(fā)者多為男性白人，他們有著相似的教育背景。目前已經(jīng)有足夠多的證據(jù)表明這會(huì)造成問題，比如語音助手對(duì)女性聲音的辨識(shí)度不如男性，又或是 AI 助手在為女性提供健康信息時(shí)所表現(xiàn)出的乏力。文化的多樣性研究在泛科技領(lǐng)域已經(jīng)有一定的進(jìn)展，但在 AI 領(lǐng)域，目前成果寥寥。如果 AI 希望朝著安全、公平、能夠被廣泛應(yīng)用的方向發(fā)展，我們的動(dòng)作就不能僅停留在 AI 公司文化多樣性的調(diào)查中層面，更要深入改變、確保 AI 公司是歡迎女性、少數(shù)族裔、以及其他邊緣群體的。

 

 

　　隨著 AI 在不同社會(huì)和機(jī)構(gòu)領(lǐng)域的應(yīng)用日益增加，并能夠影響越來越多的高風(fēng)險(xiǎn)決策，我們必須努力將社會(huì)科學(xué)家、法律學(xué)者和其他具有領(lǐng)域?qū)ｉL的人結(jié)合起來，共同指導(dǎo)人工智能的創(chuàng)建和整合，以形成長期的實(shí)踐規(guī)范。

 

　　舉個(gè)例子，我們不應(yīng)該期望 AI 研究者能夠成為刑事司法專家，就像我們不應(yīng)該讓律師為深度神經(jīng)網(wǎng)絡(luò)調(diào)參一樣。這一例子可以被擴(kuò)展到所有需要整合信息技術(shù)的行業(yè)。因此，在諸如法律、健康、教育等領(lǐng)域，我們需要領(lǐng)域?qū)＜覅⑴c進(jìn)來，幫助領(lǐng)導(dǎo)決策，確保 AI 不會(huì)幼稚地低估該領(lǐng)域中復(fù)雜的流程、歷史、環(huán)境。

 

 

　　對(duì)于如何將高水平的道德原則和指導(dǎo)方針與日常的開發(fā)過程、推廣和產(chǎn)品發(fā)布周期聯(lián)系起來，我們還有很多功課要做。

 

　　為了確保 AI 的安全與平等，一些 AI 機(jī)構(gòu)在開發(fā)程序的過程中優(yōu)先考慮道德相關(guān)問題。然而，這樣的考慮往往出于團(tuán)隊(duì)的自愿，而且只有相對(duì)高端的組織才會(huì)將公眾利益放在較高的優(yōu)先級(jí)。而且，問題是，公眾利益將怎樣決定？將由誰決定？除了誰代表公眾利益這一問題，AI 代碼在道德方面還需要連接明確的問責(zé)制度，而且還須時(shí)刻意識(shí)到，AI 行業(yè)在激勵(lì)模式和權(quán)利分配方面存在不對(duì)稱的情況。