最近,“AI繪畫有多離譜”相關(guān)話題火上熱搜。比如,明明是喜慶的結(jié)婚照,被AI繪畫軟件加工后,剩下了新娘一人;少女和狗的合影中,作為主角的少女被AI繪畫理解成了“狗”。這些生成結(jié)果的“翻車”叫人哭笑不得。不過,如果AI在醫(yī)療、自動駕駛等其他領(lǐng)域“翻車”,則會產(chǎn)生嚴重問題。如何從底層構(gòu)建更穩(wěn)定的AI?
11月30日下午,7位來自阿里巴巴、清華大學、上海交大等公司和高校的90后和00后研究者,分享了他們在對抗學習、貝葉斯深度學習、異常檢測、魯棒評估、噪聲學習、魯棒動態(tài)圖學習、偏微分方程求解等方向上發(fā)表的研究成果,共同探討如何打造更加安全可靠的智能技術(shù)。這些研究成果均被AI頂會NeurIPS收錄。
毛瀟鋒是阿里巴巴人工智能治理與可持續(xù)發(fā)展研究中心(AAIG)的一名算法工程師。進入公司以來,他最重要的工作就是研究如何通過對抗訓練來增強AI的魯棒性。這些研究能力被應用在非常接地氣的直播和圖片內(nèi)容審核中。在實際應用中,直播攝像頭的光線變化、商品的快速晃動等因素都會對抗AI對違規(guī)商品的識別。如果AI識別的穩(wěn)定性難以保障,漏過違規(guī)商品,最終受損的還是消費者。

《利用離散對抗訓練增強視覺表征》是毛瀟鋒的分享議題。“如果把圖片拆成一個個像素,對某個或者多個像素點進行修改,往往可能使得AI無法識別。我所做的工作就是對AI進行對抗訓練,讓它不糾結(jié)于少量不引起圖片本質(zhì)內(nèi)容的像素級別的改變,依然能認出圖片表達的含義。”毛瀟鋒認為,將這種能力用于平臺風控后,能更好守護消費者的安全。
董胤蓬是清華大學計算機系的一名95后博士后研究員,已發(fā)表30多篇頂級國際期刊和會議論文,主要專注于深度學習魯棒性的研究。他本次的分享集中于3D世界的視角變化對AI視覺識別產(chǎn)生的影響。董胤蓬舉例:“這項研究與自動駕駛場景密切相關(guān)。如果前車車輛發(fā)生車禍,自動駕駛車輛可能以非常不正常的視角拍攝了圖片或視頻,從而影響識別和判斷。我關(guān)心的是,在3D空間里,如果拍攝視角或者其他視覺條件出現(xiàn)變化,AI是否能正確識別從而避免車禍發(fā)生。”
00后劉松銘是清華大學的在讀本科生。他試圖利用物理信息機器學習方法解決結(jié)構(gòu)優(yōu)化等廣義上的“安全”問題。
劉松銘選取了燃料電池組、飛機機翼等場景介紹。“假如我們要建模一個安全穩(wěn)定可靠的電池,需要模擬電池的動態(tài),比如它的溫度或電流分布,這是一個物理問題,但我想用數(shù)學的辦法探索,然后通過神經(jīng)網(wǎng)絡(luò)求解。”劉松銘希望用AI探索廣義的科學問題,包括解決至關(guān)重要的安全問題,讓AI研究者從交叉學科中找尋思路。
這場以AI安全為主題的分享會由阿里巴巴和清華大學主辦。阿里巴巴集團科技倫理治理委員會執(zhí)行主席、AAIG主任薛暉表示:“這些研究者的探索最后會反哺于實際應用,幫助集團和社會建設(shè)負責任的好科技。對安全可靠的重視和關(guān)注也是企業(yè)社會責任感的重要體現(xiàn)。我很高興,越來越多的年輕研究者們不斷投身于此,一起促進人工智能技術(shù)的健康發(fā)展。”