最近，“AI繪畫有多離譜”相關(guān)話題火上熱搜。比如，明明是喜慶的結(jié)婚照，被AI繪畫軟件加工后，剩下了新娘一人；少女和狗的合影中，作為主角的少女被AI繪畫理解成了“狗”。這些生成結(jié)果的“翻車”叫人哭笑不得。不過，如果AI在醫(yī)療、自動駕駛等其他領(lǐng)域“翻車”，則會產(chǎn)生嚴重問題。如何從底層構(gòu)建更穩(wěn)定的AI？
11月30日下午，7位來自阿里巴巴、清華大學、上海交大等公司和高校的90后和00后研究者，分享了他們在對抗學習、貝葉斯深度學習、異常檢測、魯棒評估、噪聲學習、魯棒動態(tài)圖學習、偏微分方程求解等方向上發(fā)表的研究成果，共同探討如何打造更加安全可靠的智能技術(shù)。這些研究成果均被AI頂會NeurIPS收錄。
毛瀟鋒是阿里巴巴人工智能治理與可持續(xù)發(fā)展研究中心（AAIG）的一名算法工程師。進入公司以來，他最重要的工作就是研究如何通過對抗訓練來增強AI的魯棒性。這些研究能力被應用在非常接地氣的直播和圖片內(nèi)容審核中。在實際應用中，直播攝像頭的光線變化、商品的快速晃動等因素都會對抗AI對違規(guī)商品的識別。如果AI識別的穩(wěn)定性難以保障，漏過違規(guī)商品，最終受損的還是消費者。
《利用離散對抗訓練增強視覺表征》是毛瀟鋒的分享議題。“如果把圖片拆成一個個像素，對某個或者多個像素點進行修改，往往可能使得AI無法識別。我所做的工作就是對AI進行對抗訓練，讓它不糾結(jié)于少量不引起圖片本質(zhì)內(nèi)容的像素級別的改變，依然能認出圖片表達的含義。”毛瀟鋒認為，將這種能力用于平臺風控后，能更好守護消費者的安全。
董胤蓬是清華大學計算機系的一名95后博士后研究員，已發(fā)表30多篇頂級國際期刊和會議論文，主要專注于深度學習魯棒性的研究。他本次的分享集中于3D世界的視角變化對AI視覺識別產(chǎn)生的影響。董胤蓬舉例：“這項研究與自動駕駛場景密切相關(guān)。如果前車車輛發(fā)生車禍，自動駕駛車輛可能以非常不正常的視角拍攝了圖片或視頻，從而影響識別和判斷。我關(guān)心的是，在3D空間里，如果拍攝視角或者其他視覺條件出現(xiàn)變化，AI是否能正確識別從而避免車禍發(fā)生。”
00后劉松銘是清華大學的在讀本科生。他試圖利用物理信息機器學習方法解決結(jié)構(gòu)優(yōu)化等廣義上的“安全”問題。
劉松銘選取了燃料電池組、飛機機翼等場景介紹。“假如我們要建模一個安全穩(wěn)定可靠的電池，需要模擬電池的動態(tài)，比如它的溫度或電流分布，這是一個物理問題，但我想用數(shù)學的辦法探索，然后通過神經(jīng)網(wǎng)絡(luò)求解。”劉松銘希望用AI探索廣義的科學問題，包括解決至關(guān)重要的安全問題，讓AI研究者從交叉學科中找尋思路。
這場以AI安全為主題的分享會由阿里巴巴和清華大學主辦。阿里巴巴集團科技倫理治理委員會執(zhí)行主席、AAIG主任薛暉表示：“這些研究者的探索最后會反哺于實際應用，幫助集團和社會建設(shè)負責任的好科技。對安全可靠的重視和關(guān)注也是企業(yè)社會責任感的重要體現(xiàn)。我很高興，越來越多的年輕研究者們不斷投身于此，一起促進人工智能技術(shù)的健康發(fā)展。”
