經(jīng)過(guò)為期三天的“馬拉松式”會(huì)談，歐盟委員會(huì)、歐洲議會(huì)和歐盟成員國(guó)代表就《人工智能法案》（以下簡(jiǎn)稱：AI Act）達(dá)成臨時(shí)協(xié)議，該法規(guī)草案旨在確保投放到歐洲市場(chǎng)并在歐盟使用的人工智能系統(tǒng)安全，并尊重公民的基本權(quán)利和歐盟價(jià)值觀，此外還將刺激歐洲人工智能的投資和創(chuàng)新。
歐盟委員會(huì)官網(wǎng)發(fā)布《人工智能法案》臨時(shí)協(xié)議。（圖片來(lái)源：官網(wǎng)截圖）
“在這一努力中，我們成功地保持了極其微妙的平衡：在整個(gè)歐洲促進(jìn)人工智能的創(chuàng)新和采用，同時(shí)充分尊重我們公民的基本權(quán)利。”西班牙數(shù)字化和人工智能負(fù)責(zé)人卡梅·阿蒂加斯 (Carme Artigas)直言，AI Act臨時(shí)協(xié)議是一個(gè)歷史性的成就，也是邁向未來(lái)的巨大里程碑，該協(xié)議將有效地解決快速發(fā)展的技術(shù)環(huán)境中，全球范圍內(nèi)涉及社會(huì)、經(jīng)濟(jì)等關(guān)鍵領(lǐng)域面臨的挑戰(zhàn)。
人工智能法案是一項(xiàng)旗艦立法舉措，有可能促進(jìn)私人和公共行為者在歐盟單一市場(chǎng)上開發(fā)和采用安全、值得信賴的人工智能。主要思想是根據(jù)人工智能對(duì)社會(huì)造成危害的能力，遵循“基于風(fēng)險(xiǎn)”的方法來(lái)監(jiān)管人工智能：風(fēng)險(xiǎn)越高，規(guī)則越嚴(yán)格。
當(dāng)下，借助技術(shù)的蝶變，人類社會(huì)比任何時(shí)代都發(fā)展得要更快，因科技產(chǎn)生的倫理問題、社會(huì)混亂、信息安全等問題頻現(xiàn)。作為全球首個(gè)此類立法提案，AI Act是否可以像《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation，簡(jiǎn)稱GDPR）一樣，為其他司法管轄區(qū)的人工智能監(jiān)管制定全球標(biāo)準(zhǔn)，從而在世界舞臺(tái)上推廣歐洲的技術(shù)監(jiān)管方式？
歐盟委員會(huì)官網(wǎng)發(fā)布《人工智能法案》臨時(shí)協(xié)議。（圖片來(lái)源：官網(wǎng)截圖）
AI Act臨時(shí)協(xié)議聚焦哪些方面？
根據(jù)官網(wǎng)顯示，與委員會(huì)最初的提案相比，AI Act臨時(shí)協(xié)議的主要新內(nèi)容可概括如下：
?針對(duì)未來(lái)可能導(dǎo)致系統(tǒng)性風(fēng)險(xiǎn)的高影響力通用人工智能模型以及高風(fēng)險(xiǎn)人工智能系統(tǒng)的規(guī)則；
?修訂后的治理體系，在歐盟層面具有一定的執(zhí)行權(quán)；
?擴(kuò)大禁止清單，但執(zhí)法當(dāng)局可以在公共場(chǎng)所使用遠(yuǎn)程生物識(shí)別，但須遵守保障措施；
?通過(guò)高風(fēng)險(xiǎn)人工智能系統(tǒng)的部署者有義務(wù)在人工智能系統(tǒng)投入使用之前進(jìn)行基本權(quán)利影響評(píng)估，更好地保護(hù)權(quán)利。
通過(guò)監(jiān)管，先進(jìn)的人工智能能夠?qū)崿F(xiàn)“科技向善”的美好夙愿嗎？在西南科技大學(xué)計(jì)算機(jī)學(xué)院院長(zhǎng)張暉看來(lái)，向善的智能是技術(shù)的開發(fā)者和使用者。張暉告訴封面新聞?dòng)浾撸谌斯ぶ悄艿漠?dāng)下，技術(shù)也會(huì)帶來(lái)許多新的機(jī)會(huì)，同時(shí)也將面臨風(fēng)險(xiǎn)。“只有加強(qiáng)對(duì)人的教育與監(jiān)管，才能構(gòu)建數(shù)字教育的良性生態(tài)循環(huán)。”
AI Act臨時(shí)協(xié)議還澄清，該法規(guī)不適用于歐盟法律范圍之外的領(lǐng)域，并且在任何情況下都不應(yīng)影響成員國(guó)在國(guó)家安全方面的權(quán)限或受托執(zhí)行該領(lǐng)域任務(wù)的任何實(shí)體。此外，人工智能法案不適用于專門用于軍事或國(guó)防目的的系統(tǒng)。同樣，該協(xié)議規(guī)定，該規(guī)定不適用于僅用于研究和創(chuàng)新目的的人工智能系統(tǒng)，或出于非專業(yè)原因使用人工智能的人。
在公共場(chǎng)所使用實(shí)時(shí)遠(yuǎn)程生物識(shí)別系統(tǒng)，AI Act臨時(shí)協(xié)議明確了出于執(zhí)法目的而嚴(yán)格需要使用此類系統(tǒng)的目標(biāo)，因此應(yīng)破例允許執(zhí)法當(dāng)局使用此類系統(tǒng)。
此外，AI Act臨時(shí)協(xié)議還增加了新的規(guī)定，以考慮人工智能系統(tǒng)可用于多種不同目的（通用人工智能）以及通用人工智能技術(shù)隨后集成到另一個(gè)高風(fēng)險(xiǎn)系統(tǒng)中的情況。
AI世界新的治理架構(gòu)
根據(jù)GPAI模型的新規(guī)則以及在歐盟層面執(zhí)行的明顯需要，委員會(huì)內(nèi)設(shè)立了一個(gè)人工智能辦公室，其任務(wù)是監(jiān)督這些最先進(jìn)的人工智能模型，促進(jìn)制定標(biāo)準(zhǔn)和測(cè)試實(shí)踐，并執(zhí)行歐盟的通用規(guī)則。所有會(huì)員國(guó)由獨(dú)立專家組成的科學(xué)小組，將向人工智能辦公室提供有關(guān)GPAI模型的建議，包括開發(fā)用于評(píng)估基礎(chǔ)模型能力的方法、就高影響力基礎(chǔ)模型的指定和出現(xiàn)提供建議，以及監(jiān)測(cè)相關(guān)的可能的材料安全風(fēng)險(xiǎn)。
由成員國(guó)代表組成的人工智能委員會(huì)將繼續(xù)作為委員會(huì)的協(xié)調(diào)平臺(tái)和咨詢機(jī)構(gòu)，并將在法規(guī)的實(shí)施方面賦予成員國(guó)重要作用，包括設(shè)計(jì)基金會(huì)的業(yè)務(wù)守則?？?。最后，將為行業(yè)代表、中小企業(yè)、初創(chuàng)企業(yè)、民間社會(huì)和學(xué)術(shù)界等利益相關(guān)者設(shè)立一個(gè)咨詢論壇，為人工智能委員會(huì)提供技術(shù)專業(yè)知識(shí)。
對(duì)違反人工智能法案的罰款按照違規(guī)公司上一財(cái)年全球年?duì)I業(yè)額的百分比或預(yù)訂金額確定，以較高者為準(zhǔn)。對(duì)于違反被禁止的人工智能應(yīng)用程序，罰款為3500萬(wàn)歐元或營(yíng)業(yè)額的7%；對(duì)于違反人工智能法案義務(wù)，罰款為1500萬(wàn)歐元或營(yíng)業(yè)額的 3%；對(duì)于提供不正確信息，罰款750萬(wàn)歐元或營(yíng)業(yè)額的1.5%。然而，臨時(shí)協(xié)議對(duì)中小企業(yè)和初創(chuàng)企業(yè)違反《人工智能法》規(guī)定的行政罰款規(guī)定了更高比例的上限。
AI Act臨時(shí)協(xié)議還明確規(guī)定，自然人或法人可以就不遵守《人工智能法》的行為向相關(guān)市場(chǎng)監(jiān)管機(jī)構(gòu)提出投訴，并可能期望此類投訴將按照該機(jī)構(gòu)的專門程序進(jìn)行處理。
該臨時(shí)協(xié)議規(guī)定在部署者將高風(fēng)險(xiǎn)人工智能系統(tǒng)投入市場(chǎng)之前進(jìn)行基本權(quán)利影響評(píng)估。臨時(shí)協(xié)議還規(guī)定提高高風(fēng)險(xiǎn)人工智能系統(tǒng)使用的透明度。值得注意的是，委員會(huì)提案的一些條款已被修改，表明作為公共實(shí)體的高風(fēng)險(xiǎn)人工智能系統(tǒng)的某些用戶也將有義務(wù)在歐盟高風(fēng)險(xiǎn)人工智能系統(tǒng)數(shù)據(jù)庫(kù)中注冊(cè)。此外，新增加的條款強(qiáng)調(diào)情緒識(shí)別系統(tǒng)的用戶有義務(wù)在自然人接觸該系統(tǒng)時(shí)告知他們。
AI監(jiān)管路在何方？
AI Act臨時(shí)協(xié)議規(guī)定，《人工智能法》應(yīng)在生效兩年后適用，但具體條款有一些例外。
封面新聞?dòng)浾咴跒g覽歐盟理事會(huì)官網(wǎng)時(shí)注意到，在達(dá)成AI Act臨時(shí)協(xié)議后，未來(lái)幾周將繼續(xù)在技術(shù)層面進(jìn)行工作，以最終確定新法規(guī)的細(xì)節(jié)。這項(xiàng)工作完成后，主席國(guó)將向成員國(guó)代表（Coreper）提交折衷文本以供批準(zhǔn)。整個(gè)文本需要得到兩個(gè)機(jī)構(gòu)的確認(rèn)，并經(jīng)過(guò)法律語(yǔ)言修訂，然后才能由聯(lián)合立法者正式通過(guò)。
實(shí)際上，AI Act在達(dá)成臨時(shí)協(xié)議之前，歐盟各成員國(guó)和歐洲議會(huì)議員已就應(yīng)如何管控人工智能進(jìn)行了多年的討論。2021年，歐盟委員會(huì)就曾提議通過(guò)《人工智能法案》。在2022年末ChatGPT發(fā)布后，監(jiān)管人工智能變得緊迫起來(lái)，包括中國(guó)、美國(guó)、英國(guó)在內(nèi)的國(guó)家，都在快速地推進(jìn)關(guān)于人工智能治理的規(guī)則建設(shè)。
北京社科院副研究員王鵬在接受采訪時(shí)表示，中歐在人工智能監(jiān)管的合作空間是非常巨大的。“中歐作為全球人工智能的領(lǐng)先力量，可以在多個(gè)方面展開合作：首先，雙方可以分享各自在人工智能監(jiān)管方面的經(jīng)驗(yàn)和政策，相互借鑒；其次，雙方可以共同制定人工智能技術(shù)和應(yīng)用的標(biāo)準(zhǔn)，促進(jìn)國(guó)際標(biāo)準(zhǔn)的互聯(lián)互通，確保人工智能技術(shù)的安全應(yīng)用；第三，雙方可以在合法合規(guī)的前提下共享人工智能技術(shù)的數(shù)據(jù)資源，為人工智能的研發(fā)和產(chǎn)業(yè)化提供支持；此外，人工智能人才培養(yǎng)也是一個(gè)未來(lái)重要的合作方面。”
今年7月，中國(guó)國(guó)家網(wǎng)信辦等七部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，自8月15日起施行。
張暉向封面新聞?dòng)浾咧赋?，管理辦法將促進(jìn)國(guó)內(nèi)某些研究方向的發(fā)展，如辦法中明確規(guī)定：采取措施防止出現(xiàn)種族、民族、信仰、國(guó)別、地域、性別、年齡、職業(yè)等歧視，要保證數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性，尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德，不得利用算法、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì)實(shí)施不公平競(jìng)爭(zhēng)，利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息。“都會(huì)對(duì)AI算法公平性研究起到促進(jìn)作用。”
為生成式人工智能的發(fā)展盡早做好合規(guī)工作，可以為行業(yè)后續(xù)健康發(fā)展保駕護(hù)航。在張暉看來(lái)，管理辦法的出臺(tái)，是非常全面及時(shí)的。在生成式人工智能服務(wù)還沒有大量鋪開，未產(chǎn)生廣泛社會(huì)影響的時(shí)候就出臺(tái)相關(guān)管理規(guī)定，界定相關(guān)責(zé)任，限制歧視、虛假、隱私信息的生成，讓大家在合規(guī)的范圍內(nèi)開展工作，有利于行業(yè)的健康發(fā)展。
