中國小康網(wǎng)03月30日訊老馬埃隆·馬斯克(ElonMusk)和一群人工智能專家和行業(yè)高管在一封公開信中呼吁暫停六個月開發(fā)比OpenAI新推出的GPT-4更強(qiáng)大的系統(tǒng)，理由是對社會的潛在風(fēng)險(xiǎn)。
特斯拉老總馬斯克出席論壇
路透社報(bào)道，本月早些時(shí)候，微軟支持的OpenAI推出了其GPT（生成式預(yù)訓(xùn)練變壓器）AI程序的第四次迭代，該程序通過讓用戶參與類似人類的對話、創(chuàng)作歌曲和總結(jié)冗長的文章而讓用戶驚嘆不已。
未來生命研究所發(fā)布的信中說“只有當(dāng)我們確信它們的影響將是積極的并且它們的風(fēng)險(xiǎn)將是可控的時(shí)候，才應(yīng)該開發(fā)強(qiáng)大的人工智能系統(tǒng)”。
根據(jù)歐盟的透明度登記冊，該非營利組織主要由馬斯克基金會、總部位于倫敦的FoundersPledge集團(tuán)和硅谷社區(qū)基金會資助。
馬斯克本月早些時(shí)候說“人工智能讓我壓力山大”，他是行業(yè)領(lǐng)導(dǎo)者OpenAI的聯(lián)合創(chuàng)始人之一，他擁有的汽車制造商特斯拉(TSLA.O)將AI用于自動駕駛系統(tǒng)。
馬斯克對監(jiān)管機(jī)構(gòu)批評自動駕駛系統(tǒng)監(jiān)管的努力表示失望，他已尋求監(jiān)管機(jī)構(gòu)確保人工智能的發(fā)展符合公眾利益。
康奈爾大學(xué)數(shù)字和信息法教授詹姆斯·格里梅爾曼(JamesGrimmelmann)表示：“考慮到特斯拉一直在努力為其自動駕駛汽車中有缺陷的人工智能追究責(zé)任，埃隆·馬斯克(ElonMusk)簽署協(xié)議是非常虛偽的。”
“暫停是個好主意，但這封信含糊不清，沒有認(rèn)真對待監(jiān)管問題。”
特斯拉上個月不得不召回超過362,000輛美國汽車來更新軟件，此前美國監(jiān)管機(jī)構(gòu)表示駕駛員輔助系統(tǒng)可能會導(dǎo)致撞車，促使馬斯克在推特上表示，“召回”一詞用于無線軟件更新是“不合時(shí)宜的，只是單詞拼錯了！”
OpenAI沒有立即回應(yīng)對這封公開信發(fā)表評論的請求，公開信敦促暫停高級AI開發(fā)，直到獨(dú)立專家制定共享安全協(xié)議，并呼吁開發(fā)人員與政策制定者就治理問題進(jìn)行合作。
“我們應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道嗎？……我們是否應(yīng)該培養(yǎng)最終可能超過我們、智勝我們、過時(shí)并取代我們的非人類思維？”信中問道，“此類決定不得委托給未經(jīng)選舉的技術(shù)領(lǐng)導(dǎo)者。”
這封信由包括馬斯克在內(nèi)的1000多人簽名。OpenAI的首席執(zhí)行官SamAltman不在簽署這封信的人之列，Alphabet和微軟的首席執(zhí)行官SundarPichai和SatyaNadella都不在簽署者之列。
聯(lián)合簽署人包括StabilityAI首席執(zhí)行官EmadMostaque、Alphabet旗下DeepMind的研究人員、AI重量級人物YoshuaBengio（通常被稱為“AI教父”之一）和該領(lǐng)域研究的先驅(qū)StuartRussell。
隨著ChatGPT因其對國家安全和教育的影響而引起美國國會的關(guān)注，這些擔(dān)憂也隨之而來。歐盟警察歐洲刑警組織周一警告稱，該系統(tǒng)可能被濫用于網(wǎng)絡(luò)釣魚企圖、虛假信息和網(wǎng)絡(luò)犯罪。
