科技媒體 The Decoder （5 月 12 日）發(fā)布博文，報道稱 OpenAI 高級模型開發(fā)負責(zé)人 Jakub Pachocki 指出，AI 推理模型正展現(xiàn)出自主生成知識的潛力。

他認為這種推理并非人類思維的翻版，而是基于數(shù)據(jù)和算法的獨特過程。IT之家援引博文介紹，Pachocki 解釋，AI 的學(xué)習(xí)分為兩個階段：首先是無監(jiān)督預(yù)訓(xùn)練，模型吸收海量數(shù)據(jù)，構(gòu)建一個無意識、無時間線的“世界模型”（world model），以此理解現(xiàn)實的基本框架。

第二階段則是通過強化學(xué)習(xí)與人類反饋（RLHF）將基礎(chǔ)模型轉(zhuǎn)化為實用助手。Pachocki 強調(diào)，這一階段在最新的推理模型中尤為關(guān)鍵。

OpenAI 同時結(jié)合傳統(tǒng)強化學(xué)習(xí)，處理有明確對錯的任務(wù)，而 RLHF 則更適合復(fù)雜問題，盡管其擴展性有限。他還質(zhì)疑預(yù)訓(xùn)練與強化學(xué)習(xí)是否應(yīng)視為獨立階段，認為推理模型的“思考”根植于預(yù)訓(xùn)練數(shù)據(jù)，二者需深度融合。

近期一篇論文指出，推理訓(xùn)練并未為模型增添全新能力，而是幫助它們更高效地應(yīng)用已有知識。例如，模型能以更結(jié)構(gòu)化的方式解決已知問題。Pachocki 對此表示認同，并補充，模型已展現(xiàn)出發(fā)現(xiàn)新見解的潛力，這為 AI 的未來應(yīng)用奠定了基礎(chǔ)。

對于通用人工智能（AGI），Pachocki 表示其觀點不斷演變。他回憶作為學(xué)生時，他認為 AI 掌握圍棋是遙不可及的目標，但 2016 年 AlphaGo 的勝利徹底改變了他的認知。

如今，他將 AI 的經(jīng)濟價值視為下一個里程碑，強調(diào) AI 需實現(xiàn)商業(yè)成果并開展自主研究。他預(yù)測，到本世紀末，AI 自主研究將取得“實質(zhì)性進展”，甚至今年內(nèi)可能出現(xiàn)近乎自主的軟件開發(fā)系統(tǒng)。