IT之家 5 月 1 日消息,深度求索(DeepSeek)昨日(4 月 30 日)在 AI 開源社區(qū) Hugging Face 上,發(fā)布名為 DeepSeek-Prover-V2-671B 的新模型,隨后在 GitHub 等平臺上公布了論文信息。

IT之家援引論文介紹,DeepSeek-Prover-V2 是一款專注于形式化數(shù)學(xué)推理的開源大型語言模型,基于 DeepSeek-V3-0324,通過遞歸定理證明管道生成初始數(shù)據(jù)。

Deepseek 推出了 DeepSeek-Prover-V2-671B(結(jié)合 V3 基礎(chǔ)大模型)、DeepSeek-Prover-V2-7B(增強模型)兩個模型,以及 DeepSeek-ProverBench 數(shù)據(jù)集。

DeepSeek-Prover-V2-671B 采用和 DeepSeek V3-0324 相同的架構(gòu),并非用于常規(guī)對話或者推理,而是用于形式化定理證明、專門增強數(shù)學(xué)能力的模型。

DeepSeek 團隊首先引導(dǎo) DeepSeek-V3 模型將復(fù)雜定理分解為一系列子目標(biāo)(subgoals),整合非形式與形式化數(shù)學(xué)推理,在 Lean 4 平臺上形式化證明步驟。

接著,利用一個較小的 7B 參數(shù)模型處理子目標(biāo)的證明搜索,減輕計算負(fù)擔(dān)。最終,結(jié)合完整的逐步證明與 DeepSeek-V3 的思維鏈(chain-of-thought),形成強化學(xué)習(xí)的“冷啟動”數(shù)據(jù)。

在訓(xùn)練中,團隊篩選出一批 7B 模型無法直接解決但子目標(biāo)已被證明的難題。通過整合子目標(biāo)證明,形成完整的形式化證明,并與 DeepSeek-V3 的推理過程對接,生成合成數(shù)據(jù)。

隨后,模型微調(diào)這些數(shù)據(jù),并通過強化學(xué)習(xí)進一步提升能力,以二元反饋(正確或錯誤)作為獎勵機制。最終,DeepSeek-Prover-V2-671B 在神經(jīng)定理證明領(lǐng)域創(chuàng)下新高,在 MiniF2F-test 數(shù)據(jù)集上通過率達 88.9%,在 PutnamBench 數(shù)據(jù)集中解決 658 個問題中的 49 個。

DeepSeek-Prover-V2:AI數(shù)學(xué)推理新王者,88.9% 通過率設(shè)新標(biāo)桿

團隊還發(fā)布了 ProverBench 基準(zhǔn)數(shù)據(jù)集,包含 325 個形式化數(shù)學(xué)問題。其中,15 個問題源自近期 AIME 競賽(AIME 24 和 25),涉及數(shù)論與代數(shù),代表高中競賽難度。

其余 310 個問題則來自精選教材和教學(xué)內(nèi)容,涵蓋線性代數(shù)、微積分、概率等多個領(lǐng)域。這一數(shù)據(jù)集旨在為高中競賽和本科數(shù)學(xué)提供全面評估標(biāo)準(zhǔn),推動模型在多樣化場景下的測試與應(yīng)用。

標(biāo)題:DeepSeek-Prover-V2:AI數(shù)學(xué)推理新王者,88.9% 通過率設(shè)新標(biāo)桿

地址:http://liuxuerexian.com/kongqinen/211972.html