IT之家 5 月 1 日消息,深度求索(DeepSeek)昨日(4 月 30 日)在 AI 開源社區(qū) Hugging Face 上,發(fā)布名為 DeepSeek-Prover-V2-671B 的新模型,隨后在 GitHub 等平臺(tái)上公布了論文信息。

IT之家援引論文介紹,DeepSeek-Prover-V2 是一款專注于形式化數(shù)學(xué)推理的開源大型語(yǔ)言模型,基于 DeepSeek-V3-0324,通過遞歸定理證明管道生成初始數(shù)據(jù)。

Deepseek 推出了 DeepSeek-Prover-V2-671B(結(jié)合 V3 基礎(chǔ)大模型)、DeepSeek-Prover-V2-7B(增強(qiáng)模型)兩個(gè)模型,以及 DeepSeek-ProverBench 數(shù)據(jù)集。

DeepSeek-Prover-V2-671B 采用和 DeepSeek V3-0324 相同的架構(gòu),并非用于常規(guī)對(duì)話或者推理,而是用于形式化定理證明、專門增強(qiáng)數(shù)學(xué)能力的模型。

DeepSeek 團(tuán)隊(duì)首先引導(dǎo) DeepSeek-V3 模型將復(fù)雜定理分解為一系列子目標(biāo)(subgoals),整合非形式與形式化數(shù)學(xué)推理,在 Lean 4 平臺(tái)上形式化證明步驟。

接著,利用一個(gè)較小的 7B 參數(shù)模型處理子目標(biāo)的證明搜索,減輕計(jì)算負(fù)擔(dān)。最終,結(jié)合完整的逐步證明與 DeepSeek-V3 的思維鏈(chain-of-thought),形成強(qiáng)化學(xué)習(xí)的“冷啟動(dòng)”數(shù)據(jù)。

在訓(xùn)練中,團(tuán)隊(duì)篩選出一批 7B 模型無法直接解決但子目標(biāo)已被證明的難題。通過整合子目標(biāo)證明,形成完整的形式化證明,并與 DeepSeek-V3 的推理過程對(duì)接,生成合成數(shù)據(jù)。

隨后,模型微調(diào)這些數(shù)據(jù),并通過強(qiáng)化學(xué)習(xí)進(jìn)一步提升能力,以二元反饋(正確或錯(cuò)誤)作為獎(jiǎng)勵(lì)機(jī)制。最終,DeepSeek-Prover-V2-671B 在神經(jīng)定理證明領(lǐng)域創(chuàng)下新高,在 MiniF2F-test 數(shù)據(jù)集上通過率達(dá) 88.9%,在 PutnamBench 數(shù)據(jù)集中解決 658 個(gè)問題中的 49 個(gè)。

DeepSeek-Prover-V2:AI數(shù)學(xué)推理新王者,88.9% 通過率設(shè)新標(biāo)桿

團(tuán)隊(duì)還發(fā)布了 ProverBench 基準(zhǔn)數(shù)據(jù)集,包含 325 個(gè)形式化數(shù)學(xué)問題。其中,15 個(gè)問題源自近期 AIME 競(jìng)賽(AIME 24 和 25),涉及數(shù)論與代數(shù),代表高中競(jìng)賽難度。

其余 310 個(gè)問題則來自精選教材和教學(xué)內(nèi)容,涵蓋線性代數(shù)、微積分、概率等多個(gè)領(lǐng)域。這一數(shù)據(jù)集旨在為高中競(jìng)賽和本科數(shù)學(xué)提供全面評(píng)估標(biāo)準(zhǔn),推動(dòng)模型在多樣化場(chǎng)景下的測(cè)試與應(yīng)用。

標(biāo)題:DeepSeek-Prover-V2:AI數(shù)學(xué)推理新王者,88.9% 通過率設(shè)新標(biāo)桿

地址:http://liuxuerexian.com/kongqinen/211972.html