深Seek研究论文从V2到V4指南

如果你想了解为什么DeepSeek V4只使用了V3.2的10% KV缓存，或者一个中国实验室如何以低于30万美元的价格训练了一个推理模型，答案就在DeepSeek研究论文中——而不是新闻报道中。本指南映射了实验室在arXiv和Hugging Face上发布的每篇主要出版物，从2024年1月原始的DeepSeek LLM扩展定律工作到2026年4月24日发布的DeepSeek-V4技术报告。对于每篇论文，我们注明了它所描述的模型、它贡献的单个架构理念以及这些理念如何堆叠到V4版本中。

你将完成阅读顺序、基准交叉引用以及指向我们更深入的模型分解指南。

为什么深Seek的论文比大多数论文更重要

大多数前沿AI实验室发布产品和一个博客文章。DeepSeek发布产品、开源权重和详细的技术报告——通常在arXiv上，通常在同一天，通常有足够的实现细节来重现架构。这就是实验室在2025年成为参考点的原因：DeepSeek在2025年因其R1发布实现了接近行业领先水平的推理性能——据称价格仅为一小部分。

2026年4月24日发布的V4预览继续了这一模式。论文介绍了两种混合专家语言模型——DeepSeek-V4-Pro（1.6T参数，49B激活）和DeepSeek-V4-Flash（284B参数，13B激活），都支持一百万个token的上下文长度。如果你想了解V4实际上做了哪些不同，请阅读V4技术报告。本文是一份阅读指南，不是那些原始资料的替代品。

深Seek论文时间线一览

以下每篇论文都是DeepSeek-AI的第一方工作。我已将列表限制为对理解当前V4代有重要意义的发布。对于更广泛的参考文献，社区维护的 DeepSeek 论文集在 Hugging Face 上 是最完整的单一索引。

基础论文（2024）

深Seek LLM——扩展律研究

第一篇DeepSeek论文并非关于前沿模型。它是一项关于扩展定律的研究，为之后的一切提供了理论依据。作者们认为，之前的扩展文献提供了相互矛盾的建议，因此他们重新推导了适用于他们自己的训练堆栈的定律，并将其应用于70亿和670亿的密集配置。当时发布的语料库有2000亿个标记，并且还在增长。如果你想知道为什么后来的DeepSeek模型看起来是这个样子——以及为什么实验室会突出发布标记计数数据——这就是起源。想要一个简单的总结，请参阅我们关于的页面 DeepSeek LLM.

深SeekMoE和DeepSeek-V2——架构基础

DeepSeekMoE（2024年1月）引入了后来每个DeepSeek MoE模型继承的细粒度专家拆分。DeepSeek-V2（2024年5月）随后将这种MoE设计结合了 多头潜在注意力（MLA），这是一种使长上下文服务变得经济实惠的注意力技巧。DeepSeek-V2总共有2360亿个参数，其中每个标记激活了210亿个，并支持128K个标记的上下文长度。MLA通过显著压缩键值（KV）缓存到潜在向量中，保证了高效的推理，而DeepSeekMoE通过稀疏计算，以经济成本训练强大的模型。与DeepSeek 67B相比，DeepSeek-V2实现了显著更强的性能，同时节省了42.5%的训练成本，减少了93.3%的KV缓存，并将最大生成吞吐量提高了5.76倍。

每篇后续论文都假设你知道MLA和细粒度MoE是什么。如果你只读2024年的一篇论文，那就读这篇吧。我们更深入的分析位于 DeepSeek MoE and DeepSeek V2 页。

DeepSeek-Coder和DeepSeekMath

2024年初的两篇专业论文对V4的故事至关重要。DeepSeek-Coder引入了为后来的通用发布提供支持的代码预训练配方。DeepSeekMath引入了 组相对策略优化 (GRPO)，这是R1后来用来在没有人类演示的情况下学习推理的强化学习算法。专注于编码的读者也应该参阅我们的笔记关于 DeepSeek Coder 以及 DeepSeek Math page.

DeepSeek V3 — 论文形式的效率论点

2025年1月新闻报道周期中最常引用的是V3技术报告。该论文介绍了DeepSeek-V3，这是一个强大的混合专家（MoE）语言模型，总参数量为671B，每个token激活37B。为了实现高效的推理和成本效益的训练，DeepSeek-V3采用了多头潜在注意力（MLA）和DeepSeekMoE架构，这些架构在DeepSeek-V2中得到了充分验证。此外，DeepSeek-V3开创了一种无辅助损失的负载均衡策略，并设定了多token预测训练目标以实现更强的性能。DeepSeek-V3在148万亿个多样化和高质量token上进行预训练，随后进行监督微调和强化学习阶段。

论文中引用最多的数字是训练成本：结合119K GPU小时用于上下文长度扩展和5K GPU小时用于后训练，DeepSeek-V3的全训练成本仅为2.788M GPU小时。假设H800 GPU的租赁价格为每GPU小时2美元，我们的总训练成本仅为557.6万美元。这就是路透社和所有人将其转换为“约560万美元”的数字。论文小心地指出，这不包括先前的研究和消融——许多新闻摘要忽略了这一点。 DeepSeek V3 评测 涵盖了在生产环境中这些主张的保持情况。

DeepSeek R1 — 无需人类演示的推理

R1是那篇将DeepSeek从“高效实验室”转变为西方媒体报道中的“战略关注”的论文。核心主张是推理步骤可以用纯强化学习（RL）来教授，不需要监督的逐步推理数据。通过纯强化学习（RL）可以激励LLM的推理能力，从而消除需要人工标注的推理轨迹的需求。提出的RL框架促进了高级推理模式（如自我反思、验证和动态策略适应）的涌现发展。训练好的模型在数学、编程竞赛和STEM领域等可验证任务上实现了卓越的性能。

两个读者常犯的错误：

• 训练成本数字属于R1，而非V3。 路透社报道了DeepSeek在2025年9月的R1训练估计为294,000美元。V3论文中的557.6万美元数字是另一个独立的模型。
• R1基于V3-Base。 论文使用DeepSeek-V3-Base作为基础模型，DeepSeek-V3作为指令模型。DeepSeek-R1和DeepSeek-R1-Zero在DeepSeek-V3-Base之上进行训练，DeepSeek-R1重新使用了DeepSeek-V3 SFT数据中的非推理数据。这两篇论文是一对。

我们的 DeepSeek R1 评测 以及 DeepSeek R1 vs OpenAI o1 对比与论文中的内容相匹配。

DeepSeek V3.2 — 稀疏注意力桥

V3.2是被低估的论文。于2025年12月发布，它是为V4的效率主张奠定基础的那篇论文。该论文介绍了DeepSeek稀疏注意力（DSA），这是一种有效的注意力机制，在长上下文场景中显著降低了计算复杂度，同时保持了模型性能。通过实施稳健的强化学习协议和扩展后训练计算，DeepSeek-V3.2的性能与GPT-5相当。值得注意的是，高性能变体DeepSeek-V3.2-Speciale超过了GPT-5，并在推理能力上与Gemini-3.0-Pro相当，在2025年国际数学奥林匹克（IMO）和国际大学生程序设计竞赛中均获得金牌。

V3.2的DSA是在MLA之上实例化的，而不是作为它的替代品。V3.2论文是DeepSeek在V4重大飞跃之前对注意力效率思考的最详细描述。 DeepSeek V3.2 页总结了发布说明。

DeepSeek V4 — 当前论文

V4 技术报告，标题为 DeepSeek-V4：迈向高效百万token上下文智能，作为PDF存储在Hugging Face的V4-Pro仓库中。它是每个V4声明的首要来源。

架构贡献

论文的主要贡献是一个新的混合注意力栈。DeepSeek-V4设计了一种混合注意力机制，结合了压缩稀疏注意力（CSA）和重度压缩注意力（HCA），以显著提高长上下文效率。在1M标记的上下文设置中，与DeepSeek-V3.2相比，DeepSeek-V4-Pro只需要27%的单标记推理FLOPs和10%的KV缓存。论文还结合了流形约束超连接（mHC）来加强传统的残差连接，增强信号在层间传播的稳定性，同时保持模型的表达能力。

报告中还有两项内容值得提取：

• 训练精度。 FP4 + FP8混合：MoE专家参数使用FP4精度；大多数其他参数使用FP8。FP4专家不寻常，这也是V4以如此高的成本训练的原因之一。
• 三种推理努力模式。 DeepSeek-V4-Pro和DeepSeek-V4-Flash都支持三种推理努力模式。这些模式对应于API的非思考默认模式。 reasoning_effort="high" 带有思考标志，并且 reasoning_effort="max"在API中，这个返回 reasoning_content alongside the final content.

与封闭前沿模型的定位

报告对V4的位置描述得非常坦率。Simon Willison提取了关键引语：“通过推理标记的扩展，DeepSeek-V4-Pro在最大推理努力下，在标准推理基准测试中相对于GPT-5.2和Gemini-3.0-Pro表现出优异的性能。然而，其性能略逊于GPT-5.4和Gemini-3.1-Pro，表明其发展轨迹落后于当前一代前沿模型约3到6个月。”这是媒体无需炒作的自我描述。

在论文报告的特定基准测试中，V4-Pro（reasoning_effort=max）在LiveCodeBench（93.5 — 一个新的开源模型高分）、Codeforces评级（3206 — DeepSeek报告称该模型在人类竞赛参与者中大约排名第23）、Apex Shortlist（90.2）、SimpleQA-Verified对开源和近开源模型达到57.9，以及在混合非正式-正式流程下Putnam-2025形式推理的完美证明120/120。在引用任何数字之前，请先在PDF中核实——前沿基准排名每月都会变动。

论文之间的联系：建议的阅读顺序

如果你周末有空，想了解架构线程，请按此顺序阅读：

1. DeepSeek-V2 对于MLA和DeepSeekMoE——基础。
2. DeepSeek-V3 对于无辅助损失的负载均衡、多令牌预测和FP8训练。
3. DeepSeek-R1 对于仅使用DeepSeekMath中的GRPO的RL推理配方。
4. DeepSeek-V3.2 对于DSA作为注意力效率原型。
5. DeepSeek-V4 for the CSA + HCA hybrid 以及 full mHC / Muon / FP4 training stack.

如果您只有晚上时间，可以连续阅读V4报告和V3报告。它们一起涵盖了当前一代大约80%的思想。 DeepSeek基准2026 页面有跨模型数据。

将论文作为开发者使用，而非读者

从V3论文开始，每篇论文都描述了一个你可以调用的模型。 POST /chat/completions, the OpenAI-compatible endpoint at https://api.deepseek.com. 当前V4模型的ID为 deepseek-v4-pro and deepseek-v4-flash. 旧版ID（deepseek-chat, deepseek-reasoner）将一直被接受至2026年7月24日15:59 UTC，届时将停止使用；在此期间，它们都将导向 deepseek-v4-flash 。

对V4-Pro进行的最小Python调用，与论文中的思维模式设置相匹配，如下所示：

from openai import OpenAI

client = OpenAI(
    base_url="https://api.deepseek.com",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="deepseek-v4-pro",
    messages=[{"role": "user", "content": "Summarise the V4 paper's DSA section."}],
    reasoning_effort="high",
    extra_body={"thinking": {"type": "enabled"}},
)
print(resp.choices[0].message.reasoning_content)
print(resp.choices[0].message.content)

以下是一些针对任何尝试复现基于托管API的论文结果的用户的实用细节：

• The API is stateless. 每次调用时都重新发送完整的 messages 数组。在chat.deepseek.com的网页聊天中可以保留会话历史；API则不行。
• 默认情况下，V4两个等级的上下文窗口为1,000,000个token ，输出最多可达384,000个token。
• 深度探索（DeepSeek）文档中的温度指导： 代码和数学为0.0（与论文的评估设置相匹配），数据任务为1.0，通用聊天和翻译为1.3，创意写作为1.5。
• JSON模式旨在返回有效的JSON，但不保证。 明确使用“json”一词加上一个小型模式示例，并设置 max_tokens 足够高以避免截断。

在成本方面，V4-Flash每1M个token运行费用为$0.0028（缓存命中）/ $0.14（缓存未命中）/ $0.28（输出）；V4-Pro在促销价为$0.435 / $0.87（至2026-05-31享受75%折扣；目录价为$0.0145 / $1.74 / $3.48）。在V4-Flash上，一个1M个token的工作负载，包括一个2,000个token的系统提示，一个200个token的用户消息和一个300个token的响应，计算结果为$5.60缓存输入 + $28未缓存输入 + $84输出 = 总计 $117.60. 在 V4-Pro 上，相同的工作负载是 $29 + $348 + $1,044 = $1,421. 在提交前检查 DeepSeek API pricing 页面——预览窗口的费率可能会变动。

对于完整的API界面，从 DeepSeek API documentation 以及 DeepSeek API getting started tutorial.

论文中没有告诉你的内容

将DeepSeek的论文作为唯一来源阅读的三个诚实限制：

• 自报的基准是自报的。 V4报告的评估配置是论文作者自己的。在做出采购决策之前，请与独立的基准聚合器进行交叉参考。
• 训练成本数字不包括先前的研究。 V3论文明确指出，5.576M这个数字是官方运行成本，而不是全部研发费用。
• 许可证是按模型计费。 V4-Pro、V4-Flash、V3.2、V3.1和R1在MIT许可下发布权重。一些较老的版本——V3基础、Coder-V2、VL2——将代码（MIT许可）与权重（单独的DeepSeek模型许可）分开。如果许可对您的部署很重要，请检查具体的Hugging Face仓库。

为了更广泛的独立背景，该 DeepSeek latest updates 跟踪发布后更正和社区复制。

DeepSeek AI Guide is an independent resource and is not affiliated with DeepSeek or its parent company. Model IDs, pricing and API behaviour change; check the official DeepSeek documentation and pricing page before committing to a production decision.