大模型网摘deepseek.wang

Benchmarks da DeepSeek — resultados oficiais e comparação cruzada

Dois conjuntos de dados: resultados publicados oficialmente pela DeepSeek; comparação cruzada de terceiros (blog oficial da Z.ai, 2026-08-14). Ambos são reproduzíveis com os pesos abertos MIT.

1. Resultados oficiais da DeepSeek (à data de outubro de 2026)

AvaliaçãoModelosResultadosObservações
DeepSWE v1.1 (Pass@1)V4.1-Flash-101777.0%Cerca de $0.20 por tarefa em média; 72%+ @ $0.10 no escalão baixo; a geração anterior, V4.1-Flash, era de 74.2% @ $0.50
SWE-Bench VerifiedV4-Pro80.6%Correção de problemas reais ao nível de repositório
LiveCodeBenchV4-Pro93.5%Programação de nível competitivo em tempo real
Terminal-Bench 2.0V4-Pro67.9%Agente de terminal
CodeforcesV4-Pro3,206Rating de programação competitiva
Putnam-200 (Pass@8)V4-Flash81.0%Competições de matemática
SWE-Bench VerifiedV4-Flash79.0%A 1.6pt do modelo topo de gama, por cerca de 1/4 do preço

Fonte: página oficial de lançamentos da DeepSeek e documentação da API (pré-visualização da V4 em 2026-04-24, V4.1-Flash em 2026-09-10, 1017 em 2026-10-17).

II. Comparação cruzada de terceiros (blog oficial da Z.ai, 2026-08-14)

Resultados comparativos divulgados oficialmente aquando do lançamento do GLM-5.3; a coluna do DeepSeek-V4-Pro está destacada. Na mesma altura, o GPT-5.6 Sol era o mais forte do conjunto de comparação, mantendo-se o V4-Pro no primeiro escalão do campo open source.

BenchmarkGLM-5.3Kimi K3DeepSeek-V4-ProOpus 4.8GPT-5.6 Sol
Terminal-Bench 2.188.288.387.985.088.8
DeepSWE v1.166.967.562.758.072.7
NL2Repo58.058.061.169.7—
CyberGym84.580.083.378.183.6
Toolathlon Verified73.076.574.176.274.9
AutomationBench v1.0.648.246.743.241.045.8
ALE-CLI28.527.625.725.728.6
HLE com ferramentas62.559.860.057.964.5
GDPval-AA v217691682159015881730

Fonte dos dados: blog oficial da Z.ai (2026-08-14); os itens não avaliados são indicados com —. Comparação de preços: V4-Pro fora de ponta $0.66/$1.98, V4-Flash $0.14/$0.28 por milhão de tokens.

3. Economia do contexto de 1M

27% FLOPs

Sob cargas de 1M tokens, o custo computacional total é de cerca de 27% do V3.2 — o benefício direto da atenção híbrida (CSA+HCA).

10% KV

A cache KV ocupa cerca de 10% da do V3.2, reduzindo drasticamente o custo de memória gráfica dos serviços concorrentes com contextos longos.

$0.003 por acerto de cache

Na gama V4.1-Flash, as entradas com acerto de cache baixam até $0.003/milhão de tokens, pelo que o custo dos pipelines que recuperam repetidamente o mesmo corpus tende para zero.