大模型网摘deepseek.wang

DeepSeek-Benchmarks — offizielle Ergebnisse und Gegenüberstellung

Zwei Datensätze: offiziell von DeepSeek veröffentlichte Ergebnisse; Gegenüberstellung durch Dritte (offizieller Z.ai-Blog, 2026-08-14). Beide sind mit den unter MIT offen verfügbaren Gewichten reproduzierbar.

1. Offizielle DeepSeek-Ergebnisse (Stand: Oktober 2026)

EvaluierungModelleErgebnisseAnmerkungen
DeepSWE v1.1 (Pass@1)V4.1-Flash-101777.0%Durchschnittlich ca. $0.20 pro Aufgabe; untere Stufe 72%+ @ $0.10; der Vorgänger V4.1-Flash erreichte 74.2% @ $0.50
SWE-Bench VerifiedV4-Pro80.6%Behebung echter Probleme auf Repository-Ebene
LiveCodeBenchV4-Pro93.5%Echtzeit-Programmierung auf Wettbewerbsniveau
Terminal-Bench 2.0V4-Pro67.9%Terminal-Agent
CodeforcesV4-Pro3,206Wettbewerbsprogrammierungs-Rating
Putnam-200 (Pass@8)V4-Flash81.0%Mathematikwettbewerbe
SWE-Bench VerifiedV4-Flash79.0%1.6pt Abstand zum Flaggschiff, Preis etwa 1/4

Quelle: offizielle DeepSeek-Veröffentlichungsseite und API-Dokumentation (V4 Preview 2026-04-24, V4.1-Flash 2026-09-10, 1017 2026-10-17).

2. Kreuzvergleich durch Drittanbieter (offizieller Z.ai-Blog, 2026-08-14)

Vergleichswerte, die zum Release von GLM-5.3 offiziell veröffentlicht wurden; die Spalte DeepSeek-V4-Pro ist hervorgehoben. Im selben Zeitraum war GPT-5.6 Sol der Stärkste im Vergleich; V4-Pro bleibt im Open-Source-Lager in der Spitzengruppe.

BenchmarkGLM-5.3Kimi K3DeepSeek-V4-ProOpus 4.8GPT-5.6 Sol
Terminal-Bench 2.188.288.387.985.088.8
DeepSWE v1.166.967.562.758.072.7
NL2Repo58.058.061.169.7—
CyberGym84.580.083.378.183.6
Toolathlon Verified73.076.574.176.274.9
AutomationBench v1.0.648.246.743.241.045.8
ALE-CLI28.527.625.725.728.6
HLE mit Tools62.559.860.057.964.5
GDPval-AA v217691682159015881730

Datenquelle: Offizieller Z.ai-Blog (2026-08-14); nicht bewertete Punkte sind mit — gekennzeichnet. Preisvergleich: V4-Pro außerhalb der Spitzenzeiten $0.66/$1.98, V4-Flash $0.14/$0.28 pro Million tokens.

III. Wirtschaftlichkeit des 1M-Kontexts

27% FLOPs

Bei einer Last von 1M token beträgt der Gesamtaufwand an Rechenleistung etwa 27% von V3.2 – der direkte Nutzen der hybriden Aufmerksamkeit (CSA+HCA).

10% KV

Der KV-Cache benötigt nur etwa 10% von V3.2 – die Speicherkosten (VRAM) für den parallelen Betrieb mit langen Kontexten sinken drastisch.

$0.003 Cache-Treffer

Bei V4.1-Flash kosten Eingaben mit Cache-Treffern ab $0.003 pro Million tokens – die Kosten von Pipelines, die denselben Korpus wiederholt abrufen, nähern sich null an.