大模型网摘deepseek.wang

Бенчмарки DeepSeek — официальные результаты и перекрёстное сравнение

Два набора данных: официально опубликованные результаты DeepSeek; перекрёстное сравнение от третьей стороны (официальный блог Z.ai, 2026-08-14). Оба можно воспроизвести из открытых весов под лицензией MIT.

1. Официальные результаты DeepSeek (по состоянию на октябрь 2026 года)

БенчмаркМоделиРезультатыПримечания
DeepSWE v1.1 (Pass@1)V4.1-Flash-101777.0%В среднем около $0.20 за задачу; низкий уровень: 72%+ @ $0.10; предыдущее поколение V4.1-Flash — 74.2% @ $0.50
SWE-Bench VerifiedV4-Pro80.6%Исправление реальных проблем на уровне репозитория
LiveCodeBenchV4-Pro93.5%Программирование соревновательного уровня в реальном времени
Terminal-Bench 2.0V4-Pro67.9%Терминальный агент
CodeforcesV4-Pro3,206Рейтинг спортивного программирования
Putnam-200 (Pass@8)V4-Flash81.0%Математические соревнования
SWE-Bench VerifiedV4-Flash79.0%Разрыв с флагманом — 1.6pt, цена примерно 1/4

Источник: официальная страница релиза DeepSeek и документация API (превью V4 — 2026-04-24, V4.1-Flash — 2026-09-10, 1017 — 2026-10-17).

II. Перекрёстное сравнение по данным третьих сторон (официальный блог Z.ai, 2026-08-14)

Официально опубликованные при выходе GLM-5.3 результаты сравнения; столбец DeepSeek-V4-Pro выделен. В тот же период GPT-5.6 Sol был сильнейшим среди участников сравнения, а V4-Pro сохранял позиции в первом эшелоне лагеря открытых моделей.

БенчмаркGLM-5.3Kimi K3DeepSeek-V4-ProOpus 4.8GPT-5.6 Sol
Terminal-Bench 2.188.288.387.985.088.8
DeepSWE v1.166.967.562.758.072.7
NL2Repo58.058.061.169.7—
CyberGym84.580.083.378.183.6
Toolathlon Verified73.076.574.176.274.9
AutomationBench v1.0.648.246.743.241.045.8
ALE-CLI28.527.625.725.728.6
HLE w/ Tools62.559.860.057.964.5
GDPval-AA v217691682159015881730

Источник данных: официальный блог Z.ai (2026-08-14); пункты, не участвовавшие в оценке, обозначены знаком —. Сравнение цен: V4-Pro в непиковое время $0.66/$1.98, V4-Flash $0.14/$0.28 за 1M tokens.

III. Экономичность контекста 1M

27% FLOPs

Под нагрузкой 1M token суммарный расход вычислительной мощности составляет около 27% от V3.2 — прямой выигрыш от гибридного внимания (CSA+HCA).

10% KV

KV-кэш занимает около 10% от объёма V3.2, благодаря чему затраты видеопамяти при параллельном обслуживании длинного контекста значительно снижаются.

$0.003 попадание в кэш

У серии V4.1-Flash входные данные с попаданием в кэш стоят всего $0.003/миллион tokens, поэтому стоимость конвейеров, многократно извлекающих один и тот же корпус, стремится к нулю.