How to Run DeepSeek on Ollama: Local Setup, Models, and Tips

您想在您的笔记本电脑上使用DeepSeek模型——无需发送令牌到远程API即可回答提示，在飞行中工作，或者只是保留一个私人的实验笔记本。在Ollama上运行DeepSeek是最直接的方法：一个二进制文件，一个`pull`命令，以及终端中的聊天会话。本指南基于在M系列Mac、16GB RTX 4070台式机和64GB Linux工作站上的实际使用经验编写。到结束时，您将选择一个适合您硬件的DeepSeek变体，通过Ollama拉取它，运行第一个提示，将其暴露给VS Code或Python脚本，并了解本地运行遇到瓶颈时，托管API如何接管。

What you’ll build

在本教程结束时，您将拥有：

• 在 macOS、Windows 或 Linux 上安装的 Ollama，后台服务正在监听 http://localhost:11434.
• 至少一个DeepSeek模型——R1、R1 Distill、V3.2、V4-Flash（云）或DeepSeek Coder——已拉取并本地或通过Ollama Cloud运行。
• 对 Ollama API 的工作 REST 调用，以及使用 Python 碎片的 ollama 包。
• 明确知道何时在Ollama上运行DeepSeek是正确的选择，何时应该使用DeepSeek的托管API。

开始之前有两个注意事项。首先，“DeepSeek”在Ollama是一个系列——包括R1及其蒸馏版本、较老的V3和V3.2、新的V4-Flash预览，以及DeepSeek Coder和DeepSeek-OCR。它们具有非常不同的VRAM配置文件。其次，Ollama不是DeepSeek API。官方托管API在 https://api.deepseek.com 兼容 OpenAI 并拥有自己的定价、参数设置以及 V4 思维模式标志，这些标志在 [DeepSeek Chat] 中有描述。 DeepSeek API documentation本地和托管是互补的，不可互换。

Prerequisites

• Operating system: macOS 12+、Windows 10/11 或最新的 Linux 发行版。
• 磁盘空间： 小型蒸馏至少需要 5 GB，中端模型至少需要 40 GB+，完整 R1 671B 权重至少需要 400 GB+。
• RAM: 8 GB 可运行 1.5B 蒸馏；16 GB 是 7B-8B 的实际门槛；32 GB+ 用于 14B-32B 范围内的任何内容。
• GPU（推荐）： 一块支持 CUDA 的 NVIDIA GPU、一台 Apple Silicon Mac 或一张 AMD ROCm 支持的显卡。仅 CPU 的工作效率较低。
• 可选： 如果你想要使用云托管的 DeepSeek 模型，需要一个 Ollama 账户；如果你打算回退到托管 V4，需要一个 DeepSeek API 密钥。参见。 get a DeepSeek API key.

如果您不确定您的机器能处理什么，我们可以根据模型大小和量化来估算VRAM和RAM的需求。 DeepSeek hardware calculator 根据模型大小和量化估算VRAM和RAM需求。

选择适合您硬件的DeepSeek模型

这是大多数人跳过然后后悔的一步。Ollama 上的 DeepSeek 家族在规模上跨越了三个数量级。下表总结了你最有可能拉取的变体。

关于蒸馏信息。 DeepSeek 团队已经证明，大型模型的推理模式可以被蒸馏到更小的模型中，与通过在小型模型上使用 RL 发现的推理模式相比，性能更好，并且较小的蒸馏密集模型在基准测试中表现良好。基于 Qwen 的蒸馏继承了 Qwen 的 Apache 2.0 许可证，并在其上叠加了 DeepSeek 的推理微调，而 DeepSeek-R1 的模型权重则根据 MIT 许可证授权，该系列支持商业使用、修改和衍生作品，包括为训练其他 LLMs 进行蒸馏。要深入了解蒸馏家族，请参见。 DeepSeek R1 Distill.

关于Ollama上的V4。 DeepSeek-V4-Flash是DeepSeek-V4系列的一个预览版，这是一个总参数量为284B、激活参数量为13B的混合专家模型，专为在1M-token的上下文窗口中进行高效推理而构建。Ollama目前将其作为 deepseek-v4-flash:cloud暴露，这意味着请求将运行在Ollama托管的后端而不是您的机器上——您仍然需要一个Ollama账户，并且您无法在2026年的普通笔记本电脑上运行这些权重。本地V4-Pro（总参数量1.6T/激活参数量49B）仅在多GPU服务器上才是现实的。

Step 1 — Install Ollama

Ollama为macOS、Windows和Linux发布了安装程序。在Linux上，单行安装程序是最简单的方法：

curl -fsSL https://ollama.com/install.sh | sh

使用curl -fsSL https://ollama.com/install.sh | sh开始使用开放模型构建，或者手动下载；在Windows上使用irm https://ollama.com/install.ps1 | iex；也提供了手动安装说明。macOS和Windows用户还可以从 ollama.com/download下载GUI安装程序；Ollama为macOS和Windows用户提供了GUI应用程序，但本指南侧重于命令行工具。

验证安装：

ollama --version
ollama list

Ollama服务应在后台运行——通常您不需要手动启动它，它默认在端口11434上运行。如果 ollama list 连接被拒绝，错误退出，请使用以下命令启动守护进程： ollama serve 在另一个终端中。

步骤2 — 拉取DeepSeek模型

拉取模型会下载权重并将它们注册到本地的Ollama守护进程。对于16GB笔记本电脑的首次运行，8B R1蒸馏模型在性能和大小之间取得了良好的平衡：

ollama pull deepseek-r1:8b

如果您的RAM较少，请使用 deepseek-r1:1.5b. 如果您正在编码并希望获得补全和聊天功能，请拉取 deepseek-coder:6.7b 相反——DeepSeek Coder是在87%的代码和13%的英语和中文自然语言上从头开始训练的，每个模型都在200亿个token上进行预训练。关于编码器系列的更广泛背景，请参阅我们的 DeepSeek Coder V2 page.

要通过Ollama使用云托管的V4-Flash预览，请先登录：

ollama signin
ollama pull deepseek-v4-flash:cloud

云标签不会将权重下载到您的磁盘上；它们通过Ollama托管的基础设施路由请求。当您的硬件无法容纳模型但您希望保持相同的客户端代码路径时，这很有用。

步骤3 — 运行您的第一个提示

最快的检查方法是进行交互式会话：

ollama run deepseek-r1:8b

您将获得一个聊天提示，其中每条消息都会发送到本地模型。故意提出一些推理风格的提问——“如果一列火车在14:05从曼彻斯特出发，以90公里/小时的速度行驶……”——您应该会在最终答案之前看到R1的思考风格输出。输入 /bye 退出。

对于无需进入交互模式的单次提示，直接附加提示：

ollama run deepseek-r1:8b "用80个字总结CAP定理。”

步骤4 — 从代码中调用本地API

Ollama在11434端口上公开了一个HTTP API。聊天端点与OpenAI的请求形状足够接近，以至于连接客户端变得非常简单。

最小curl调用：

curl http://localhost:11434/api/chat -d '{
  "model": "deepseek-r1:8b",
  "messages": [{"role": "user", "content": "Hello!"}],
  "stream": false
}'

使用官方 ollama 包pip install ollama):

from ollama import chat

response = chat(
    model="deepseek-r1:8b",
    messages=[{"role": "user", "content": "Hello!"}],
)
print(response.message.content)

两种形状均来自Ollama库的模型自述页面；JS等价版本使用 npm i ollama 以及相同的 chat() 调用。对于超出hello-world的更深入的Python教程，请参阅我们的 DeepSeek Python integration guide.

本地与托管，一段话说明。 上面的Ollama端点在您的机器上运行，没有按令牌计费。托管DeepSeek API在 https://api.deepseek.com 是一个完全不同的界面——那里的聊天请求会触 POST /chat/completions，一个与OpenAI兼容的端点，API是无状态的：客户端必须在每个请求中重新发送完整的对话历史。目前托管在那里的最新一代是DeepSeek V4（发布于2026年4月24日），以 deepseek-v4-pro (1.6T total / 49B active) and deepseek-v4-flash (284B / 13B 活跃)，均为MIT许可下的开放权重MoE。V4的思考模式是一个请求参数—— reasoning_effort="high" with extra_body={"thinking": {"type": "enabled"}} ——不是单独的模型ID，并且响应返回 reasoning_content alongside the final content。默认上下文为1,000,000个token，输出最多384,000个token。旧ID deepseek-chat and deepseek-reasoner still work but route to deepseek-v4-flash until July 24, 2026 at 15:59 UTC，之后它们将失败。

步骤5 — 将其连接到您的编辑器

在本地运行DeepSeek最常见的原因是不向第三方泄露源代码的代码辅助。两种路径都运行良好：

1. 配备本地LLM扩展的VS Code。 继续使用，Cline和类似插件接受Ollama基础URL和模型名称。将它们指向 http://localhost:11434 and the deepseek-coder:6.7b or deepseek-r1:14b 模型。详细操作指南请参阅我们的 DeepSeek with VS Code tutorial.
2. Ollama的 发布 集成。 您将被提示运行一个模型或将Ollama连接到您现有的代理或应用程序，例如Claude Code、OpenClaw、OpenCode、Codex和Copilot，以及启动特定的集成，您可以通过运行ollama 发布 claude来实现。相同的模式适用于DeepSeek标签，例如： ollama 发布 claude --model deepseek-r1:14b.

Verify it worked

三个快速检查确认本地安装健康：

• ollama list 显示您的DeepSeek模型具有非零大小。
• ollama ps 显示请求后加载到内存中的模型，以及CPU/GPU的分割。ollama ps显示当前运行的模型和会话（用于调试“为什么我的VRAM满了？”）；典型的行读取为NAME ID SIZE PROCESSOR CONTEXT UNTIL，旁边显示大小的GPU百分比。
• 第4步中的curl调用返回非空的JSON message.content.

Common errors and fixes

当本地答案是错误的时候

在Ollama上运行DeepSeek是适合对隐私敏感的工作、离线使用以及硬件性能有限的延迟敏感工作流程的正确工具。在三种情况下，它不是正确的工具。

首先， 前沿质量. 8B和14B的蒸馏模型与DeepSeek-V4-Pro甚至完整的R1不是同一个模型。如果您需要V4-Pro的SWE-Bench验证或Terminal-Bench性能，请通过托管API运行它，并阅读我们的 DeepSeek V4-Pro 交易权衡的说明。

第二， 1M-token上下文. V4托管API提供1,000,000个token的上下文窗口，输出可达384,000个token。本地量化蒸馏通常在4K-32K范围内运行，并且会静默截断。

第三， 规模化下的每次调用成本一旦每天调用次数超过几千次，托管V4-Flash通常能击败你的电费账单。截至2026年4月，V4-Flash的定价为每1M个token缓存命中0.0028美元，缓存未命中0.14美元，输出0.28美元；V4-Pro的促销价为0.435美元/0.87美元（至2026年5月31日享受75%折扣；目录价为0.0145美元/1.74美元/3.48美元）。一个实际例子：使用2,000个token的缓存系统提示、200个token的用户消息和300个token的回复进行1,000,000次V4-Flash调用，费用为5.60美元（缓存）+ 28.00美元（未缓存输入）+ 84.00美元（输出）= $117.60 total. 在V4-Pro上相同的负载为$29.00 + $348.00 + $1,044.00 = $1,421.00. 数字来自DeepSeek的定价页面；在投入实际支出前请核实，并使用我们的 DeepSeek pricing calculator 来适应您自己的流量模式。

Next steps

接下来要做的三件事，按可能的价值排序：

• 如果您想要一个完全断网的环境，请遵循 DeepSeek offline setup guide.
• 如果您的目标是针对本地文件进行文档问答，请参考 DeepSeek RAG tutorial 该说明展示了如何将托管在Ollama上的DeepSeek连接到向量存储。
• 如果您还想要在同一台机器上与其他开放权重系列进行比较，请浏览 DeepSeek tutorials 中心以获取并行操作指南和 DeepSeek models hub for the full lineup.

DeepSeek AI Guide is an independent resource and is not affiliated with DeepSeek or its parent company. Model IDs, pricing and API behaviour change; check the official DeepSeek documentation and pricing page before committing to a production decision.