How to Install DeepSeek Locally on Windows, macOS, or Linux

您希望您的提示信息留在您的机器上，您的延迟不再依赖于他人的数据中心，您的账单不再依赖于令牌计数。这就是学习如何在本地安装DeepSeek所能带来的——代价是磁盘空间、GPU内存和一晚上的设置时间。2026年的问题是DeepSeek的旗舰V4系列非常庞大：DeepSeek-V4-Pro有1.6T参数（49B激活）和DeepSeek-V4-Flash有284B参数（13B激活），两者都支持一百万个令牌的上下文长度。因此，大多数读者会选择较小的R1变体用于笔记本电脑，并将V4保留用于专业的GPU服务器。本教程将介绍这两条路径——Ollama用于简单路径，vLLM和Hugging Face用于生产路径——并在其中加入硬件现实检查。

最终您将得到的结果

在本指南结束时，您将拥有一个DeepSeek模型，该模型将在 http://localhost:11434 (Ollama) 或 http://localhost:8000/v1 （vLLM），通过更改两行代码即可从任何OpenAI兼容客户端访问。您将知道哪种DeepSeek变体适合您的硬件，如何下载它而不会出现意外，以及如何验证它是否正常运行。相同的设置可以用于离线编码助手、私人聊天机器人和本地RAG管道——请参阅我们的。 DeepSeek RAG tutorial 上提供补全服务。

在您开始之前有两个事实。首先，DeepSeek API是一个独立的主机服务：它使用 POST /chat/completions at https://api.deepseek.com 并且是无状态的，意味着客户端在每次调用时都会重新发送对话历史。本地安装会在您的机器上复制这种线格式。其次，V4系列在MIT许可下是开放权重的，但完整模型不是笔记本电脑级别的——DeepSeek-V4不是一个笔记本电脑大小的模型。即使是Flash版本也是一个严肃的多GPU部署。相应地规划。

Prerequisites

• Operating system：Windows 10/11、macOS 12+（强烈推荐Apple Silicon）或最新的Linux（Ubuntu 22.04/24.04、Rocky 10、Debian 13）。
• 磁盘空间: 小型精炼版R1需要5 GB，中型模型需要20–50 GB，V4量化权重需要400 GB+。
• RAM/VRAM: 请参阅下方的硬件表格。
• GPU驱动程序: 近期NVIDIA驱动程序+Linux GPU的CUDA 12.x路径；对于Apple Silicon无需额外设置（Metal已内置）。
• 软件: Python 3.10+, git, git-lfs，以及Ollama（简单路径）或 pip vLLM（高级路径）中的任一。
• Optional: 如果您想使用官方上游权重而不是社区量化权重，请创建一个Hugging Face账户。

为您的硬件选择合适的DeepSeek变体

这是大多数教程都会跳过的步骤。“DeepSeek”实际可运行的版本取决于您拥有的GPU或统一内存。以下是基于官方模型卡和社区量化指南的诚实矩阵。

完整的R1模型拥有6710亿个参数，需要严肃的GPU基础设施。为了实际本地使用，DeepSeek发布了基于Qwen 2.5和Llama架构的蒸馏版本，参数量从150亿到700亿不等。蒸馏模型在运行时保留了推理步骤的行为，同时适用于通用硬件。如果您在下载前想评估您的配置，我们的 DeepSeek hardware calculator 接收一个模型ID并返回真实的VRAM和磁盘数量。

快速规则：如果您使用笔记本电脑，请通过Ollama安装R1蒸馏版。如果您拥有24GB GPU或64GB+的Apple Silicon Mac，可以扩展到32B或70B。如果您有多GPU服务器，可以尝试V4-Flash。V4-Pro适合集群使用。

路径A — 使用Ollama本地安装DeepSeek（最简单）

Ollama是从零开始运行模型最快的方式。它管理模型权重，自动下载并组织GGUF格式的模型文件，通过自动检测GPU加速（NVIDIA、AMD、Apple Silicon）来优化硬件，并提供一个API，该API暴露了一个与OpenAI库兼容的REST端点。如果您的目标是“我只是想离线与DeepSeek聊天”，请在这里停止。

步骤1：安装Ollama

从以下链接下载您平台的安装程序： ollama.com在 macOS 和 Windows 上，它是一个正常的应用程序安装器。在 Linux 上，运行官方的单行 shell 安装器。安装后，重新启动您的终端。 ollama 位于您的 PATH路径中，然后使用以下Bash命令进行验证：

ollama --version

步骤2：拉取DeepSeek模型

选择与您的硬件匹配的标签。对于笔记本电脑，8B 精炼的 R1 是一个实用的最佳选择。在您的终端中运行以下命令：

ollama pull deepseek-r1:8b

下载大小约为5.2 GB。在100 Mbps的连接下，预计需要大约5分钟。更大的变体（deepseek-r1:32b, deepseek-r1:70b) 所需时间成比例增加，并且需要相应更多的 RAM/VRAM。对于 DeepSeek V4，您可以尝试 Ollama 主办的标签，但请注意，推理是通过 Ollama 的云而不是您的机器进行的——在假设它是完全本地之前，请阅读标签描述。 deepseek-v4-flash:cloud 第一次运行需要 10-30 秒将模型加载到内存中。之后，您会得到一个提示，您可以在此处输入问题。输入 /bye 退出会话。R1 精炼的推理模式输出显示在

步骤3：运行交互式会话

从终端开始聊天：

ollama run deepseek-r1:8b

同样的模式适用于 Node.js、Go 以及任何具有 OpenAI 客户端的编程语言。有关参数的更深入介绍，请参阅我们的 <think> 块数在最终答案之前；这是模型的 reasoning_content alongside the final content，在终端流中暴露出来。

步骤4：使用与OpenAI兼容的API

Ollama默认在11434端口上暴露一个REST服务器。任何OpenAI SDK都可以通过覆盖 base_url来与之通信。

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:11434/v1",
    api_key="ollama",  # Ollama ignores the key, but the SDK requires one
)

resp = client.chat.completions.create(
    model="deepseek-r1:8b",
    messages=[{"role": "user", "content": "Explain MoE in two sentences."}],
    temperature=0.6,
)
print(resp.choices[0].message.content)

The same pattern works in Node.js, Go, and any other language with an OpenAI client. For a deeper walkthrough of the parameters, see our running DeepSeek on Ollama tutorial.

路径B — 使用vLLM本地安装DeepSeek V4（生产）

如果您拥有多GPU硬件并希望使用官方V4权重，vLLM是标准的服务堆栈。此路径复现了DeepSeek托管API背后的操作：一个在端口8000上运行的与OpenAI兼容的服务器，由真实的上游权重支持。

步骤1：安装系统依赖项（Linux）

您需要最新的NVIDIA驱动程序、CUDA和带有构建工具的Python。使用apt安装：git、git-lfs、python3、python3-venv、python3-pip，然后运行git lfs install和pip install -U huggingface_hub。创建一个虚拟环境以保持事物整洁：

python3 -m venv dsv4-env
source dsv4-env/bin/activate
pip install -U pip wheel setuptools
pip install -U huggingface_hub torch transformers safetensors vllm

步骤2：从Hugging Face下载权重

Use the huggingface-cli 用于拉取官方V4-Flash仓库的工具。安装huggingface_hub，然后运行huggingface-cli download deepseek-ai/DeepSeek-V4-Flash --local-dir ./deepseek-v4-flash将完整指令模型下载到本地文件夹，vLLM可以直接加载：

huggingface-cli download deepseek-ai/DeepSeek-V4-Flash 
  --local-dir ./deepseek-v4-flash

为V4-Flash规划数百GB的磁盘空间，V4-Pro则需要更多。避免直接下载到系统磁盘。

步骤3：使用vLLM提供模型服务

vLLM附带一个与OpenAI兼容的服务器。对于2× A100 80 GB的服务器，最低合理的启动命令是这个Bash单行命令：

python -m vllm.entrypoints.openai.api_server 
  --model ./deepseek-v4-flash 
  --tensor-parallel-size 2 
  --max-model-len 131072 
  --trust-remote-code 
  --port 8000

对于两个A100 80 GB GPU和一个128K上下文窗口，这将在端口8000上启动vLLM，使用--tensor-parallel-size 2和--max-model-len 131072。您可以将 --max-model-len 更接近100万个token（V4默认值），但前提是你有足够的KV缓存空间；对于Think Max推理模式，推荐的上下文窗口至少为384K个token。

步骤4：正确设置采样参数

DeepSeek对V4的官方指导与旧模型不同。对于本地部署，建议将采样参数设置为温度=1.0和top_p=1.0。对于托管API上的特定任务，推荐的温度为：代码和数学0.0，数据分析1.0，一般对话和翻译1.3，创意写作1.5。如果你要模仿托管行为，请匹配这些参数。

验证安装是否成功

无论您选择了哪条路径，都使用curl对您的本地端点进行一次烟测试：

curl http://localhost:11434/v1/chat/completions 
  -H "Content-Type: application/json" 
  -d '{
    "model": "deepseek-r1:8b",
    "messages": [{"role": "user", "content": "Reply with the single word OK."}]
  }'

对于vLLM，将端口更改为 8000 并将模型名称更改为 ./deepseek-v4-flash。收到一个干净的响应，其中包含 "OK" in choices[0].message.content 表示堆栈运行正常。如果你收到连接被拒绝的错误，说明服务器没有运行。如果你收到CUDA内存不足的错误，请降级到较小的变体或缩短上下文长度。

Common errors and fixes

本地安装与托管API的比较

自托管是隐私、离线工作和长期大量工作的正确答案。当你想要最新的模型行为、没有GPU费用或是一次性实验时，自托管是错误的答案。托管DeepSeek API使用两个模型ID—— deepseek-v4-pro and deepseek-v4-flash —并接受旧版 deepseek-chat and deepseek-reasoner ID，直到它们在 2026-07-24 at 15:59 UTC上退役，此时旧版ID都将路由到 deepseek-v4-flash. Chat requests hit POST /chat/completions, the OpenAI-compatible endpoint at https://api.deepseek.com；一个与Anthropic兼容的界面位于相同的基URL。

为托管 deepseek-v4-flash 级别——100万个调用，带有2,000个token的系统提示，200个token的用户消息，300个token的响应——结果如下：

• Cached input: 2,000 × 1,000,000 = 2,000,000,000 tokens × $0.0028/M = $5.60
• Uncached input: 200 × 1,000,000 = 200,000,000 tokens × $0.14/M = $28.00
• Output: 300 × 1,000,000 = 300,000,000 tokens × $0.28/M = $84.00
• Total: $117.60 （根据 DeepSeek’s pricing page，截至2026年4月）

与工作站GPU加上电力的摊销成本相比。对于低量个人使用，托管API通常在美元上胜出；对于高量或敏感工作负载，本地部署胜出。如果你想要更详细的分解，请参阅我们的 DeepSeek free vs paid guide and the DeepSeek API pricing reference.

将您的本地安装连接到真实工具

一旦Ollama或vLLM暴露了与OpenAI兼容的端点，您几乎可以将它连接到任何东西：

• 编辑器辅助：将Continue、Cursor或Cline插件指向 http://localhost:11434/v1. See DeepSeek with VS Code.
• 应用程序代码：使用Python或Node.js的标准OpenAI SDKs — 见 DeepSeek Python integration and DeepSeek Node.js integration.
• 容器化部署：将vLLM打包到容器中 — 我们的 DeepSeek Docker deployment 演示涵盖了Compose和GPU直通。
• 完全断网使用：见 DeepSeek offline setup 以阻止出站流量和固定模型版本。

Next steps

您现在有一个工作的本地安装。接下来的步骤是：调整提示（我们的 DeepSeek prompt engineering 指南是快速通道（构建自己的文档检索层或微调领域数据中的较小蒸馏模型）。对于更广泛的教程目录，请浏览 DeepSeek tutorials 集线器。如果您最终决定云服务优于本地服务，我们的指南将帮助您在五分钟内接入托管端点。 DeepSeek API getting started 查看具体信息。

DeepSeek AI Guide is an independent resource and is not affiliated with DeepSeek or its parent company. Model IDs, pricing and API behaviour change; check the official DeepSeek documentation and pricing page before committing to a production decision.