本地部署DeepSeek大模型完整指南

DeepSeek作为国产顶尖开源大模型，其优秀的语义理解和生成能力备受关注。本文将手把手教你如何在本地计算机部署DeepSeek模型并实现对话交互，支持CPU/GPU双模式运行。

环境准备

1. 硬件要求

• 最低配置：16GB内存 + 100GB存储空间（仅运行7B模型）

• 推荐配置：24GB以上显存的NVIDIA显卡（如RTX 3090/4090）

2. 软件依赖

# 创建Python虚拟环境
conda create -n deepseek python=3.10
conda activate deepseek

# 安装基础依赖
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118  # CUDA版本
# pip install torch torchvision torchaudio  # CPU版本

# 安装模型相关库
pip install transformers==4.37.0 accelerate sentencepiece

模型下载

方式1：Hugging Face下载

from huggingface_hub import snapshot_download

snapshot_download(
    repo_id="deepseek-ai/deepseek-llm-7b-chat",
    local_dir="./deepseek-7b-chat",
    token="your_hf_token"  # 需要申请访问权限
)