Win11环境下Ollama部署DeepSeek全流程指南

一、环境准备与系统要求

Windows 11系统需满足以下基础条件：

如果关注大模型相关的产品与活动，可以查看AI 大模型产品专题活动页。

1. 硬件配置：建议16GB以上内存（模型加载时峰值内存占用可达12GB），NVIDIA显卡（支持CUDA加速可提升推理速度）
2. 系统版本：Windows 11 21H2及以上版本（可通过winver命令验证）
3. 网络环境：稳定互联网连接（首次运行需下载约8GB模型文件）

关键验证步骤：

# 验证系统版本
[System.Environment]::OSVersion.Version
# 输出应为Major=10, Minor≥22000

# 检查CPU架构（必须为x64）
[System.Environment]::Is64BitOperatingSystem

二、Ollama框架安装与配置

1. 安装依赖组件

• WSL2集成（非必需但推荐）：
  ```powershell
  # 启用WSL功能
  dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart
  dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart
  wsl --set-default-version 2
  ```

• NVIDIA CUDA驱动（GPU加速场景）：
  ```powershell
  nvcc --version
  # 应显示CUDA版本信息
  ```

  1. 下载NVIDIA CUDA Toolkit
  2. 安装时选择自定义安装，勾选CUDA组件
  3. 验证安装：

2. Ollama安装流程

1. 下载安装包：
   访问Ollama官方仓库获取Windows版安装程序

2. 命令行安装（推荐）：
   ```powershell
   # 以管理员身份运行PowerShell
   Start-Process -FilePath "ollama-setup.exe" -ArgumentList "/S" -Wait
   ```

3. 验证安装：
   ```powershell
   # 检查服务状态
   Get-Service -Name "OllamaService"
   # 应显示Running状态

# 测试基础命令
ollama --version
# 应返回版本号（如v0.1.15）
```

三、DeepSeek模型部署

1. 模型拉取与配置

# 拉取DeepSeek-R1模型（以7B参数版本为例）
ollama pull deepseek-ai/DeepSeek-R1:7b

# 查看已下载模型
ollama list
# 输出应包含：
# NAME           SIZE    CREATED
# deepseek-ai... 8.1GB   Jun 10 10:00

参数配置优化：

如果希望以套餐方式获取大模型 token，个人开发者可以看Token plan 个人版购买页。

• 修改config.json（位于%APPDATA%\Ollama\models）：
  ```json
  {
  "model": "deepseek-ai/DeepSeek-R1",
  "parameters": {
  "temperature": 0.7,
  "top_k": 30,
  "max_tokens": 2048
  }
  }
  ```

2. 运行模式选择

• 基础运行：
  ```powershell
  ollama run deepseek-ai/DeepSeek-R1:7b
  ```

• GPU加速运行（需NVIDIA显卡）：
  ```powershell
  # 设置CUDA环境变量
  $env:CUDA_VISIBLE_DEVICES="0"
  ollama run --gpu deepseek-ai/DeepSeek-R1:7b
  ```

• 持久化服务：
  ```powershell
  # 创建系统服务（需管理员权限）
  New-Service -Name "DeepSeekService" -BinaryPathName "C:\Program Files\Ollama\ollama.exe serve --model deepseek-ai/DeepSeek-R1:7b" -DisplayName "DeepSeek LLM Service" -StartupType Automatic
  Start-Service -Name "DeepSeekService"
  ```

四、API调用与集成开发

1. REST API基础调用

import requests

url = "http://localhost:11434/api/generate"
headers = {
    "Content-Type": "application/json",
}
data = {
    "model": "deepseek-ai/DeepSeek-R1:7b",
    "prompt": "解释量子计算的基本原理",
    "stream": False
}

response = requests.post(url, headers=headers, json=data)
print(response.json()["response"])

2. 流式响应处理

import requests

def generate_stream():
    url = "http://localhost:11434/api/generate"
    headers = {"Content-Type": "application/json"}
    data = {
        "model": "deepseek-ai/DeepSeek-R1:7b",
        "prompt": "写一首关于春天的诗",
        "stream": True
    }
    
    with requests.post(url, headers=headers, json=data, stream=True) as r:
        for line in r.iter_lines():
            if line:
                print(line.decode("utf-8").strip())

generate_stream()

3. 性能优化建议

1. 内存管理：

   • 使用--num-gpu参数限制GPU内存占用
   • 监控任务管理器中的内存使用情况

2. 批处理优化：
   ```powershell
   # 启动时设置最大并发数
   ollama serve --max-concurrent-requests 4
   ```

3. 模型量化（降低显存需求）：
   ```powershell
   # 下载量化版本（需官方支持）
   ollama pull deepseek-ai/DeepSeek-R1:7b-q4_0
   ```

五、故障排查与常见问题

1. 端口冲突：

   • 默认使用11434端口，可通过netstat -ano | findstr 11434检查占用
   • 修改端口：ollama serve --api-port 8080

2. 模型加载失败：

   • 检查磁盘空间（需保留20GB以上空闲空间）
   • 删除缓存后重试：ollama rm deepseek-ai/DeepSeek-R1:7b

3. CUDA错误处理：

   • 更新驱动至最新版本
   • 检查CUDA版本与模型要求的匹配性

六、进阶应用场景

1. 企业级部署架构：

   • 使用Nginx反向代理实现负载均衡
   • 配置HTTPS证书保障通信安全

2. 与现有系统集成：
   ```csharp
   // C#调用示例
   using var client = new HttpClient();
   var response = await client.PostAsync(
   "http://localhost:11434/api/generate",
   new StringContent(
   "{\"model\":\"deepseek-ai/DeepSeek-R1:7b\",\"prompt\":\"生成周报\"}",
   Encoding.UTF8,
   "application/json"));
   Console.WriteLine(await response.Content.ReadAsStringAsync());
   ```

3. 模型微调：

   • 准备训练数据集（JSONL格式）
   • 使用Ollama的--train参数启动微调任务

本教程完整覆盖了从环境搭建到生产部署的全流程，开发者可根据实际需求调整参数配置。建议首次部署时先使用7B参数版本验证基础功能，再逐步扩展至更大规模的模型。对于企业用户，建议结合Kubernetes实现容器化部署以提高资源利用率。

购买入口说明

以下链接直接进入购买页面，不是介绍页，下单前请自行核对内容与金额；想先了解平台能力，可以查看千帆大模型产品详情页。

• 个人版 Token 购买（面向个人开发者）：千帆大模型个人版 token 购买页。
• 企业版 Token 购买（面向企业团队）：千帆大模型企业版 token 购买页。
• Token 福利包（通用积分，支持叠加购买，用于通用模型调用、搜索等工具调用、OCR 等能力调用）：Token 福利包购买页。
• 通用资源点（可在百度搭子、百度秒哒、百度胜算、百度伐谋之间跨产品抵扣）：通用资源点购买页。