群晖NAS秒变AI工作站！DeepSeek-R1私有化部署实战
644 字
3 分钟
群晖NAS秒变AI工作站！DeepSeek-R1私有化部署实战
兄弟们，DeepSeek-R1发布的时候全网炸了锅，685B参数的推理模型直接对标OpenAI的o1系列。但是官方API的价格让不少人望而却步…今天二冰教你们用Docker在NAS上本地部署DeepSeek-R1，配合Ollama运行量化版模型，零API成本、数据完全本地化！
一、项目简介
本文介绍两种部署方案：
- Ollama方案（推荐新手）：一行命令拉取模型，开箱即用
- vLLM方案（适合高端硬件）：更高效的推理引擎，支持多GPU
核心是利用开源大模型生态，在自己的硬件上跑DeepSeek-R1的量化版本。
二、硬件需求
| 模型版本 | 参数量 | 最低内存 | 推荐内存 |
|---|---|---|---|
| R1 1.5B | 1.5B | 4GB | 8GB |
| R1 7B | 7B | 8GB | 16GB |
| R1 8B | 8B | 8GB | 16GB |
| R1 14B | 14B | 16GB | 32GB |
| R1 32B | 32B | 32GB | 64GB |
| R1 70B | 70B | 64GB | 128GB |
二冰建议：8GB内存的NAS跑7B版本，16GB的跑14B，体验已经相当不错了。
三、Docker部署教程
方案一：Ollama + Open WebUI（推荐）
version: '3.8'
services: ollama: image: ollama/ollama:latest container_name: ollama restart: unless-stopped ports: - "11434:11434" volumes: - ./ollama:/root/.ollama deploy: resources: reservations: devices: - driver: nvidia count: all capabilities: [gpu]
open-webui: image: ghcr.io/open-webui/open-webui:main container_name: open-webui restart: unless-stopped ports: - "3000:8080" volumes: - ./open-webui:/app/backend/data environment: - OLLAMA_BASE_URL=http://ollama:11434 depends_on: - ollamaDockge部署
打开Dockge面板 -> 创建堆栈 -> 设置堆栈名称 -> 粘贴compose代码 -> 30秒启动成功！
拉取模型
部署完成后，进入Ollama容器拉取模型：
docker exec -it ollama ollama pull deepseek-r1:7b访问http://NAS_IP:3000即可使用Open WebUI和DeepSeek-R1对话！
四、性能对比
实测在RTX 3060 12GB上：
- 7B模型：约15 tokens/s，日常对话流畅
- 14B模型：约8 tokens/s，可以接受
- 32B模型：约3 tokens/s，需要等待
建议没有独立显卡的兄弟用CPU跑7B版本，虽然慢一些但完全可用。
五、避坑指南
- 显存不足：优先使用Q4量化版本，省一半显存
- NVIDIA驱动：确保宿主机已安装NVIDIA Container Toolkit
- CPU模式：没有GPU可以去掉deploy段，用CPU运行
- 模型存储：大模型文件很大，注意磁盘空间
六、总结
推荐指数：★★★★★
适合人群：有NAS或高性能PC、想零成本使用顶级推理模型的AI爱好者
二冰评价：本地部署DeepSeek-R1的体验比调用API强太多了！没有网络延迟、没有Token限制、数据完全本地化。强烈推荐！
最后，奉上我的超级无敌至尊docker库，二冰平时玩过的docker都整理到了这个仓库中了，一直在更新中，希望有github账号的兄弟能去给点个star，不知道玩啥的，都去这里面找，都给你们分好类了 仓库链接： https://github.com/TWO-ICE/Awesome-NAS-Docker
支持与分享
如果这篇文章对你有帮助，欢迎分享给更多人或赞助支持！
群晖NAS秒变AI工作站！DeepSeek-R1私有化部署实战
https://doc.ebeb.fun/posts/deepseek-r1-docker-私有化部署/ 相关文章 智能推荐
1
Docker容器秒开多个微信！群晖玩家私藏神器实测
部署与优化 兄弟们有没有遇到过这样的尴尬场景？想同时登录工作和生活微信，结果PC端只能单开；想在Linux系统用微信，官方根本不提供客户端。
2
Docker实战：三分钟部署你的Markdown任务管理神器
部署与优化 兄弟们注意了！今天要给你们安利一个程序员看了直呼内行的神器——用Docker部署的NoteFlow！这玩意儿把Markdown笔记和任务管理揉在一起！
3
零成本调用DeepSeek大模型！Docker极速部署指南
部署与优化 兄弟们，最近发现个宝藏项目！现在不用买显卡不用租服务器，用Docker十分钟就能部署自己的大模型API服务。直接逆向DeepSeek官方接口，关键是兼容ChatGPT接口！
4
沉浸式AI角色扮演神器SillyTavern一键部署指南
AI应用工具 兄弟们有没有想过用AI玩《赛博朋克2077》？今天二冰给你们安利个黑科技——只要部署好这个开源神器，就能让AI小姐姐陪你玩角色扮演，还能生成专属剧情对白！
5
手把手教你在VMware虚拟机部署飞牛私有云fnOS
存储方案 兄弟们！今天给大家带来一个超实用的家庭数据管理方案——在VMware虚拟机里搭建飞牛私有云fnOS系统！家里有吃灰旧电脑的千万别扔，分分钟给你整成专业级家庭数据中心！
随机文章 随机推荐
评论区
欢迎来到我的博客！这是一则示例公告。
音乐
暂未播放
0:00 0:00
43
19
93
39,142
0 天
0 天前