【deepseek】ollama chatbox webui 本地部署deepseek 踩坑记录
部署
1、前往Ollama官网下载跨平台工具
官网直达：https://ollama.com/download
2、挑选适合自己设备的模型版本，获取运行指令
访问模型库：https://ollama.com/library/deepseek-r1
▌配置建议：
• 入门级：1.5B版本（4GB内存+核显可运行）
• 进阶推荐：7B版本（8GB内存+4GB显存）
• 高性能设备：32B版本（32GB内存+12GB显存）
-
一键部署模型（以32B为例）
打开终端/CMD输入：ollama run deepseek-r1:32b -
下载开源客户端Chatbox
官网：https://chatboxai.app/zh
支持中文界面与Markdown渲染，还有各种强大的功能，体验超过ChatGPT -
关键配置指引
① API类型：选择"OpenAI API兼容"
② 接口地址：http://localhost:11434/v1
③ 模型名称：与之前下载的版本严格一致
6、或者使用 webui页面：
pip install open-webui
open-webui serve
https://github.com/open-webui/open-webui
连通测试
curl http://localhost:11434/api/chat -d '{"model": "deepseek-r1:32b","messages": [{ "role": "user", "content": "why is the sky blue?" }]
}'
性能测试
4090 显卡，32B模型，输出速度： 31 token/s
预估电费成本：
30token/s*3600s/0.5 kwh/0.5 元 = 43w token/元
deepseek-r1-32B，电费成本：百万token ~2.3元
faq
修改 ollama 环境变量，解决网络联通问题
1、如果Ollama作为SystemD服务运行，则应使用systemctl设置环境变量
systemctl edit ollama.service
添加如下环境变量
[Service]
Environment="OLLAMA_HOST=0.0.0.0"
2、重新加载 systemd
systemctl daemon-reload
3、重新启动 ollama
systemctl restart ollama
参考文档：
https://github.com/ollama/ollama/blob/main/docs/faq.md