k8sollama部署deepseek-R1模型,内网无坑
这是目录
- linux下载ollama
- 模型文件下载到本地，打包迁移到k8s等无网络环境使用
- 下载打包ollama镜像
- 非k8s环境使用
- k8s部署
- 访问方式
- 非ollama运行deepseek模型
linux下载ollama
下载后可存放其他服务器
curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
解压后将ollama二进制文件放到/usr/bin/下
做成systemd管理方式参考
[Unit]
Description=Ollama Service
After=network-online.target[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"[Install]