当前位置: 首页 > news >正文

Linux部署ollama

1、下载ollama

wget https://github.com/ollama/ollama/releases/download/v0.1.47/ollama-linux-amd64或者curl -fsSL https://ollama.com/install.sh | sh

2、安装ollama

install ollama-linux-amd64 /usr/local/bin/ollama

3、启动ollama

vi /etc/systemd/system/ollama.service
[Unit]                    
Description=Ollama Service
After=network-online.target[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434" 
Environment="OLLAMA_MODELS=/home/models/ollama"(指定模型存储路径)
ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=/root/miniconda3/condabin:/usr/local/cuda/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin:/usr/local/bin/:."[Install]
WantedBy=default.target
重新加载配置文件 sudo systemctl daemon-reload
启动 sudo systemctl start ollama
重启 sudo systemctl restart ollama
停止 sudo systemctl stop ollama

4、其他命令

下载并启动模型 ollama run deepseek-r1:7b(模型名称)
删除模型 ollama rm  deepseek-r1:7b(模型名称)
查看模型 ollama list
查看版本 ollama -v
http://www.lryc.cn/news/540404.html

相关文章:

  • 跨语言语义理解与生成:多语言预训练方法及一致性优化策略
  • 最新华为 HCIP-Datacom(H12-821)2025.2.20
  • TS语言自定义脚手架
  • 深度学习-122-大语言模型LLM之基于langchian自定义国内联网查询工具并创建智能代理
  • Docker Desktop 入门教学
  • PyCharm 中的 %reset -f 功能:一键重置控制台变量
  • ollama-chat-ui-vue,一个可以用vue对接ollama的开源项目,可接入deepSeek
  • 在Logback中拦截和修改日志
  • Compose 定制UI视图
  • 《STL 六大组件之容器探秘:深入剖析 string》
  • DeepSeek 助力 Vue 开发:打造丝滑的点击动画(Click Animations)
  • SeaTunnel社区「Demo方舟计划」首期活动上线—— MySQL CDC实时同步至PostgreSQL实战
  • Python中常见库 PyTorch和Pydantic 讲解
  • 基于springboot校园健康系统的设计与实现(源码+文档)
  • 一文2000字从0到1用Jmeter全流程性能测试实战
  • 【SFRA】笔记
  • 马拉车算法
  • Debezium同步之如何同步GIS数据
  • 自动化之ansible(二)
  • Docker+Dify部署DeepSeek-r1本地知识库
  • C#基础:使用Linq进行简单去重处理(DinstinctBy/反射)
  • HTML5 面试题
  • 【C++】优先级队列宝藏岛
  • 开关电源实战(一)宽范围DC降压模块MP4560
  • Git是什么
  • 双非计科毕业,二战未果想就业,选择嵌入式开发还是Java开发更合适?
  • 性格测评小程序开发指南
  • shell编程总结
  • 析言GBI:用自然语言交互重构企业数据分析范式
  • 【论文技巧】Mermaid VSCode插件制作流程图保存方法