当前位置: 首页 > article >正文

Ollama(1)知识点配置篇

ollama已经成功安装成功后,通常大家会对模型的下载位置和访问权限进行配置

1.模型下载位置修改

都是修改系统环境变量。

(1)默认下载位置

macOS: ~/.ollama/modelsLinux: /usr/share/ollama/.ollama/modelsWindows: C:\Users\你的电脑用户名\.ollama\models

(2)修改linux下路径

  • 关闭Ollama服务
# 1. 使用systemctl命令:
sudo systemctl stop ollama
sudo systemctl disable ollama.service
# 2. 或者在运行Ollama的终端中按Ctrl+C手动停止服务。
  • 创建新的模型存储目录 
# 创建一个新的目录作为模型存储路径。
sudo mkdir -p /data/ollama/models
# 确保新目录的权限设置正确,允许Ollama访问和写入:
sudo chown -R root:root /data/ollama/models
sudo chmod -R 775 /data/ollama/models
  • 修改Ollama服务配置文件

# 使用文本编辑器(如vim)编辑Ollama服务的配置文件:
sudo gedit /etc/systemd/system/ollama.service# 在[Service]部分的Environment字段后,添加新的Environment字段,指定新的模型路径:Environment="OLLAMA_MODELS=/data/ollama/models"# 完整的配置示例如下
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
Environment="OLLAMA_MODELS=/data/ollama/models"
[Install]
WantedBy=default.target</font>
  • 重载配置并重启Ollama服务
# 1. 重载系统服务配置:
sudo systemctl daemon-reload
# 2. 重启Ollama服务:
sudo systemctl restart ollama.service
#  3. 查看服务状态:
sudo systemctl status ollama

如果修改之前 默认路径有模型文件,可以直接复制过来,重启即可生效

(3)修改windows下路径

找到系统环境变量

新建一个   OLLAMA_MODELS   和对应目录

2. 修改访问权限本地还是对外访问

(1)linux下HOST修改

#  1. 通过编辑ollama.service进行配置:
sudo vim /etc/systemd/system/ollama.service# 由于Ollama的默认参数配置,启动时设置了仅本地访问,因此需要对HOST进行配置,开启监听任何来源IP。
[Service]
# 2. 配置远程访问(放开所有IP,都可以远程访问)
Environment="OLLAMA_HOST=0.0.0.0"

(2)window下HOST修改

 OLLAMA_HOST

(3)默认11434端口要记得放开

linux或者window都要在防火墙放开端口才可以远程访问

3. 部分命令小存

ollama serve                # 启动ollama
ollama create               # 从模型文件创建模型
ollama show                # 显示模型信息
ollama run                # 运行模型
ollama pull                # 从注册仓库中拉取模型
ollama push                # 将模型推送到注册仓库
ollama list                # 列出已下载模型
ollama cp                # 复制模型
ollama rm                # 删除模型
ollama help                # 获取有关任何命令的帮助信息

http://www.lryc.cn/news/2393960.html

相关文章:

  • VMware Workstation虚拟系统设置双网口
  • Qt基础终结篇:从文件操作到多线程异步UI,深度解析核心要点
  • ubuntu中,文本编辑器nano和vim区别,vim的用法
  • 山洪灾害声光电监测预警解决方案
  • 【Rust模式与匹配】Rust模式与匹配深入探索与应用实战
  • React从基础入门到高级实战:React 高级主题 - React Concurrent 特性:深入探索与实践指南
  • electron安装报错处理
  • NHANES指标推荐:CQI
  • 【OpenHarmony】【交叉编译】使用gn在Linux编译3568a上运行的可执行程序
  • Med-R1论文阅读理解-1
  • 【从零开始学习QT】快捷键、帮助文档、Qt窗口坐标体系
  • 强化学习笔记总结(结合论文)
  • Java线程安全解决方案全面指南
  • superior哥深度学习系列(大纲)
  • 基于stm32的多旋翼无人机(Multi-rotor UAV based on stm32)
  • 实验分享|基于sCMOS相机科学成像技术的耐高温航空涂层材料损伤检测实验
  • RAG混合检索:倒数秩融合RRF算法
  • 2011肠衣问题
  • RG3000网关构建5G LAN智慧工厂智能制造
  • Rust语言学习教程、案例与项目实战指引
  • 通信应用高速模数转换器ADC
  • 大模型测评选型指南:企业级大模型测评实战解析
  • 微信小程序学习目录
  • AG32 DMAC实现内部MCU与FPGA通信【知识库】
  • webrtc初了解
  • [STM32学习笔记(九)]CubeMX项目使用系统定时器SysTick的中断服务函数进行定时
  • 5G 核心网 NGAP UE-TNL 偶联和绑定
  • 性能测试怎么做?方法、流程与核心要点解析
  • 将ipynb文件转换为markdown格式文件
  • Vulnhub_Zico2_wp