当前位置: 首页 > news >正文

在 Windows 上配置 Ollama 服务并开放局域网访问

为了在局域网内共享 Ollama 服务,我们需要完成以下两步:

1、设置 Ollama 的环境变量 OLLAMA_HOST,使其监听局域网的 IP 地址。

(1) 配置 Ollama 服务的监听地址
Ollama 服务使用环境变量 OLLAMA_HOST 来指定监听的地址,默认情况下,它只监听 localhost,即只能本地访问。如果要让局域网内其他设备访问 Ollama 服务,需要将 OLLAMA_HOST 设为 0.0.0.0
(2)设置环境变量

在 Windows 中,可以通过以下步骤来设置环境变量 OLLAMA_HOST:

1、打开系统属性:

右键点击 此电脑 或 计算机,选择 属性。
在左侧点击 高级系统设置。
2、环境变量:

在弹出的窗口中,点击 环境变量。
3、新建用户环境变量:

        在 系统变量 部分,点击 新建。
        在 变量名 输入框中,输入 OLLAMA_HOST。
        在 变量值 输入框中,输入 0.0.0.0,然后点击 确定。
4、重启命令行窗口:
        设置完成后,确保关闭并重新打开命令行窗口,使新的环境变量生效。

完成后,Ollama 服务将在所有网络接口上监听,包括局域网。

2、在 Windows 防火墙中开放 Ollama 服务使用的端口(如 11434)。

为了使其他设备能够访问 Ollama 服务,我们需要在 Windows 防火墙中开放 Ollama 服务运行的端口(例如 11434)。你可以选择通过图形界面操作,或者更快捷地通过命令行操作来完成设置。

方法一:使用 Windows 防火墙图形界面

  1. 打开 控制面板,搜索并选择 Windows Defender 防火墙。
  2. 在左侧点击 高级设置,进入高级防火墙设置页面。
  3. 在左侧菜单中,点击 入站规则,然后在右侧点击 新建规则。
  4. 选择 端口 作为规则类型,然后点击 下一步。
  5. 选择 TCP,并在 特定本地端口 一栏中输入 11434,然后点击 下一步。
  6. 选择 允许连接,点击 下一步。
  7. 根据需求选择应用的网络类型(域、专用或公用),点击 下一步。
  8. 为这条规则命名(如 “Allow Ollama Port 11434”),然后点击 完成。

方法二:使用命令行快速开放端口
如果你更习惯使用命令行,可以通过以下步骤快速开放端口。
1、打开 命令提示符(以管理员身份运行),使用以下命令为 Ollama 服务开放 11434 端口(TCP 协议):

netsh advfirewall firewall add rule name="Allow Port 11434" dir=in action=allow protocol=TCP localport=11434

如果 Ollama 使用的是 UDP 协议,可以将命令中的 TCP 改为 UDP

netsh advfirewall firewall add rule name="Allow Port 11434" dir=in action=allow protocol=UDP localport=11434

2、你可以通过以下命令确认规则是否正确添加:

netsh advfirewall firewall show rule name="Allow Port 11434"

3、测试 Ollama 服务是否在局域网中可访问

完成上述设置后,Ollama 服务应该可以通过局域网中的其他设备访问。你可以通过局域网中的另一台设备,在浏览器中输入以下地址进行测试:
http://<你的本机IP地址>:11434
例如,如果你的本机 IP 地址是 192.168.1.100,则在局域网中其他设备的浏览器中输入:

http://192.168.1.100:11434

怎么查看本机ip地址,在cmd下输入ipconfig查看,我是用的WiFi,所以选择的是无线局域网适配器WLAN,你连接的宽带的话就看以太网的ip地址,如下所示。


如果服务成功启动,页面应显示 Ollama API 的相关信息,表明你的服务已经能够在局域网中正常访问。

5. 总结
通过以上步骤,你可以轻松地在 Windows 上配置 Ollama 服务并允许其他局域网设备访问该服务。具体操作包括:

  1. 配置环境变量 OLLAMA_HOST,使 Ollama 服务监听局域网中的请求。
  2. 在 Windows 防火墙中开放相应端口。

这一过程简单且高效,能够帮助你快速地将本地 AI 服务共享给局域网中的其他设备,实现更广泛的应用场景。

 本文参考文章:在 Windows 上配置 Ollama 服务并开放局域网访问_windows_史不了-尧米AI

http://www.lryc.cn/news/544446.html

相关文章:

  • 【六祎 - Note】消息队列的演变,架构图;备忘录; IBM MQ,RabbitMQ,Kafka,Pulsar
  • 常见AI写作工具介绍(ChatGPT 4o、DeepClaude、Claude 3.5 Sonnet 、DeepSeek R1等)
  • WPF中对滚动条进行平滑滚动
  • 深入xtquant:Python量化交易的桥梁与核心
  • Flutter 学习之旅 之 flutter 在 Android 端进行简单的打开前后相机预览 / 拍照保存
  • 网络变压器的主要电性参数与测试方法(2)
  • SpringSecurity基于JWT实现Token的处理
  • TCP的三次握手与四次挥手:建立与终止连接的关键步骤
  • 某住宅小区地下车库安科瑞的新能源汽车充电桩的配电设计与应用方案
  • 登录次数限制
  • java jar包内的jar包如何打补丁
  • 面试(进阶) —虚拟列表在什么场景使用,如何实现?
  • 深入了解 NAT 模式:网络地址转换的奥秘
  • Android Studio 新版本Gradle发布本地Maven仓库示例
  • 无服务边缘融合架构:重新定义云原生应用边界
  • 数据库测试
  • Nodejs-逐行读取文件【简易版】
  • 上海市计算机学会竞赛平台2024年5月月赛丙组城市距离之和
  • 穷举vs暴搜vs深搜vs回溯vs剪枝(典型算法思想)—— OJ例题算法解析思路
  • 在ubuntu 24.04.2 通过 Kubeadm 安装 Kubernetes v1.31.6
  • 基于Python socket库构建的基于 P2P 的文件共享系统示例
  • JavaScript 函数重载:灵活应对多场景的编程技巧
  • 通过 PromptTemplate 生成干净的 SQL 查询语句并执行SQL查询语句
  • 用大白话解释缓存Redis +MongoDB是什么有什么用怎么用
  • 计算机毕业设计SpringBoot+Vue.js汽车销售网站(源码+文档+PPT+讲解)
  • 【0010】HTML水平线标签详解
  • FastExcel与Reactor响应式编程深度集成技术解析
  • Netty是如何实现零拷贝的?
  • 【大模型➕知识图谱】大模型结合医疗知识图谱:解锁智能辅助诊疗系统新范式
  • Spring Boot @Component注解介绍