当前位置: 首页 > news >正文

潇洒郎:部署Dify, 安装Ollama,Ollama下载模型,Dify配置模型

Ollama

1、安装ollama

Windows版本下载:2024WindowsOllama最新0.5.4版本资源-CSDN文库, 下载速度超快,官网太慢了

双击安装,安装成功后,托盘区有Ollama图标

右键View logs打开目录

C:\Users\Administrator\AppData\Local\Ollama

Ollama安装位置并添加环境变量

C:\Users\Administrator\AppData\Local\Programs\Ollama

Ollama app: C:\Users\Administrator\AppData\Local\Programs\Ollama\ollama app.exe

2、修改Ollama监听端口

如修改为8000,不修改其他机器无法访问,因为Ollama默认绑定localhost或者127.0.0.1

先结束托盘区的Ollama, 再添加环境变量OLLAMA_HOST为:18000

Windows开放8000端口访问或者关闭防火墙

netsh advfirewall set allprofiles state off

测试Ollama在运行

http://192.168.146.101:18000

3、ollama拉取镜像

ollama pull snowflake-arctic-embed2:latest
ollama pull bge-m3:latest
ollama pull qwen2.5:7b
ollama pull glm4:9b
ollama pull llama2-chinese:7b
ollama pull llama3.2:3b

4、ollama查看镜像

5、ollama部署web-ui

git clone https://github.com/open-webui/open-webui.git
cd open-webui
docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://192.168.1.17:50080 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Dify

1、安装部署Dify

# 下载源码
git clone https://gitee.com/liuchuangjun/dify.git

(注意gitee中代码最新为0.6.11, 不支持chatflow)

需要去github上下载源码

https://github.com/langgenius/dify.git



cd dify
# 安装运行docker compose
cd docker
docker compose up -d

(如果失败则单独拉取镜像

docker pull langgenius/dify-api:0.6.11

docker pull langgenius/dify-web:0.6.11

docker pull langgenius/dify-sandbox:0.2.1

docker pull semitechnologies/weaviate:1.19.0


#  注册管理员账号
http://192.168.1.39/install 

2、添加成员

http://www.lryc.cn/news/510781.html

相关文章:

  • Joget研究——Joget8商业版部署
  • Linux下学【MySQL】表中插入和查询的进阶操作(配实操图和SQL语句通俗易懂)
  • 从百度云网盘下载数据到矩池云网盘或者服务器内
  • Vue.js 高级组件开发:抽象与高性能架构
  • Kubernetes 安装 Nginx以及配置自动补全
  • CSS---实现盒元素div内input/textarea的focus状态时给父元素加属性!
  • jmeter设置tps、响应时间监测时间间隔
  • WPSJS:让 WPS 办公与 JavaScript 完美联动
  • 深度学习与图像处理(国产深度学习框架——飞桨官方指定教材)
  • taiwindcss
  • 信号的时域截断——频谱泄漏——光晕效应
  • 【Linux编程】TcpServer 类的设计与实现:构建高性能的 TCP 服务器(二)
  • Mono里运行C#脚本8—mono_image_storage_open打开EXE文件
  • XMLHttpRequest的基础知识
  • 力扣矩阵-算法模版总结
  • 如何在短时间内读懂复杂的英文文献?
  • 基于aspose.words组件的word bytes转pdf bytes,去除水印和解决linux中文乱码问题
  • Bert中文文本分类
  • 【深度学习】Java DL4J基于 CNN 构建车辆识别与跟踪模型
  • 【C#】C#打印当前时间以及TimeSpan()介绍
  • 【Linux 网络 (五)】Tcp/Udp协议
  • 多旋翼无人机理论 | 四旋翼动力学数学模型与Matlab仿真
  • Vue3项目中引入TailwindCSS(图文详情)
  • 【开源项目】数字孪生化工厂—开源工程及源码
  • 咨询团队如何通过轻量型工具优化项目管理和提高团队协作效率?
  • javaWeb开发
  • 如何在 Vue 中处理 API 请求?
  • 基于Debian的Linux发行版的包管理工具
  • 2022年国家公考《申论》题(行政执法)
  • 贪心算法(常见贪心模型)