当前位置: 首页 > news >正文

【大模型对话 的界面搭建-Open WebUI】

Open WebUI 前身就是 Ollama WebUI,为 Ollama 提供一个可视化界面,可以完全离线运行,支持 Ollama 和兼容 OpenAI 的 API。

github网址

https://github.com/open-webui/open-webui

安装

第一种 docker安装

如果ollama 安装在同一台服务器上:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

如果不在同一台服务器上:

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

如果有NVIDIA的GPU:

docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

还有一些安装细节,可以参考https://docs.openwebui.com/ 查看

其他安装方法

pip

注意这个有版本要求:
Python 3.11 is required for this method

安装

pip install open-webui

使用:

open-webui serve

从open webui的github repo

要求:

🐰 Node.js >= 20.10
🐍 Python >= 3.11

在linux或者macos

git clone https://github.com/open-webui/open-webui.git
cd open-webui/# Copying required .env file
cp -RPp .env.example .env# Building Frontend Using Node
npm install
npm run buildcd ./backend# Optional: To install using Conda as your development environment, follow these instructions:
# Create and activate a Conda environment
conda create --name open-webui-env python=3.11
conda activate open-webui-env# Install dependencies
pip install -r requirements.txt -U# Start the application
bash start.sh

在windows下:

git clone https://github.com/open-webui/open-webui.git
cd open-webuicopy .env.example .envnpm install
npm run buildcd .\backend# Optional: To install using Conda as your development environment, follow these instructions:
# Create and activate a Conda environment
conda create --name open-webui-env python=3.11
conda activate open-webui-envpip install -r requirements.txt -Ustart.bat

安装完成后, openwebui运行在http://localhost:8080/上了

完全离线安装

上面是比较推荐的方法,如果完全离线可以从python官网下载python,然后官网下载open webui

  • python

https://www.python.org/downloads/
linux版本通常是source 版本 到linux安装

  • open webui
    https://pypi.org/project/open-webui/#files

运行起来后,可以跟chatgpt一样的界面进行对话了,另外WebUI 还天然支持RAG,可以尝试上传资料等
在这里插入图片描述

http://www.lryc.cn/news/448884.html

相关文章:

  • 如何在算家云搭建text-generation-webui(文本生成)
  • 【Java SE】初遇Java,数据类型,运算符
  • XSS(内含DVWA)
  • 【SpringCloud】环境和工程搭建
  • 基于Java开发的(控制台)模拟的多用户多级目录的文件系统
  • tailwindcss group-hover 不生效
  • python环境配置问题(个人经验)
  • BERT训练之数据集处理(代码实现)
  • 一款辅助渗透测试过程,让渗透测试报告一键生成
  • 力扣最热一百题——颜色分类
  • 2024年工业制造企业CRM研究报告:需求清单、市场格局、案例分析
  • Spring MVC参数接收 总结
  • Docekrfile和docker compose编写指南及注意事项
  • VITS源码解读6-训练推理
  • 力扣 简单 104.二叉树的最大深度
  • 单片机长短按简单实现
  • 如何用好通义灵码企业知识库问答能力?
  • C语言自定义类型:联合体
  • 【JavaEE】——线程池大总结
  • 编程中为什么使用0和1表示状态
  • C++入门基础知识90(实例)——实例15【求两数的最大公约数】
  • 自动化办公-Python-os模块的使用
  • 无人机之数据处理技术篇
  • 828华为云征文|部署多功能集成的协作知识库 AFFiNE
  • c++(AVL树及其实现)
  • Cesium GIS项目关于湖泊识别与提取的实现
  • 两个圆形 一个z里面一个z外面,z里面的大,颜色不同 html
  • 【Power Query】M函数-table
  • uni-app 封装websocket 心跳检测,开箱即用
  • ASP.NET Core8.0学习笔记(十九)——EF Core DbSet