当前位置: 首页 > news >正文

Open WebUI + openai API / vllm API ,实战部署教程

介绍Open WebUI + Ollama 的使用: https://www.dong-blog.fun/post/1796

介绍vllm 的使用:https://www.dong-blog.fun/post/1781

介绍 Ollama 的使用: https://www.dong-blog.fun/post/1797

本篇博客玩个花的,Open WebUI 本身可以兼容openai 的api, 那来尝试一下。

仅供 OpenAI API 使用安装

如果您仅使用 OpenAI API,请使用此命令:

# 我当前在宿主机目录 /ssd/xiedongmkdir openwebui-testcd openwebui-test# 下面这个指令,换为自己的绝对路径挂进去
docker run -d --ipc=host -p 8081:8080 --gpus=all <
http://www.lryc.cn/news/473256.html

相关文章:

  • InsuranceclaimsController
  • 如何成为开源代码库Dify的contributor:解决issue并提交PR
  • SQL进阶技巧:巧用异或运算解决经典换座位问题
  • 【MySQL】 运维篇—数据库监控:使用MySQL内置工具(如SHOW命令、INFORMATION_SCHEMA)进行监控
  • 【温酒笔记】DMA
  • 力扣判断字符是否唯一(位运算)
  • GPU和CPU区别?为什么挖矿、大模型都用GPU?
  • 新兴斗篷cloak技术,你了解吗?
  • 【抽代复习笔记】34-群(二十八):不变子群的几道例题
  • Chrome和Firefox如何保护用户的浏览数据
  • CentOS 7镜像下载
  • opencv-windows-cmake-Mingw-w64,编译opencv源码
  • Puppeteer点击系统:解锁百度流量点击率提升的解决案例
  • Kyber原理解析
  • 2024 CCF CSP-J/S 2024 第二轮认证 真题试卷
  • Android 无障碍服务常见问题梳理
  • Milvus 与 Faiss:选择合适的向量数据库
  • 2024最全CTF入门指南、CTF夺旗赛及刷题网站(建议收藏!)
  • 【论文阅读】ESRGAN+
  • 北京市首发教育领域人工智能应用指南,力推个性化教育新篇章
  • 【Java并发编程】信号量Semaphore详解
  • window11使用wsl2安装Ubuntu22.04
  • 虚拟滚动 - 从基本实现到 Angular CDK
  • Spring WebFlux学习笔记(一)
  • 富格林:正确追损思维安全交易
  • 前端vue2迁移至uni-app
  • 恋爱脑学Rust之闭包三Traits:Fn,FnOnce,FnMut
  • 区块链介绍
  • git回滚间隔的提交
  • Map和Set(数据结构)