当前位置: 首页 > news >正文

window系统下使用open-webui+ollama部署大模型

        前面一篇博文中讲述了window下用ollama+AnythingLLM部署本地知识库,但是个人感觉anythingllm不是很好用,还不如直接用cmd窗口,而且仅能本机使用,如果想部署到服务器上面供其他人访问,完全不可行,但是使用open-webui+ollama或者独立的open-webui救可以实现。

        使用open-webui部署,其实也可以不用ollama,因为open-webui里面本身支持从huggingface里面直接下载,或者下载后放到指定目录即可使用,但是有一个确定就是,访问huggingface需要“科学上网”工具才能进行访问,一般来说部署在服务器上面,出于安全考虑,都是不建议的,同时为了没有“科学上网”工具的读者也可以实现,所以下面将分别讲解open-webui单独使用和+ollama使用的方式。

  1、open-webui部署

                要在windows系统部署open-webui,首先要安装conda来设置虚拟环境,当前带有交互界面的有anaconda和minconda,下面将使用anaconda来部署虚拟环境。

       首先要从anaconda官网Download Anaconda Distribution | Anaconda下载安装文件,然后进行安装(安装一般都是下一步、下一步,如果有疑问,可以直接搜索anaconda,查看前人(此处给一个例子:Anaconda安装-超详细版(2023)_anaconda安装教程-CSDN博客)已经写好的步骤即可,此处不在赘述),安装好后直接在开始界面点击下图所示功能运行(启动过程可能因为硬件问题会有点慢)

http://www.lryc.cn/news/490807.html

相关文章:

  • 一加ACE 3 Pro手机无法连接电脑传输文件问题
  • 因果机器学习EconML | 客户细分案例——基于机器学习的异质性处理效果估计
  • 找到最大“葫芦”组合
  • shell(9)完结
  • 【计算机网络】多路转接之select
  • 数据库-基础理论
  • Linux——1_系统的延迟任务及定时任务
  • C++ 矩阵旋转
  • Docker学习笔记整理
  • 计算机组成原理期末试题三(含答案)
  • django+boostrap实现注册
  • C++初阶——类和对象(下)
  • 趋势洞察|AI 能否带动裸金属 K8s 强势崛起?
  • idea初始化设置
  • LINUX系统编程之——环境变量
  • 健康老龄化:适合老年人的播客
  • 家庭智慧工程师:如何通过科技提升家居生活质量
  • Milvus概念
  • 为什么调用 setState 而不是直接改变 state
  • 【Python爬虫五十个小案例】爬取豆瓣电影Top250
  • cocos creator 3.8 物理碰撞器Collider+刚体RigidBody 8
  • Python爬取豆瓣电影全部分类数据并存入数据库
  • 算法模板1:排序+二分+高精度+前缀+差分
  • SpringBoot实现单文件上传
  • rust中解决DPI-1047: Cannot locate a 64-bit Oracle Client library问题
  • YOLOv11(Ultralytics)视频选定区域目标统计计数及跟踪
  • 24小时自动监控,自动录制直播蓝光视频!支持抖音等热门直播软件
  • InfiniBand(IB)快速上手
  • D74【 python 接口自动化学习】- python 基础之HTTP
  • 移动光猫[HS8545M5-10]获取超密