当前位置: 首页 > news >正文

搭建本地私有知识问答系统:MaxKB + Ollama + Llama3 (wsl网络代理配置、MaxKB-API访问配置)

目录

  • 搭建本地私有知识问答系统:MaxKB、Ollama 和 Llama3 实现指南
    • 引言
    • MaxKB+Ollama+Llama 3 Start building
      • MaxKB 简介:
      • 1.1、docker部署 MaxKB(方法一)
        • 1.1.1、启用wls或是开启Hyper
      • 使用 WSL 2 的优势
        • 1.1.2、安装docker
        • 1.1.3、docker部署 MaxKB (Max Knowledge Base)
        • MaxKB 默认登录信息
      • 1.2、使用1Panel 部署 MaxKB(方法二)
      • 1.3、wsl启用Linux,在Linux中使用docker 部署 MaxKB(方法三,本文选用)√
        • 1.3.1、启用并设置 wls2
        • 1.3.2、安装ubuntu
        • 1.3.3、登录、退出 ubuntu
        • 1.3.4、配置网络 (如果可以连接网络,跳过 1.3.4 即可)
          • 1)如果无法联网,请配置修改DNS地址可临时生效:
          • 2)配置永久生效
        • 1.3.5、登录Ubuntu 系统中安装docker
          • ①设置Docker的apt存储库。
          • ②安装Docker包。
          • ③给予当前用户docker执行权限。
        • 1.3.6、下载MaxKB
      • 2、部署 OLama
      • 3、选择Llama3进行部署
      • 4、mapping MaxKB + OLlama + Llama 3
        • 4.1、我们可以先导入一个个人的知识库
        • 4.2、添加我们下载好的模型
        • 4.3、如果API域名无效
        • 4.4、创建问答系统应用
      • 参考地址汇总

搭建本地私有知识问答系统:MaxKB、Ollama 和 Llama3 实现指南

引言

在当今信息爆炸的时代,构建一个本地私有知识问答系统可以帮助组织和个人高效管理和利用知识。本文将详细介绍如何在本地 Windows 环境下,利用 MaxKB、Ollama 和 Llama3 搭建一个功能强大的私有知识问答系统。

MaxKB+Ollama+Llama 3 Start building

MaxKB 简介:

MaxKB 是一款基于 LLM 大语言模型的开源知识库问答系统,旨在成为企业的最强大脑,支持从多种数据源导入和管理知识。。

  • 开箱即用:支持直接上传文档、自动爬取在线文档,支持文本自动拆分、向量化、RAG(检索增强生成),智能问答交互体验好;
  • 模型中立:支持对接各种大语言模型,包括本地私有大模型(Llama 3 / Qwen 2 等)、国内公共大模型(通义千问 / 智谱 AI / 百度千帆 / Kimi / DeepSeek 等)和国外公共大模型(OpenAI / Azure OpenAI / Gemini 等);
  • 灵活编排:内置强大的工作流引擎,支持编排 AI 工作过程,满足复杂业务场景下的需求;
  • 无缝嵌入:支持零编码快速嵌入到第三方业务系统,让已有系统快速拥有智能问答能力,提高用户满意度。

(1.1 ~ 1.3三种方法三选一即可)

1.1、docker部署 MaxKB(方法一)

1.1.1、启用wls或是开启Hyper
  • 允许创建和管理虚拟机,且允许用户在 Windows 上运行原生的 Linux 命令行工具和应用程序,而无需使用虚拟机或双重启动系统。

方案一:安装wls2 并启用 (Windows 10、Windows 11 ) √

# 输入以下命令来启用 WSL:
wsl --install# 如果已经启用但未安装特定版本,可以使用如下命令启用 WSL 2:
dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart
# 启用虚拟机平台
dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart# 设置 WSL 2 作为默认版本:
wsl --set-default-version 2

可以通过任务管理器 ‘performance CPU’ 界面查看是否开启

  • 使用 WSL 2 的优势

    • 更高的性能:与 Hyper-V 相比,WSL 2 提供了更高的文件系统性能。
    • 完全的系统调用兼容性:WSL 2 使用真正的 Linux 内核,确保了对 Linux 系统调用的完全兼容。
    • 更好的资源利用:WSL 2 更有效地利用主机资源。

方案二:开启Hyper-V (window 7)

在这里插入图片描述

1.1.2、安装docker

下载 windows 版 docker
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

如果docker不是自启动需要手动修改下

在这里插入图片描述

1.1.3、docker部署 MaxKB (Max Knowledge Base)

部署 maxkb

# 我们可以指定本地文件夹挂载,这样可以便于我们维护配置
docker run -d --name=maxkb -p 8080:8080 -v C:\Leojiang\leojiangDocument\AI\maxkb:/var/lib/postgresql/data cr2.fit2cloud.com/1panel/maxkb
MaxKB 默认登录信息
http://目标服务器 IP 地址:目标端口用户名:admin
默认密码:MaxKB@123..

1.2、使用1Panel 部署 MaxKB(方法二)

选择使用 1Panel 部署,安装完后在1Panel中搜索MaxKB安装即可,此处不再赘述。

1.3、wsl启用Linux,在Linux中使用docker 部署 MaxKB(方法三,本文选用)√

某些公司电脑禁用docker desktop可以选用此方法

  • Docker Desktop从2021年8月31日开始收费。‌Docker Desktop的转变是为了提供更好的服务和支持,‌但这也意味着对于那些不符合免费使用条件的用户,‌需要支付一定的费用。‌具体来说,‌Docker Desktop现在被称为Docker Personal,‌主要免费提供给小型企业、‌个人、‌教育机构和非商业开源项目使用。‌对于商业用户,‌特别是那些员工超过250人或年收入超过1000万美元的公司,‌使用Docker Desktop需要进行付费订阅
1.3.1、启用并设置 wls2
# 检查是否WSL运行 distributions
#wsl --list --running
# 检查 WSL 状态:
#wsl --list --verbose
# 输入以下命令来启用 WSL:
#wsl --install# 查看商店提供了哪些发行版
wsl --list --online# 启用Windows子系统,可以使用如下命令启用 WSL 2:
dism
http://www.lryc.cn/news/406978.html

相关文章:

  • 谷粒商城实战笔记-65-商品服务-API-品牌管理-表单校验自定义校验器
  • 学好C++之——命名空间
  • pytorch lightning报错all tensors to be on the same device
  • Redis中的哨兵(Sentinel)
  • 产业创新研究杂志产业创新研究杂志社产业创新研究编辑部2024年第12期目录
  • 网闸(Network Gatekeeper或Security Gateway)
  • C#中的字符串
  • docker安装部署elasticsearch7.15.2
  • Symfony 入门指南:快速安装与基础配置
  • 3.3V升压至5V的AH6922芯片:高效能的SOP8封装解决方案
  • 赋能未来教育,3DCAT助力深圳鹏程技师学院打造5G+XR实训室
  • 力扣141环形链表问题|快慢指针算法详细推理,判断链表是否有环|龟兔赛跑算法
  • React 常见的报错及解决方法
  • 更新服务器nginx 1.26.1版本
  • JAVA代码审计JAVA0基础学习(需要WEB基础知识)DAY2
  • SpringBoot整合elasticsearch-java
  • 网络服务与应用
  • Git项目如何配置,如何上传至GitHub
  • Python教程(一):环境搭建及PyCharm安装
  • 神经网络与注意力机制的权重学习对比:公式探索
  • C语言------指针讲解(3)
  • 博客建站 - 常用的公共DNS服务器
  • 用Redisson的RMap做一个简单的购物车示例
  • 「12月·长沙」第四届机器人、自动化与智能控制国际会议(ICRAIC 2024)
  • 传神社区|数据集合集第7期|法律NLP数据集合集
  • 完美解决Ubuntu的MySQL临时文件夹修改调整
  • shell基础编程
  • 近期代码报错解决笔记
  • apache设置ssl代理
  • 数据库中单表的查询(select)