当前位置: 首页 > news >正文

[AI]部署安装有道QanyThing

前提条件:

1、win10系统更新到最新的版本,系统版本最好为专业版本

winver

查看系统版本,内部版本要大于19045

2、CPU开启虚拟化

3、开启虚拟化功能,1、2、3每步完成后均需要重启电脑;

注:windows 虚拟机监控程序平台不开启的话可能导致后面docker desktop启动不起来

开始:

1、在CMD/POWERSHELL中敲击命令wsl --version,查看WSL版本,如果版本为1.0则执行update命令,然后切换至2的版本

#查看版本
wsl --version#更新
wsl --update#设置为wsl2
wsl --set-default-version 2#列出可用的linux发行版本
wsl --list --online#列出已安装的 Linux 发行版
wsl --list --verbose#推荐安装ubuntu2204,后面为安装路径
wsl --install Ubuntu22.04 E:\Ubuntu2204#检查 WSL 状态
wsl --status#关闭
wsl --shutdown#导入和导出发行版
wsl --export <Distribution Name> <FileName>
wsl --import <Distribution Name> <InstallLocation> <FileName>#导入已经存在的文件
#将指定的 .vhdx 文件导入为新的发行版。 虚拟硬盘必须采用 ext4 文件系统类型格式
wsl --import-in-place <Distribution Name> <FileName>#注销或卸载 Linux 发行版
wsl --unregister <DistributionName>

2、安装docker desktop,win10建议下载4.26.1,按照要求进行安装即可,安装完成后进行如下设置:

wsl安装好ubtuntu之后我们是可以在dokcer desktop里面看到已经装好的linux系统

修改配置地址

3、拉取代码及下载模型

#下载qanything的基础代码
git clone https://github.com/netease-youdao/QAnything.git#下载基础LLM,文件较大,提前下载好之后,解压放到qanything代码的根目录里,文件夹为models
git clone https://www.modelscope.cn/netease-youdao/QAnything.git#千问模型可以不用下载,系统会自动拉取

更改shell脚本的回车(在windows下创建编辑的shell脚本是dos格式的,而linux却是只能执行格式为uni格式的脚本),否则执行时会报错,将回车符替换为空字符串

sed -i "s/\r//" scripts/run_for_local_option.sh
sed -i "s/^M//" scripts/run_for_local_option.sh
sed -i "s/\r//" scripts/run_for_cloud_option.sh
sed -i "s/^M//" scripts/run_for_cloud_option.sh
sed -i "s/\r//" run.sh
sed -i "s/^M//" run.sh
sed -i "s/\r//" close.sh
sed -i "s/^M//" close.sh

执行启动命令

bash ./run.sh -c local -i 0 -b hf -m Qwen-7B-QAnything -t qwen-7b-qanything

若发现npm run install报错failed to install npm dependencies,请参考将npm换成yarn
\scripts\run_for_local_option.sh,找到npm install那里,修改一下代码

npm config set registry https://registry.npmmirror.com
npm install -g yarn
yarn config set registry https://registry.npmmirror.com

timeout 180 yarn install

4、迁移docker-desktop-data,防止C盘文件过大

wsl --shutdownwsl --export docker-desktop-data E:\docker-desktop\docker-desktop-data.tarwsl --unregister docker-desktop-datawsl --import docker-desktop-data E:\docker-desktop\data E:\docker-desktop\docker-desktop-data.tar --version 2

参考地址:网易有道QAnything 安装部署实践(RAG)-CSDN博客

http://www.lryc.cn/news/304775.html

相关文章:

  • NLP_BERT与GPT争锋
  • 放一个还看得过去的后台模板设置模块css样式框架
  • 关于信号强度单位dB和dBm区别
  • 华清远见作业第四十二天——Qt(第四天)
  • vue2和vue3区别 浅析
  • GIT使用和简介
  • HTTPS(超文本传输安全协议)被恶意请求该如何处理。
  • QT-模拟电梯上下楼
  • 基于springboot+vue的桂林旅游景点导游平台(前后端分离)
  • 设计模式四:适配器模式
  • 【AI应用】SoraWebui——在线文生视频工具
  • 电路设计(27)——交通信号灯的multisim仿真
  • Python Sanic 异步 Web 框架
  • 滚雪球学Java(70):深入理解Java中的PriorityQueue底层实现与源码分析
  • 李宏毅2023机器学习作业1--homework1
  • Mysql的SQL调优-面试
  • Unity 2021.3发布WebGL设置以及nginx的配置
  • 【鸿蒙 HarmonyOS 4.0】数据持久化
  • mysql mgr集群多主部署
  • 【开源】JAVA+Vue.js实现医院门诊预约挂号系统
  • 《图解设计模式》笔记(一)适应设计模式
  • 图文说明Linux云服务器如何更改实例镜像
  • RabbitMQ学习整理————基于RabbitMQ实现RPC
  • Linux-基础知识(黑马学习笔记)
  • SpringBoot项目启动报java.nio.charset.MalformedInputException Input length = 1解决方案
  • 【Unity2019.4.35f1】配置JDK、NDK、SDK、Gradle
  • MySQL中的高级查询
  • leetcode383赎金信
  • 【Unity3D】ASE制作天空盒
  • MyBatisPlus常用注解