当前位置: 首页 > news >正文

大模型学习与实践笔记(十二)

使用RAG方式,构建opencv专业资料构建专业知识库,并搭建专业问答助手,并将模型部署到openxlab 平台

代码仓库:https://github.com/AllYoung/LLM4opencv

1:创建代码仓库

在 GitHub 中创建存放应用代码的仓库,其代码大致目录树如下:

├─GitHub repo
│  ├─app.py                       # 应用代码相关的文件,包含模型推理,应用的前端配置代码,默认应用的启动脚本为根目录下的app.py文件
│  ├─requirements.txt             # 安装运行所需要的 Python 库依赖(pip 安装)
│  ├─packages.txt                 # 安装运行所需要的 Debian 依赖项( apt-get 安装)
│  └─... 
copy

2:编写应用代码

基础代码构建方法参考 :大模型学习与实践笔记(五)-CSDN博客

这里需要注意的是,GitHub 根目录下的 `app.py` 文件会作为应用的启动的脚本,请务必在根目录下创建 `app.py` 的文件。

若有自定义启动文件,也可以在创建过程中选择自定义启动文件

我的代码仓库中,通过start.py 文件进行启动。

设置如下:

3:配置应用环境

配置应用所需的运行环境,如有 Python 依赖项( pip 安装)可写入requirements.txt中,Debian 依赖项( apt-get 安装)可写入 packages.txt 中,并存放至代码仓库的根目录下。

requirement.txt示例

numpy                             # 默认(存在不替换,不存在安装最新版)
numpy==1.19.5                     # 指定版本 (最日常的写法)
numpy>=1.19.2                     # 大于某个版本

packages.txt示例

tmux                              #默认最常用的写法
tmux=3.3                          #安装指定版本的包

若需要安装除了python以外的包,如需要通过 mim 安装 mmcv,您可先在 requirement.txt 中填写 mim,然后在 app.py 中写入以下代码,即可完成相关包的安装:​

import os
os.system("mim install mmcv-full")

4.启动特定的脚本的方式

若需要启动特定的脚本,您可在app.py 代码中通过import os的方式进行启动,例如:

import os
os.system("bash webui.sh")
os.system("python -u launch.py")

5: 创建应用仓库

填写应用基础信息,包括应用的名称、应用所属任务类型、标签、关联的模型和关联的论文信息,以及上传合适的应用封面,填写完成后,点击立即创建

6:完成应用构建和启动

http://www.lryc.cn/news/287268.html

相关文章:

  • Vulnhub靶机:FunBox 5
  • 性能优化(CPU优化技术)-NEON指令介绍
  • 【极数系列】Flink环境搭建(02)
  • 仓储管理系统——软件工程报告(需求分析)②
  • 立创EDA学习:PCB布局
  • tomcat与Apache---一起学习吧之服务器
  • Vue3的优势
  • 鸿蒙开发案例002
  • Git学习笔记(第9章):国内代码托管中心Gitee
  • 使用k8s 配置 RollingUpdate 滚动更新实现应用的灰度发布
  • MATLAB知识点:mode :计算众数
  • 【JavaWeb】MVC架构模式
  • 【Unity学习笔记】创建人物控制器
  • HCIP:不同VLAN下实现网络互相通信
  • 07 队列
  • 产品面试题2
  • [NSSCTF]-Web:[SWPUCTF 2021 新生赛]easy_md5解析
  • 嵌入式解惑——串口通信中的流控制有什么作用?
  • Kubernetes-Taint (污点)和 Toleration(容忍)
  • python三数之和
  • uniapp 用css animation做的鲤鱼跃龙门小游戏
  • JeecgBoot 3.6.1实现Modal对话框,以为审核数据为例
  • Spring基于dynamic-datasource实现MySQL多数据源
  • JS高频面试题(下)
  • 单点登陆(SSO)基于CAS实现前后端分离的SSO系统开发「IDP发起」
  • 二叉树
  • 边缘计算:挑战与机遇的平衡艺术
  • Windows11 Copilot助手开启教程(免费GPT-4)
  • 【Golang入门教程】如何使用Goland创建并运行项目
  • 鸿蒙开发实战-手写文心一言AI对话APP