当前位置: 首页 > news >正文

五一超级课堂---Llama3-Tutorial(Llama 3 超级课堂)---第一节 Llama 3 本地 Web Demo 部署

在这里插入图片描述课程文档:
https://github.com/SmartFlowAI/Llama3-Tutorial
课程视频:
https://space.bilibili.com/3546636263360696/channel/collectiondetail?sid=2892740&spm_id_from=333.788.0.0
操作平台:
https://studio.intern-ai.org.cn/console/
在这里插入图片描述

#删除云盘除share外的所有文件夹,删除环境,重新准备环境
bash
conda remove --name llama3 --all
conda create -n llama3 python=3.10
conda activate llama3
conda install pytorch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 pytorch-cuda=12.1 -c pytorch -c nvidia
pip install streamlit==1.32.2#安装依赖项,下载模型
conda install git-lfs
git-lfs install
mkdir -p ~/model
cd ~/model
git clone https://code.openxlab.org.cn/MrCat/Llama-3-8B-Instruct.git Meta-Llama-3-8B-Instruct
#或者软链接
#ln -s /root/share/new_models/meta-llama/Meta-Llama-3-8B-Instruct ~/model/Meta-Llama-3-8B-Instruct#web demo部署
cd ~
git clone https://github.com/SmartFlowAI/Llama3-XTuner-CN
cd ~
git clone -b v0.1.18 https://github.com/InternLM/XTuner
cd XTuner
pip install -e . # 多模态要求完整安装pip install -e .[all]
streamlit run ~/Llama3-XTuner-CN/tools/internstudio_web_demo.py \~/model/Meta-Llama-3-8B-Instruct

在这里插入图片描述在这里插入图片描述在这里插入图片描述
在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述
在这里插入图片描述在这里插入图片描述
(注意是点port端口下的右边网页图标)(ctrol+z是终止运行)
在这里插入图片描述在这里插入图片描述在这里插入图片描述
在这里插入图片描述
(请大家注意红框中的亮点,哈哈哈。。。。)

http://www.lryc.cn/news/345016.html

相关文章:

  • Redis20种使用场景
  • vue3获取原始值
  • “感恩遇到你,郭护士!”佛山市一医院 护士回家途中救了位老奶奶
  • Java面试常见问题
  • 概率论 科普
  • 全面解读快递查询API接口,帮你轻松查询快递物流信息
  • 【图书推荐】《JSP+Servlet+Tomcat应用开发从零开始学(第3版)》
  • C++容器——set
  • .NET WebService \ WCF \ WebAPI 部署总结 以及 window 服务 调试
  • Centos系统实用运维命令记录(持续更新)
  • 大势模方在修模过程中,如何导入su单体模型?
  • uniapp百度地图聚合
  • nginx的应用部署nginx
  • Centos固定静态ip地址
  • 豆芽机置入语音芯片WTN6040-8S:开启智能生活新篇章,让豆芽制作更便捷有趣
  • BLIP2预研笔记
  • 安卓开发问题:安卓Ble出现动态鉴权失败以及扫描设备一直进入不了的问题
  • DSP ARM FPGA 实验箱_音频处理_滤波操作教程:3-9 音频信号的滤波实验
  • Rust多线程交叉打印+Send Sync特征讲解
  • C#爬虫爬取某东商品信息
  • 【Stylus详解与引入】
  • 001 登录(md5加密)
  • Linux学习笔记5---WSL2编译裸机程序并烧录至SD卡
  • React 第二十九章 React 和 Vue 描述页面的区别
  • Dnspy附加进程调试---代码被优化及无法获取局部变量
  • Redis---------实现更改数据业务,包括缓存更新,缓存穿透雪崩击穿的处理
  • 蓝牙小车的具体实现
  • 污染修复乙级设计资质中关于设计成果保护的规定
  • ##10 卷积神经网络(CNN):深度学习的视觉之眼
  • Linux下添加自己的服务脚本(service)