当前位置: 首页 > news >正文

CogVideoX环境搭建推理测试

引子

智谱AI版Sora开源,首个可商用,18G显存即可运行。前文写了Open-Sora1.2的博文,感兴趣的童鞋请移步(Open-Sora1.2环境搭建&推理测试_open sora 1.2-CSDN博客)。对于这种占用资源少,且效果不错的多模态模型那么肯定不容错过。OK,我们开始吧。

一、模型介绍

CogVideoX是 清影 同源的开源版本视频生成模型。

下表展示目前我们提供的视频生成模型列表,以及相关基础信息:

模型名

CogVideoX-2B

提示词语言

English

单GPU推理 (FP-16) 显存消耗

18GB using SAT

23.9GB using diffusers

多GPU推理 (FP-16) 显存消耗

20GB minimum per GPU using diffusers

微调显存消耗 (bs=1)

42GB

提示词长度上限

226 Tokens

视频长度

6 seconds

帧率(每秒)

8 frames

视频分辨率

720 * 480

量化推理

不支持

下载地址 (Diffusers 模型)

Huggingface

ModelScope

下载地址 (SAT 模型)

SAT

二、环境搭建

模型下载

魔搭社区

代码下载

git clone https://github.com/THUDM/CogVideo.git

环境安装

docker run -it -v /datas/work/zzq/:/workspace --gpus=all pytorch/pytorch:2.4.0-cuda12.4-cudnn9-devel bash

cd /workspace/CogVideo/CogVideo-main

pip install -r requirements.txt -i Simple Index

pip install imageio -i Simple Index

pip install omegaconf -i Simple Index

三、推理测试

python inference/cli_demo.py --model_path /workspace/CogVideo/CogVideo-main/CogVideoX-2b/ --prompt "A man is running in the sea"

好吧,显存爆了,需要24G显存 ,我这边可用显存只有22G+

http://www.lryc.cn/news/421254.html

相关文章:

  • STL—容器—list【list的介绍和基本使用】【list的迭代器失效问题】
  • 【面试宝典】MySQL 面试问题
  • 【Cpp筑基】三、对象和类
  • 数据库原理面试-核心概念-问题理解
  • 【JavaScript】JavaScript里的“先斩后奏”之王 shift()方法
  • Python面试宝典第32题:课程表
  • 简单介绍BTC的Layer2项目RGB
  • 跨境电商卖家必看:搭建安全稳定测评自养号环境系统
  • 如何对open62541.h/open62541.c的UA_Client进行状态(在线/掉线)监控
  • 高等数学 第九讲 一元函数积分学的应用
  • django如何更新数据库字段并与数据库保持同步?
  • jenkins插件 SSH Publishers
  • Kafka Client客户端操作详解
  • 【HarmonyOS NEXT星河版开发学习】小型测试案例15-博客列表
  • go-zero中统一返回前端数据格式的几种方式
  • 【向量数据库】Ubuntu编译安装FAISS
  • 制造知识普及(九)--企业内部物料编码(IPN)与制造商物料编码(MPN)
  • 【整数规划】+【0—1规划】解决优化类问题(Matlab代码)
  • Linux下如何使用Curl进行网络请求
  • PostgreSQL 触发器
  • LeetCode——3131.找出与数组相加的整数I
  • 【SpringMVC】详细了解SpringMVC中WEB-INF 目录资源,视图解析器和静态资源放行的使用。
  • 如何学好uni-app
  • C++ QT使用stackwidget实现页面切换(含源码)
  • 打工人上班适合用的蓝牙耳机推荐?几款开放式耳机推荐
  • 一款.NET开发的AI无损放大工具
  • 编程新手必看:彻底理解!与~的取反操作
  • 【LeetCode】54. 螺旋矩阵
  • 计算机毕业设计 奖学金评定管理系统 Java+SpringBoot+Vue 前后端分离 文档报告 代码讲解 安装调试
  • 【JavaWeb项目】——外卖订餐系统之商家添加餐品、修改餐品、查询热卖餐品、查询出售车、进行发货操作