使用mindie:2.0.RC2-800I-A2-py311-openeuler24.03-lts制作一个通用的模型推理性能测试的镜像
一、环境信息
设备:910B3或910B4
mindie:2.0.RC2-800I-A2-py311-openeuler24.03-lts
python:3.10.9(新装,用于测试脚本)
python:3.11.6(本机,用于mindie)
模型推理性能测试脚本:benchmark_model_infer_mindie_npu.py(放到/opt)
NPU卡信息收集脚本:npu_data_collect.py(放到/opt)
内存信息收集脚本:monitor_mem.sh(放到/opt)
打包后的镜像:benchmark_model_infer_mindie_npu-20250705.tar
sha256sum:362632da019711e09881f5d348db0672f7cb0272196841f83e6e68a0f49b4a39 benchmark_model_infer_mindie_npu-20250705.tar
二、制作镜像
2.1、创建进入容器
docker run -itd --privileged --name=benchmark_model_infer_mindie_npu --net=host \--shm-size 500g \--device=/dev/davinci0 \--device=/dev/davinci1 \--device=/dev/davinci2 \--device=/dev/davinci3 \--device=/dev/davinci4 \--device=/dev/davinci