当前位置: 首页 > news >正文

计算神经网络参数量Params、计算量FLOPs(亲测有效的3种方法)

1.stat(cpu统计)

pip install torchstat

from torchstat import statstat(model, (3, 32, 32)) #统计模型的参数量和FLOPs,(3,32,32)是输入图像的size

结果:

 问题:当网络中有自定义参数时,就很有可能漏掉那部分参数对应的统计量;stat好像不支持双输入。

2.summary网络结构对应参数(cuda上面统计)

pip install torchsummary

from torchsummary import summarysummary(model,input_size=(3,32,32))

问题:当网络中有自定义参数时,就很有可能漏掉那部分参数。
结果:

3.统计flops和参数量

pip install thop

from thop import profiledummy_input = torch.randn(1, 3, 32, 32)#.to(device)flops, params = profile(model, (dummy_input,))print('FLOPs: ', flops, 'params: ', params)print('FLOPs: %.2f M, params: %.2f M' % (flops / 1000000.0, params / 1000000.0))

问题:当网络中有自定义参数时,flops和params就很有可能漏掉那部分参数。


参考链接:

6种方法计算神经网络参数量Params、计算量FLOPs、Macs简单代码_python transformer计算量flops代码_工科女博的博客-CSDN博客

网络模型的参数量和FLOPs的计算 Pytorch_网络flop_清纯世纪的博客-CSDN博客

https://zhuanlan.zhihu.com/p/541165764

http://www.lryc.cn/news/32962.html

相关文章:

  • sizeof与一维数组和二维数组
  • Spark UI
  • windows应用(vc++2022)MFC基础到实战(2)
  • 记一次反射型XSS
  • BUUCTF-[羊城杯 2020]Bytecode
  • 《Uniapp入门指南:从安装到打包的全流程》
  • 机器学习算法集成系统
  • scratch绘制雷达 电子学会图形化编程scratch等级考试三级真题和答案解析2022年9月
  • VRRP主备备份
  • 【软件逆向】软件破解?病毒木马?游戏外挂?
  • curl请求常用参数和返回码
  • 【STM32】进阶(一):抢占式优先级和响应式优先级(NVIC_PriorityGroupConfig)
  • LogCompilation后JIT输出文件格式解析
  • Linux学习第二十四节-Podman容器
  • 基于quartz实现定时任务管理系统
  • vue-element-admin:基于element-ui 的一套后台管理系统集成方案
  • KVM-7、KVM 虚拟机创建的几种方式
  • Hadoop三大框架之HDFS
  • 好好的系统,为什么要分库分表?
  • 多种调度模式下的光储电站经济性最优储能容量配置分析(Matlab代码实现)
  • 二分法(适用于任何题型!!!)
  • js常见的七种继承及实现
  • 案例分析之——理由Mybatis动态SQL实现复用
  • MCM 箱模型建模方法及大气 O3 来源解析实用干货
  • 【独家】华为OD机试 - 最长连续交替方波信号(C 语言解题)
  • 代码随想录算法训练营第二十一天打卡 | 530.二叉搜索树的最小绝对差、501.二叉搜索树中的众数、236. 二叉树的最近公共祖先
  • 免费下载丨一看即会,Serverless 技术进阶必读百宝书
  • SQL语句的加锁方式 - Mysql 锁机制
  • C#开发的OpenRA的游戏主界面怎么样创建4
  • 覆盖5大主流开发平台的报表控件,它值得你一看