当前位置: 首页 > news >正文

NCNN Conv量化详解1

1. NCNN的Conv量化计算流程

正常的fp32计算中,一个Conv的计算流程如下:
在这里插入图片描述
在NCNN Conv进行Int8计算时,计算流程如下:
在这里插入图片描述
NCNN首先将输入(bottom_blob)和权重(weight_blob)量化成INT8,在INT8下计算卷积,然后反量化到fp32,再和未量化的bias相加,得到输出(top_blob)

输入和权重的量化公式:
在这里插入图片描述
由于weight_blob(int8)bottom_blob(int8)是相乘的:
在这里插入图片描述
反量化的目的是将int8映射回原来的fp32,范围要保持一致;所以为了实现一个反映射,量化反量化的scale应该为:

http://www.lryc.cn/news/20248.html

相关文章:

  • Redis大key多key拆分方案
  • python的类如何使用?兔c同学一篇关于python类的博文概述
  • Day60 动态规划总结
  • UVM仿真环境搭建
  • Azure AI基础到实战(C#2022)-认知服务(1)
  • 光栅化Triangles(笔记)
  • 【Oarcle】如何显示日本年号的日期格式 ?
  • 57_Pandas中的json_normalize将字典列表转换为DataFrame
  • OpenAPI SDK组件之javassist字节码
  • 【LeetCode】1247. 交换字符使得字符串相同(超级简单的算法,击败100%)
  • 23. 合并K个升序链表
  • 软中断与tasklet简介
  • JUC 之 线程阻塞工具 LockSupport
  • 常用数据结构总结-Java版
  • 【基础算法】二分例题(我在哪?)
  • 怕上当?来看这份网络钓鱼和诈骗技术趋势
  • 2023年全国最新保安员精选真题及答案6
  • unity热更新新方案,ILRuntime
  • 【J1】【队列】报数游戏
  • 《程序员的自我修养》阅读笔记
  • 【跟着ChatGPT学深度学习】ChatGPT带我入门深度学习
  • 软工2023个人作业一——阅读和提问
  • 【Redis】线程模型:Redis是单线程还是多线程?
  • FSM(有限状态机)
  • 奇妙的background-clip:text
  • Vmware虚拟机无法联通主机解决方法二
  • Boost资料整理备忘
  • 规则引擎与风控系统01:新问题,新挑战
  • Oracle-00-卸载篇
  • Java线程池使用与原理解析1(线程池优点、使用方法、参数含义及线程池运转机制)