batchnorm类
1. 伪代码:
2. python代码:
3. 测试:
4. 加深理解:
以 为例,x=3,可见输出的batchnorm后y=0.2627.查看模型记录的均值及方差,计算y=0.286799,理解是大致这样的计算过程。(为什么数值不完全一致,我也不清楚,等我清楚了再回来写。)
以 为例,x=3,可见输出的batchnorm后y=0.2627.查看模型记录的均值及方差,计算y=0.286799,理解是大致这样的计算过程。(为什么数值不完全一致,我也不清楚,等我清楚了再回来写。)