RGB图像,排列方式NHWC适合CPU计算,NCHW适合GPU计算
之前写过笔记OpenCV读取图像时按照BGR的顺序HWC排列,PyTorch按照RGB的顺序CHW排列,HWC格式排列,那么内存位置计算公式是?
在比较NHWC(channels_last)和NCHW(channels_first)这两种图像数据通道格式的效率时,需要考虑具体的硬件环境和应用场景。
NCHW
plane的格式,即rrrrggggbbbb。
[
[[R R R R] [R R R R] [R R R R]],
[[G G G G] [G G G G] [G G G G]],
[[B B B B] [B B B B] [B B B B]], ]
在GPU环境中,NCHW格式通常更有效率。这是因为GPU倾向于利用并行性进行计算,而NCHW格式允许在计算卷积操作时并行处理不同通道的特征图。例如,在使用NVIDIA的cudnn库时,NCHW是原生支持的数据模式,并且在GPU中使用NCHW格式计算卷积通常比NHWC格式快。这是因为NCHW排列方式使得每个通道内的像素紧挨在一起,从而可以更有效地利用GPU的并行计算能力。
NHWC
[
[[B G R] [B G R] [B G R][B G R],
[[B G R] [B G R] [B G R][B G R],
[[B G R] [B G R] [B G R][B G R], ]
然而,在CPU环境中,NHWC格式可能更有效率。CPU指令集(如SSE或AVX)更适合沿着数据的最后一维(即C维,代表通道)进行计算。NHWC排列方式使得不同通道中的同一位置元素顺序存储,这更符合CPU的访存模式。此外,NHWC的访存局部性更好,因为每读取三个像素(对于RGB图像)就能获得一个完整的彩色像素值,从而可以立即对该像素进行计算。这更适合多核CPU运算,因为CPU的内存带宽相对较小,每个像素计算的时延较低。
因此,NHWC和NCHW哪种格式效率更高取决于具体的硬件环境和应用场景。在训练深度学习模型时,如果使用的是GPU加速,那么NCHW格式通常更合适。而在CPU中进行推理时,NHWC格式可能更有效率。此外,不同的深度学习框架对这两种格式的支持程度也可能不同。例如,TensorFlow默认使用NHWC格式,但也支持NCHW格式;而PyTorch则更倾向于使用NCHW格式。
在选择数据格式时,需要根据具体的硬件环境、应用场景以及深度学习框架的支持情况来综合考虑。