车辆重识别（注意力 U-Net：学习在哪些区域寻找胰腺）论文阅读2024/10/01

什么是注意力机制？




什么是加性注意力？

大致说一下流程：
对于一张特征图来说，对于这张图中的每一个像素向量（例如a），计算该向量与所有像素向量的相似度，对这些相似度进行激活函数处理得到注意力得分。对注意力得分进行归一化得到a向量对所有像素向量的注意力权重，然后a向量对每一个像素向量的注意力权重与对应的值向量（有可能是对应的像素向量）相乘并求和，得到最终的更新特征。