超越 Swin、ConvNeXt | Facebook提出Neighborhood Attention Transformer - 文章 - 开发者社区

picture.image

本文提出了Neighborhood Attention Transformer (NAT)，NAT 是一种集高效、准确和可扩展的分层Transformer，Neighborhood Attention 是一种简单而灵活的 Self Attention机制，它将每个query的感受野扩展到其最近的邻近像素，并随着感受野的增大而接近 Self-Attention。

在FLOPs和内存使用方面，与相同的感受野大小带有Shifted Window Attention的Swin-Transformer相同，但是NAT 受到的约束更少。

此外，NA还包含了局部归纳偏差，这消除了的额外操作，如像素移动。

NAT-Tiny在ImageNet上达到83.2%的Top-1精度，只有4.3 GFLOPs和28M参数，在MS-COCO上的mAP为51.4%，ADE20k上的mIoU为48.4%。

事出缘由

自2020年以来，学术界已经提出很多关于 Vision Transformer的架构和方法，也有很多关于高效 Transformer的工作被提出。但是，不管是标准的 ViT还是高效的 ViT，虽然其中的 Self Attention相对于嵌入维度具有线性复杂度(不包括线性投影)，但相对于 Token数量却具有二次复杂度。而 Token的数量通常又与图像分辨率呈线性相关。因此，更高的图像分辨率将会带来复杂度和内存的二次增长。

对于 ViT的应用来说，这是一个很严峻的问题，因为过高的复杂度和计算量会影响模型应用于下游的视觉任务，如目标检测和语义分割，因为这些任务中图像分辨率通常比分类大得多。

另一个问题是，卷积的性能大多受益于 归纳偏差，如 局部性、 平移等方差和 二维邻域结构，而 dot-product Self Attention是一个全局的操作。虽然 Vision Transformer中的 MLP层具有具有 局部性和 平移不变性，但其余的 归纳偏差必须通过大量数据或炼丹技术和增强来弥补。

因此，有研究便采用 Local attention modules来减轻这个问题。 Swin-Transformer是第一个基于 Local attention的分层 Vision Transformer。 Swin-Transformer的 层次结构设计和 Shifted-Window Self Attention使其可以比较容易地应用到下游任务，同时也通过注入的额外偏差提高了性能。 HaloNet探索了另一种 Local Attention Block，并发现将 Local Attention Block和 卷积结合起来可以获得最佳性能，因为该组合操作在 内存使用和 平移不变性之间进行了最佳权衡。

基于以上描述，作者在本文中提出 Neighborhood Attention(NA)，并在此基础上构建 Neighborhood Attention Transformer(NAT)，在跨视觉任务上实现了具有竞争性的结果。

NA是 dot-product Self Attention的一种局部化，将每个 query token的感受野限制在 key-value pair中对应 token周围的一个固定大小的邻域内。较小的感受野带来更多的局部信息，而较大的感受野带来更多的全局信息。这种设计使感受野能够很好的控制 平移不变性和 平移等方差的平衡。

NA是受到卷积的局部性的启发，以及它们如何产生更多有利于视觉任务的 局部性归纳偏差。它不同于将 Self Attention应用于 Local Windows(Swin)，可以将其视为与 Content-Dependant Kernel的卷积。

主要贡献

Neighborhood Attention(NA):一种简单、灵活的视觉注意力机制，它将每一个 Token的感受野定位到 Token的邻域。并将该模块的复杂性和内存使用量与 Self Attention、 Window Self Attention和卷积进行了比较。
构建了 Neighborhood Attention Transformer(NAT)，一种由 Neighborhood Attention组成的高效、准确、可扩展的新型分层 Transformer。每一层之后都进行下采样操作，将空间大小减少一半。类似的设计可以在许多最近的基于注意力的模型中看到，如Swin和Focal Transformer。与那些模型不同，NAT利用小内核重叠卷积来嵌入和下采样，而不是非重叠卷积。与Swin等现有技术相比，NAT还引入了一组更有效的体系结构配置。
展示了NAT在图像分类和下游视觉任务(包括目标检测和语义分割)中的有效性。作者观察到NAT的性能不仅优于Swin Transformer，还优于ConvNeXt。NAT-Tiny模型在ImageNet上仅用4.3 GFLOPs和28M参数就能达到83.2%的top-1精度，在MS-COCO上达到51.4%的Box mAP，在ADE20k上达到48.4%的多尺度mIoU，为这种简单、小规模的 Transformer模型创造了水平。

picture.image

本文方法

与 Self Attention相比， Neighborhood Attention不仅减少了计算成本，而且引入了类似于卷积的局部归纳偏差。该操作适用于邻域大小L，当每个像素最小时，它只关注自身周围的1个像素邻域(创建一个3×3方形窗口)。

作者还表明，当邻域大小达到最大值(即输入的大小)时， Neighborhood Attention等于 Self Attention。因此，如果邻域大小超过或匹配feature map的大小，在相同的输入下， Neighborhood Attention和 Self Attention的输出是相等的。

此外，NAT利用了一个多级分层设计，类似于 Swin-Transformer，这意味着特征映射在级别之间被向下采样，而不是一次性全部采样。然而，与 Swin-Transformer不同的是， NAT使用重叠卷积来向下采样特征映射，而不是不重叠的映射。这略微增加了计算量和参数，作者也通过提出计算成本较低的配置来弥补这一点。

3.1 Neighborhood Attention

Neighborhood Attention主要是受卷积如何引入邻域偏差和局部性的启发。 Neighborhood Attention的目的是允许特征图中的每个像素只关注其相邻的像素。由于邻域依赖于size，因此 Neighborhood Attention机制也是如此。

用表示处的一个像素的邻域，它是最接近的像素的一个固定长度的索引集。对于大小为，。因此，在单个像素上的 Neighborhood Attention可以定义如下：

picture.image

其中，其中Q、K、V是X的线性投影，为相对位置偏差，根据相对位置将其添加到每个注意力权重中。这个操作可以进一步扩展到所有像素，从而形成一种局部注意力的形式。

然而，如果函数将每个像素映射到所有像素，这将等同于 Self Attention(带有额外的位置偏差)。这是因为当邻域边界超过输入大小时，将包括所有可能的像素。结果，和，通过去除偏置项，推导出 Self Attention的表达形式：

picture.image

Neighborhood Attention在计算上是很廉价的。它的复杂性相对于分辨率是线性的，不像 Self Attention是二次的。此外，其复杂度也与邻域大小呈线性关系。函数将一个像素映射到一组相邻的像素，可以很容易地通过 Raster-Scan Sliding Window操作产生，原理类似于卷积。

picture.image 图2

每个像素被简单地映射到一组相邻的像素和自身。图2展示了该操作的示例。对特征图中的每个像素重复此操作。对于不能居中的角像素，扩展邻域以保持感受野的大小。这是一个关键的设计选择，它允许NA随着邻域大小向特征图分辨率增长而一般化到 Self Attention。

picture.image 图6

扩展邻域是通过简单持续选择L2中最接近原始邻域的像素来实现的。例如，对于L=3，每个query将以围绕它的9个key-value像素结束(query位于中心的3×3网格)。

对于角像素，邻域是另一个3×3网格，但query没有定位在中心 。图6展示了这个想法的说明。

picture.image

通过上表可以看出， Neighborhood Attention的复杂度和内存消耗和Swin相同。

3.2 Neighborhood Attention Transformer

NAT通过使用2个连续的3×3卷积(stride=2)来嵌入输入，进而产生输入空间大小1/4的输入。这类似于使用patch和4×4 patch的嵌入层，但它使用的是 重叠卷积而不是 非重叠卷积。

另一方面，使用 重叠卷积会增加成本，而2次卷积会引入更多的参数。然而，作者通过重新配置模型来处理这个问题，这将产生更好的权衡。

NAT由4个level组成，每个level后面都链接一个下采样器（最后一个除外）。下采样器将空间大小减少了为原来的一半，而通道数量增加了一倍。这里下采样使用的是3×3卷积(stride=2)。由于 tokenizer的降采样倍数为4倍，因此模型生成了大小为H/4×W/4、H/8×W/8、H/16×W/16和H/32×W/32的特征图.使得 NAT可以更容易地将预训练过的模型迁移到下游任务中。

picture.image 图4