计算机视觉中的注意力机制

期权匿名回答 · 2022-7-7 02:01:01

学长？

期权匿名回答 · 2022-7-7 02:01:37

我是AIA的本科生，今年刚毕业

期权匿名回答 · 2022-7-7 02:02:29

DETR

期权匿名回答 · 2022-7-7 02:03:00

大佬

期权匿名回答 · 2022-7-7 02:03:20

不敢当不敢当

期权匿名回答 · 2022-7-7 02:03:31

您也是咱们学院的同学嘛

期权匿名回答 · 2022-7-7 02:03:52

额算是吧，你本校读研？

期权匿名回答 · 2022-7-7 02:04:44

是的

期权匿名回答 · 2022-7-7 02:05:19

还在本院

期权匿名回答 · 2022-7-7 02:06:08

博主您好，为什么我看很多资料，说CBAM和Non-Local都是属于self-attention的呢？它俩又各有什么不同和优缺点呢？

期权匿名回答 · 2022-7-7 02:06:29

您好，我总结那个self-attention是基于NLP中的自注意力机制，然后刚好EDETR这篇文章使用的了transformer，CBAM应该是比较全面的，融合了多种注意力（通道注意力和空间注意力），但是non-local的是考虑到了特征图每个位置的，考虑到了其他像素点对这个像素的影响

期权匿名回答 · 2022-7-7 02:07:27

博主，我是武汉大学多媒体中心公众号的运营人员，看到您的这篇文章特别好，想转载到我们的公众号，您看可以吗

期权匿名回答 · 2022-7-7 02:08:06

可以的

期权匿名回答 · 2022-7-7 02:08:19

Transformer那里 score=q*v，但是下面图片是score=q*k

期权匿名回答 · 2022-7-7 02:08:29

图片和内容有点不匹配抱歉，谢谢指正

期权匿名回答 · 2022-7-7 02:09:00

请问sqrt（dk）中的dk是啥？嘿嘿，没看到中文解释，能不能麻烦解释一下

期权匿名回答 · 2022-7-7 02:09:30

key向量的维度，打的有问题，已经更新了dim key