IT评测·应用市场-qidao123.com

标题: CVPR 2024 即插即用！ CA：新注意力机制(1)，了解Linux运维架构组件后构建A [打印本页]

作者: 祗疼妳一个 时间: 2024-8-7 09:26
标题: CVPR 2024 即插即用！ CA：新注意力机制(1)，了解Linux运维架构组件后构建A
来自一个固定核大小的卷积层，因此可以看作是局部描述符的聚集。Sqeeze操作使模型网络全局信息成为大概。
Excitation

Excitation的目的是完全捕获通道之间的依赖，它可以被表述为：

其中
为通道乘法，
为
激活函数，
为变更函数生成的结果，公式如下:

这里，
和
是2个线性变更，可以通过学习来捕捉每个通道的重要性。
为什么SE Block不好？

SE Block虽然近2年来被广泛利用；然而，它只考虑通过建模通道关系来重新权衡每个通道的重要性，而忽略了位置信息，但是位置信息对于生成空间选择性attention maps是很重要的。因此作者引入了一种新的注意块，它不但仅考虑了通道间的关系还考虑了特性空间的位置信息。
3.2 Coordinate Attention Block

Coordinate Attention通过准确的位置信息对通道关系和长期依赖性举行编码，具体操作分为Coordinate信息嵌入和Coordinate Attention生成2个步骤。

3.2.1 Coordinate信息嵌入

全局池化方法通常用于通道注意编码空间信息的全局编码，但由于它将全局空间信息压缩到通道描述符中，导致难以生存位置信息。为了促使注意力模块可以或许捕捉具有准确位置信息的远程空间交互，本文按照以下公式分解了全局池化，转化为一对一维特性编码操作：

具体来说，给定输入
，首先利用尺寸为(H,1)或(1,W)的pooling kernel分别沿着程度坐标和垂直坐标对每个通道举行编码。因此，高度为
的第
通道的输出可以表示为:

同样，宽度为
的第
通道的输出可以写成:

上述2种变更分别沿两个空间方向聚合特性，得到一对方向感知的特性图。这与在通道注意力方法中产生单一的特性向量的SE Block非常差异。这2种转换也允许注意力模块捕捉到沿着一个空间方向的长期依赖关系，并生存沿着另一个空间方向的准确位置信息，这有助于网络更准确地定位感爱好的目的。
3.2.2 Coordinate Attention生成

通过3.2.1所述，本文方法可以通过上述的变更可以很好的获得全局感受野并编码准确的位置信息。为了利用由此产生的表征，作者提出了第2个转换，称为Coordinate Attention生成。这里作者的设计重要参考了以下3个标准：

首先，对于Mobile情况中的应用来说，新的转换应该尽大概地简单；
其次，它可以充分利用捕获到的位置信息，使感爱好的地区可以或许被准确地捕获；
末了，它还应该可以或许有效地捕捉通道间的关系。

通过信息嵌入中的变更后，该部分将上面的变更举行concatenate操作，然后利用
卷积变更函数
对其举行变更操作：

式中
为沿空间维数的concatenate操作，
为非线性激活函数，
为对空间信息在程度方向和垂直方向举行编码的中间特性映射。这里，
是用来控制SE block大小的缩减率。然后沿着空间维数将
分解为2个单独的张量
和
。利用另外2个
卷积变更
和
分别将
和
变更为具有相同通道数的张量到输入
，得到:
自我介绍一下，小编13年上海交大结业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。
深知大多数Linux运维工程师，想要提拔技能，每每是本身摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。本身不成体系的自学结果低效又漫长，而且极易碰到天花板技能停滞不前！
因此网络整理了一份《2024年Linux运维全套学习资料》，初衷也很简单，就是希望可以或许帮助到想自学提拔又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小搭档深入学习提拔的进阶课程，基本涵盖了95%以上Linux运维知识点，真正体系化！
由于文件比力大，这里只是将部分目次大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新
如果你觉得这些内容对你有帮助，可以添加VX：vip1024b （备注Linux运维获取）

最全的Linux教程，Linux从入门到夺目
======================

linux从入门到夺目(第2版)
Linux系统移植
Linux驱动开发入门与实战
LINUX 系统移植第2版
Linux开源网络全栈详解从DPDK到OpenFlow

第一份《Linux从入门到夺目》466页
====================
内容简介
====
本书是获得了很多读者好评的Linux经典脱销书**《Linux从入门到夺目》的第2版**。本书第1版出书后曾经多次印刷，并被51CTO读书频道评为“最受读者喜爱的原创IT技能图书奖”。本书第﹖版以最新的Ubuntu 12.04为版本，循规蹈矩地向读者介绍了Linux 的基础应用、系统管理、网络应用、娱乐和办公、步伐开发、服务器设置、系统安全等。本书附带1张光盘，内容为本书配套多媒体教学视频。另外,本书还为读者提供了大量的Linux学习资料和Ubuntu安装镜像文件，供读者免费下载。

应用、系统管理、网络应用、娱乐和办公、步伐开发、服务器设置、系统安全等。本书附带1张光盘，内容为本书配套多媒体教学视频。另外,本书还为读者提供了大量的Linux学习资料和Ubuntu安装镜像文件，供读者免费下载。

本书适合广大Linux初中级用户、开源软件爱好者和大专院校的学生阅读，同时也非常适合准备从事Linux平台开发的各类人员。
需要《Linux入门到夺目》、《linux系统移植》、《Linux驱动开发入门实战》、《Linux开源网络全栈》电子册本及教程的工程师朋友们劳烦您转发+批评
一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感爱好的新人，都欢迎扫码加入我们的的圈子（技能交流、学习资源、职场吐槽、大厂内推、口试辅导），让我们一起学习成长！
[外链图片转存中…(img-ejvQ4SSY-1712652076916)]

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。

欢迎光临 IT评测·应用市场-qidao123.com (https://dis.qidao123.com/)