什么是注意力机制?
什么是加性注意力?
大抵说一卑鄙程:
对于一张特性图来说,对于这张图中的每一个像素向量(比方a),盘算该向量与全部像素向量的相似度,对这些相似度举行激活函数处理处罚得到注意力得分。对注意力得分举行归一化得到a向量对全部像素向量的注意力权重,然后a向量对每一个像素向量的注意力权重与对应的值向量(有大概是对应的像素向量)相乘并求和,得到终极的更新特性。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!qidao123.com:ToB企服之家,中国第一个企服评测及软件市场,开放入驻,技术点评得现金 |