【AI人工智能】题库:纯公益分享
【就业+考研】笔试+面试必会
【小白从小学Python,C,Java】
[太阳]知识点名称
注意力机制Attention的核心概念
[太阳]知识点讲解
注意力机制是深度学习中让模型“关注”输入中更重要部分的一种方法。它通过计算查询向量、键向量和值向量之间的相关性,得到每个输入位置的权重,再根据权重加权求和,输出更有重点的表示。此机制广泛应用于Transformer模型中。
例如,在机器翻译中,Attention会根据当前生成的词动态关注源句子中最相关的词,从而提升翻译质量。
[太阳]例题(单选题)
注意力机制的主要作用是什么?
A选项:让模型关注重要信息区域
B选项:减少训练数据数量
C选项:强制模型只使用固定窗口
D选项:使网络不再需要参数
[太阳]答案与题解
答案、题解:见评论区
[太阳]温馨期待
期待大家提出宝贵建议,互相交流,收获更大,助教:yy