【AI人工智能题库】注意力机制Attention的核心概念
计算机-刘经纬教授
2025年12月08日 14:54
收录于文集
共306篇
人工智能通识课

【AI人工智能】题库:纯公益分享 

【就业+考研】笔试+面试必会 

【小白从小学Python,C,Java】 

[太阳]知识点名称 

注意力机制Attention的核心概念 

[太阳]知识点讲解 

注意力机制是深度学习中让模型“关注”输入中更重要部分的一种方法。它通过计算查询向量、键向量和值向量之间的相关性,得到每个输入位置的权重,再根据权重加权求和,输出更有重点的表示。此机制广泛应用于Transformer模型中。 

例如,在机器翻译中,Attention会根据当前生成的词动态关注源句子中最相关的词,从而提升翻译质量。 

 

[太阳]例题(单选题) 

注意力机制的主要作用是什么?  

A选项:让模型关注重要信息区域 

B选项:减少训练数据数量 

C选项:强制模型只使用固定窗口 

D选项:使网络不再需要参数 

[太阳]答案与题解  

答案、题解:见评论区  

[太阳]温馨期待  

期待大家提出宝贵建议,互相交流,收获更大,助教:yy  

#AI创造营#​ [握手] #科技风向标#​