【AI人工智能】题库:纯公益分享

【就业+考研】笔试+面试必会

【小白从小学Python,C,Java】

[太阳]知识点名称

AI中梯度爆炸问题

[太阳]知识点讲解

梯度爆炸（Gradient Explosion）是深度神经网络训练过程中常见的数值不稳定现象。具体表现为：反向传播时，由于链式法则中梯度连续相乘，若每层梯度的绝对值大于1，则经过多层传播后梯度将呈指数级迅速放大，导致参数更新步长过大，权重剧烈震荡，甚至溢出为 NaN（Not a Number，即“非数值”），此时损失函数值（loss）会显示为 nan，训练过程彻底崩溃。根本原因是梯度连乘效应导致的指数发散。最常用且有效的解决方案为梯度裁剪：对梯度的整体范数设置上限，超出时按比例缩放。PyTorch 中仅需一行代码即可实现：torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm=1.0)。该语句将模型所有参数梯度的 L2 范数限制在 1.0 以内，确保每次更新步长保持在可控范围，从根本上杜绝梯度爆炸风险。

[太阳]例题（单选题）

梯度爆炸会导致什么问题？

A选项：权重更新过小

B选项：模型收敛加快

C选项：权重更新不稳定

D选项：计算速度提升

[太阳]答案与题解 

答案、题解：见评论区 

[太阳]温馨期待 

期待大家提出宝贵建议，互相交流，收获更大，助教：fyt 

#AI创造营#​ [握手] #科技风向标#​