
【AI人工智能】题库:纯公益分享
【就业+考研】笔试+面试必会
【小白从小学Python,C,Java】
[太阳]知识点名称
LoRA低秩微调方法
[太阳]知识点讲解
LoRA是一种参数高效微调方法,其核心思想是在冻结原有大模型参数的前提下,引入可训练的低秩矩阵,对原权重更新进行近似表示。这样可以通过可合并权重大幅减少需要训练和存储的参数数量,且几乎不增加推理成本。例如,在大语言模型微调中,原本需要对完整权重矩阵进行更新,而使用LoRA后,只需训练两个低秩矩阵即可完成任务适配,从而显著降低显存占用和训练时间。
[太阳]例题(单选题)
LoRA方法的核心优势是什么?
A选项:显著减少需要训练的参数数量
B选项:完全替代原模型结构
C选项:无需任何训练即可适配
D选项:只能用于图像模型
[太阳]答案与题解
答案、题解:见评论区
[太阳]温馨期待
期待大家提出宝贵建议,互相交流,收获更大,助教:yy