1、适配器调整(Adapter Tuning)

与LoRA技术类似，适配器调整的目标是在保留预训练模型原始参数不变的前提下，使模型能够适应新的任务。

适配器调整的方法是在模型的每个层或选定层之间插入小型神经网络模块，称为“适配器”。这些适配器是可训练的，而原始模型的参数则保持不变。

适配器调整的关键步骤包括:

1）以预训练模型为基础: 初始阶段，我们拥有一个已经经过预训练的大型模型，如BERT或GPT，该模型已经学习了丰富的语言特征和模式。

2)插入适配器: 在预训练模型的每个层或指定层中我们插入适配器。适配器是小型的神经网络，一般包含少量层次，并且参数规模相对较小。

3)维持预训练参数不变: 在微调过程中，原有的预训练模型参数保持不变。我们不直接调整这些参数，而是专注于适配器的参数训练。

4)训练适配器: 适配器的参数会根据特定任务的数据进行训练使适配器能够学习如何根据任务调整模型的行为。

5)针对任务的调整: 通过这种方式，模型能够对每个特定任务进行微调，同时不影响模型其他部分的通用性能。

适配器有助于模型更好地理解和处理与特定任务相关的特殊模式和数据。

6) 高效与灵活: 由于只有部分参数被调整，适配器调整方法相比于全模型微调更为高效，并且允许模型迅速适应新任务。

例如，如果我们有一个大型文本生成模型，它通常用于执行广泛的文本生成任务。

若要将其微调以生成专业的金融报告，我们可以在模型的关键层中加入适配器。

在微调过程中，仅有适配器的参数会根据金融领域的数据进行更新，使得模型更好地适应金融报告的写作风格和术语，同时避免对整个模型架构进行大幅度调整。

LORA与适配器调整的主要区别在于

1)LORA: 在模型的权重矩阵中引入低秩矩阵来实现微调。这些低秩矩阵作为原有权重矩阵的修改项，在实际计算时对原有权重矩阵进行调整。

2)适配器调整: 通过在模型各层中添加小型神经网络模块，即“适配器”，来实现微调。

适配器独立于模型的主体结构，仅适配器的参数在微调过程中更新，而模型的其他预训练参数保持不变。

更多内容解析可关注 GZH“人工智能技术与咨询 ”《人工智能大模型应用工程师》课程获取！