LLM 微调是提升模型在特定任务上表现的关键技术。本文将对比 LoRA（Low-Rank Adaptation）和全参数微调两种主流方法。

1. LoRA 微调原理

LoRA 通过在预训练模型的权重矩阵上添加低秩适配器来微调模型，大幅减少可训练参数量。

2. 全参数微调

全参数微调更新模型的所有参数，通常能获得更好的效果，但计算成本更高。

3. 选择建议

• 资源有限时优先选择 LoRA
• 数据量充足时可考虑全参数微调
• 多任务场景下 LoRA 更具优势