标签：lora

2026-07-12andy阅读(3)

引言：为什么需要 LoRA？ 大语言模型（LLM）的参数量动辄数十亿甚至数千亿，传统全参数微调（Full Fine-Tuning）需要为每个下游任务保存一份完整的模型副本。以 LLaMA-65B 为例，全参数微调仅单份 checkpoint...

2026-01-07andy阅读(313)评论(0)

引言：LoRA微调中的数据安全挑战 参数高效微调（PEFT），尤其是低秩适配（LoRA），已成为部署大型语言模型（LLM）的主流技术。LoRA通过训练少量新增的适配器（Adapter）权重，在保持基础模型（Base Model）权重不变的前...