微调LoRA时,如何防止有毒数据污染基础模型?
引言:LoRA微调中的数据安全挑战 参数高效微调(PEFT),尤其是低秩适配(LoRA),已成为部署大型语言模型(LLM)的主流技术。LoRA通过训练少量新增的适配器(Adapter)权重,在保持基础模型(Base Model)权重不变的前...
引言:LoRA微调中的数据安全挑战 参数高效微调(PEFT),尤其是低秩适配(LoRA),已成为部署大型语言模型(LLM)的主流技术。LoRA通过训练少量新增的适配器(Adapter)权重,在保持基础模型(Base Model)权重不变的前...