01_cover.md - ppt-master

01_cover.md

1	今天我们一起读一篇对大模型微调影响深远的论文,LoRA,低秩适配。它来自微软,二零二一年发表。一句话概括它的贡献:冻结预训练权重,只往每一层注入一对很小的低秩矩阵,就能用万分之一的可训练参数,达到甚至超过全量微调的效果,而且推理时不增加任何延迟。接下来我会从问题、方法、实验到背后的原理,带大家完整走一遍。

1 lines MARKDOWN