PEFT

对于大模型微调起来不仅需要很多计算资源(GPU),还需要大量的训练时间,PEFT通过高效微调模型,使得我们可以使用单卡去训练比较大的LLM。

August 25, 2023