大模型的分词算法
大模型如何读懂自然语言,需要我们将文本转成机器能读懂的数字,这篇文章介绍了一些从文本到数字的算法。
大模型如何读懂自然语言,需要我们将文本转成机器能读懂的数字,这篇文章介绍了一些从文本到数字的算法。
从小我们就被教育要养成好习惯,好习惯会使我们受益一生。然而,并没有人告诉我们如何才能养成好习惯,本文从个人经验的角度去讨论了如何去养成习惯的方法。
对于大模型微调起来不仅需要很多计算资源(GPU),还需要大量的训练时间,PEFT通过高效微调模型,使得我们可以使用单卡去训练比较大的LLM。
由PyCharm转到VS Code,记录一些使用方法以及在使用过程中遇到的问题,持续更新。
科普,无技术技术分享,像讲故事一样根据时间线来介绍GPT1到GPT4。