大模型的分词算法

大模型如何读懂自然语言,需要我们将文本转成机器能读懂的数字,这篇文章介绍了一些从文本到数字的算法。

December 6, 2023

如何培养习惯

从小我们就被教育要养成好习惯,好习惯会使我们受益一生。然而,并没有人告诉我们如何才能养成好习惯,本文从个人经验的角度去讨论了如何去养成习惯的方法。

October 24, 2023

PEFT

对于大模型微调起来不仅需要很多计算资源(GPU),还需要大量的训练时间,PEFT通过高效微调模型,使得我们可以使用单卡去训练比较大的LLM。

August 25, 2023

VS Code使用记录

由PyCharm转到VS Code,记录一些使用方法以及在使用过程中遇到的问题,持续更新。

August 21, 2023

GPT系列语言模型

科普,无技术技术分享,像讲故事一样根据时间线来介绍GPT1到GPT4。

August 16, 2023