## Smol 训练手册：摘要 Hugging Face 发布了一份新资源“Smol 训练手册”，在 Hacker News 上引发讨论，被认为是一份有价值且实用的构建大型语言模型 (LLM) 指南。作者之一 Lewis Tunstall 正在解答关于该手册的问题。 用户称赞该手册的质量和实用性，并指出它侧重于基础概念，这些概念可能随着该领域的演变而保持相关性。它与其他学习资源进行了比较，包括“The Cranky Man’s Guide to LoRA and QLoRA”以及 PyTorch、PEFT 和 TIMM 的文档。 “Smol”这个名字源自特定数据集中的一个网络迷因。 关于实验过程中每次只修改一个变量的建议，存在一些争论。一些人认为，考虑到 GPU 时间的成本，这种方法已经过时且效率低下，提倡使用贝叶斯优化或析因实验等方法。另一些人则认为这对个人贡献者来说仍然是合理的建议。尽管如此，该资源被广泛认为是 AI 学习社区的重要贡献。