#分词

想扎实掌握LLM原理？这50个实战项目从基础分词到高级注意力分析，用PyTorch一步步搭出来，比看论文快多了。

Ate-a-Pi@svpino原文

分词是NLP的基础环节，贪心算法长期占据主流——ConvexTok用凸优化给出了可证明接近最优的方案，做分词器优化或语言模型预训练的团队值得关注。