PapersBuilders10:54Chinese contentarXiv 论文拆解 tokenization 评测三大误区做 tokenizer 研究或选词表大小的都该看看:BPB 和那些"tokenizer 无关"指标没你想的那么可靠,文中给出了 0.989 相关性崩到 0.057 的具体分析。#tokenizer#BPB#词表#RAGaarXiv cs.LG@Rylan Schaeffer, Sanmi KoyejoSourceRead laterReadWorth followingUsefulFollow tokenizer