#pretraining

共 2 条 · 7 天 1 条 · 30 天 1 条

AI安全 1 evaluation metrics 1 language model 1 tokenizer 1 TokEval 1 tszzl 1 对齐 1

信息流里打上「pretraining」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月4日

行业政策与合规03:16

tszzl：靠预训练数据运气做对齐形同巫术

安全研究者 tszzl 发了条狠话：把对齐押在预训练数据碰巧包含好理念上，更像巫术不像工程，观点很尖锐。

#tszzl #AI安全 #对齐 #pretraining

roon@tszzl原文

8月19日

TokEval: 分词器评估套件

TokEval帮你更科学地评估分词器，实验显示不同特性影响不同能力，比盲目预训练更高效

#TokEval #tokenizer #language model #evaluation metrics

arXiv cs.LG@Clara Meister原文