#OpenWebText

共 2 条 · 7 天 0 条 · 30 天 0 条

ConvergeFlow 1 GPT - 2 1 反事实 1 嵌入空间 1 模型 1 流模型 1 语言模型 1 预训练 1

信息流里打上「OpenWebText」标签的资讯、产品与论文，按刊登时间排，新的在上。

8月25日

论文精选10:51

ConvergeFlow：语言流与可证明收敛到标记嵌入

Na-Li66团队发布了ConvergeFlow，这是一种基于嵌入空间的流语言模型，它通过改进训练方法，在性能上与现有模型相当，值得一试。

#ConvergeFlow #语言模型 #嵌入空间 #流模型

arXiv cs.AI@Na Li 等 4 人原文

8月20日

单例反事实方法研究预训练中示例学习与遗忘

GPT - 2团队做了小规模单例反事实实验，测试示例学习后效果，和其他条件对比结果很有意思。

#GPT - 2 #OpenWebText #预训练 #反事实

arXiv cs.LG@Zachary Speck, Asa Shepard原文