Primary sourcearXiv cs.LG
View sourceEvent ·Single source
ArchSpace:记录、评审和引用 LLM 架构研究的公开平台
arXiv 上发布的 ArchSpace 是一个面向 LLM 模型架构研究的公开平台,核心机制是记录(Recording)、评审(Reviewing)和引用(Referencing):每个架构提案连同实验和推理过程一起被记录,由社区评审,并被后续工作引用。 针对学术研究受限于算力和基线不一致、只能做小规模单点比较的问题,ArchSpace 利用 scaling laws 从小规模实验预测更大规模下的模型 loss,这与 DeepSeek、Qwen、Kimi 等工业界团队的做法一致,让想法在大规模训练前先得到低成本验证。 平台首批提供了 Qwen3.5 和 OLMo3 的基线、拟合好的 scaling laws 以及可复用的训练配方,通过评审验证的想法可以成为新的基线,供下一代模型的设计参考。
Current read
学术圈的架构实验常常算力不够、基线也对不上,这个平台用 scaling laws 让小实验先预测大模型的表现,还直接给了 Qwen3.5 和 OLMo3 基线。做模型架构研究的同学可以上去提交提案或复现别人被验证过的想法,不用每次都从头造轮子。
2 sources38° AI heatLast updated 2026/11/12 18:59:52
Evidence
2 sourcesRelated source 1Eric Jing
View sourceConflict check
Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.