新加坡团队训练 309B 参数模型,流程大部分自主完成
精选理由
新加坡团队训练了个 309B 的模型,架构照着 DeepSeek 来的,还声称训练流程大部分是自主跑的,可以看看他们怎么做的。
一个新加坡团队公布了他们训练的 309B 参数模型。该模型架构类似 DeepSeek,采用 SWA-DSA 设计。训练过程大部分由自主流程完成。
原文 · Teortaxes
Singaporean team boasts of training a 309B model largely autonomously. (It's an SWA-DSA DeepSeek-like. Don't fix what's not broken) https://t.co/7IQjPoRqnm