Chinese contentSoofi 发布 Soofi S 30B-A3B：开源混合 Mamba-Transformer MoE 模型支持德英双语
Soofi 出了一款开源模型，31.6B参数只激活3.2B，混合Mamba+Transformer架构，支持德语和英语，适合多语言场景。
#Mamba-Transformer
1 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "Mamba-Transformer", newest first.
Jul 16
