ModelsSelected

OVHcloud 开源首个自研模型 Olala mini 7A1B,8GB 显存可运行

欧洲云服务企业 OVH 涉足 AI 模型,开源发布 Olala mini 7A1B

Why we picked it

做云服务的 OVHcloud 也下场开源模型了,7B 总参数只激活 1B,8GB 显存和纯 CPU 都能跑,许可还是 Apache 2.0。想在低端卡上本地部署、自己微调的开发者可以直接去 Hugging Face 下载试试。

欧洲云服务商 OVHcloud 于 11 月 17 日发布首个 AI 模型家族 Olala,首个成员 Olala mini 7A1B 以 Apache 2.0 许可开源上传 Hugging Face。模型总参数 70 亿、激活参数 10 亿,采用 Differential-TPA 与 Mamba-3 结合的混合注意力机制,使用 BF16 格式。

Body

在性能方面,Olala mini 7A1B 可在 8GB 显存的 GPU 上运行,RTX A4500 上达到 160 TPS 吞吐量,纯 CPU 平台也有 50 TPS。训练在三台欧洲公共超级计算机上使用 NVIDIA GH200、A100、H100 完成,总开销 700 万欧元。初始版本上下文长度为 32K,预计年底的 1.1 版本扩展至 128K 并增强数学能力,后续的 Olala 2.0 参数规模将超过 100B。

对开发者而言,低显存门槛加上宽松开源许可,使其适合在消费级硬件上做本地部署和二次微调,与 Qwen、Mistral 等同规模开源模型形成直接竞争。OVH 以云服务商身份下场做模型,也是欧洲厂商向主权 AI 路线靠拢的一个信号。

Original · IT之家

欧洲云服务企业 OVH 涉足 AI 模型,开源发布 Olala mini 7A1B

IT之家 11 月 17 日消息,欧洲云服务企业 OVHcloud 当地时间今日宣布推出其首个 AI 模型家族 Olala,同时公布了该系列的首个成员 Olala mini 7A1B。 Olala mini 7A1B 采用结合了 Differential-TPA 和 Mamba-3 的混合注意力机制,总参数 70 亿、激活参数 10 亿,使用 BF16 数据格式。 该模型将以 Apache 2.0 许可开源发布在 Hugging Face 上 。 其 可在 8GB 显存的 GPU 上运行 ,在 RTX A4500 上可实现 160 TPS 的词元吞吐量,仅 CPU 平台也能实现 50 TPS。 OVH 表示,Olala mini 7A1B 在三台欧洲公共超级计算机上利用 NVIDIA 的 GH200、A100、H100 训练而成, 总开销达到 700 万欧元 (IT之家注:现汇率约合 5,142.8 万元人民币) 。 Olala mini 7A1B 模型初始版本上下文长度为 32K,预计今年底推出的 1.1 版本将扩展至 128K 上下文并具备更好的数学能力。OVH 后续将持续开发 AI 模型, Olala 2.0 的参数规模将>100B 。

Industry Coordinates & Source Verification

This report is categorized under AITOP's "Models" desk, focusing on Europe's AI governance and technology ecosystem. Within our cross-regional analytical framework, it directly maps to AI developer toolchains, coding agents, and engineering workflows. Key entities and technical topics under continuous tracking include OVHcloud, Olala, open-source models, Mamba-3.

Source attribution: curated from IT之家.