AI模型精选

Bonsai 27B:手机级尺寸的27B多模态模型

Bonsai 27B is a big step for local AI: 27B-class m…

精选理由

27B参数的多模态模型能塞进手机?Bonsai 27B做到了,性能还很强,快试试。

AI 摘要

PrismML发布了Bonsai 27B,一个270亿参数的多模态模型,能在手机级设备上本地运行。该模型采用三元量化技术压缩体积,同时保留图像理解等多模态能力。用户现可通过Together AI平台在线试用。这是本地AI在参数量和设备适配上的重要进展。

图片来源 · Together AI
原文 · Together AI

Bonsai 27B is a big step for local AI: 27B-class m…

Bonsai 27B is a big step for local AI: 27B-class multimodal capability in a phone-class footprint.

Congrats to @PrismML on the launch.

Try Ternary Bonsai 27B on Together AI: https://t.co/yeyvZcaATO

Bonsai 27B:手机级尺寸的27B多模态模型 · AI 热点