精选理由
27B参数的多模态模型能塞进手机?Bonsai 27B做到了,性能还很强,快试试。
PrismML发布了Bonsai 27B,一个270亿参数的多模态模型,能在手机级设备上本地运行。该模型采用三元量化技术压缩体积,同时保留图像理解等多模态能力。用户现可通过Together AI平台在线试用。这是本地AI在参数量和设备适配上的重要进展。
原文 · Together AI
Bonsai 27B is a big step for local AI: 27B-class m…
Bonsai 27B is a big step for local AI: 27B-class multimodal capability in a phone-class footprint.
Congrats to @PrismML on the launch.
Try Ternary Bonsai 27B on Together AI: https://t.co/yeyvZcaATO