模型

Liquid AI开源d1-3B与d1-omni-600M决策模型,面向边缘设备毫秒级实时判断

精选理由

Liquid AI开源了两款小尺寸决策模型,最小只有600M还支持多模态,在边缘设备上几十毫秒就能出结果,做端侧Agent的可以试试。

Liquid AI开源了d1-3B与d1-omni-600M两款决策模型,定位类似Jev,但d1-omni-600M额外支持文本、视觉与音频输入。在RTX 4090上单次问答延迟为8毫秒,在Jetson Orin Nano边缘硬件上也能在50毫秒内完成。两款模型均可在端侧设备上运行实时判断任务。

图片来源 · Gorden Sun
原文 · Gorden Sun

Liquid AI开源d1决策模型:让边缘设备实现毫秒级端侧实时判断

Liquid AI开源了d1-3B与d1-omni-600M两款决策模型,类似Jev,但支持文本、视觉与音频输入。在RTX 4090上单次问答仅需8毫秒,在Jetson Orin Nano边缘硬件上也可在50毫秒内完成。

模型:https://t.co/sZyfozcBbo