18:31Julien Chaumond@julien_cZML 团队发布了新模型 LLMD。该模型的一个关键特性是模型层可以直接从 HuggingFace 以流式模式加载,无需存储本地文件。这种方式更适合生产环境下的部署。AI模型LLMDZMLHuggingFace模型部署推荐理由:ZML 发的 LLMD 模型能直接从网上下载层,不用存本地,部署省事多了。原文
16:35techcrunch@Anna HeimZML是一家由图灵奖得主Yann LeCun背书的法国AI初创公司,近期推出免费产品ZML/LLMD。该软件旨在加速AI推理过程,特别是在大量AI芯片上运行时的效率。通过优化推理速度,ZML/LLMD有望降低AI部署的计算成本。AI产品ZMLZML/LLMDYann LeCun推理加速AI芯片推荐理由:ZML这波免费发布推理加速软件,能让多芯片推理跑得更快、更省钱,尤其适合做大规模部署的人。原文