#ggml

1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "ggml", newest first.
Nov 14
Chinese contentllama.cpp 与 ggml 发布 1.0.0 版本,支持超 150 种模型架构

在本地电脑上跑大模型这个项目终于到 1.0.0 了,现在支持 150 多种模型架构,六大芯片厂商的硬件都有测试覆盖。做本地部署或依赖这个库开发的工程师,可以关注它新定的版本规则,升级前更好判断要不要改自己的代码。

IT之家Source