Chinese contentllama.cpp 与 ggml 发布 1.0.0 版本,支持超 150 种模型架构
在本地电脑上跑大模型这个项目终于到 1.0.0 了,现在支持 150 多种模型架构,六大芯片厂商的硬件都有测试覆盖。做本地部署或依赖这个库开发的工程师,可以关注它新定的版本规则,升级前更好判断要不要改自己的代码。
IT之家Source
在本地电脑上跑大模型这个项目终于到 1.0.0 了,现在支持 150 多种模型架构,六大芯片厂商的硬件都有测试覆盖。做本地部署或依赖这个库开发的工程师,可以关注它新定的版本规则,升级前更好判断要不要改自己的代码。