精选理由
本地跑模型最烦的就是不知道哪款能跑得动——llm-checker 直接帮你检测硬件并推荐,省去试错时间。做本地 AI 开发或想玩开源模型的建议装一个试试。
开发者 Santiago 分享了一个名为 llm-checker 的 npm 工具,可以自动检测电脑硬件并推荐适合本地运行的 AI 模型。用户只需安装后运行 hw-detect 命令,再通过 recommend 命令指定类别(如 coding)即可获得推荐。该工具解决了本地部署模型时硬件兼容性不明确的痛点,让开发者快速找到适合自己设备的模型。
原文 · Ate-a-Pi
Really cool way to find out which models you can r…
Really cool way to find out which models you can run on your computer:
1. Install llm-checker $ npm install -g llm-checker
2. Detect your hardware $ llm-checker hw-detect
3. Get a recommendation $ llm-checker recommend --category coding
Here are some of the recommendations I got: