Primary sourceHugging Face
View sourceEvent ·Multi-source
Hugging Face 直播教学：用 llama.cpp 和 vLLM 做模型量化
Hugging Face 官方宣布下周二开设直播，主题是把大模型量化压缩后跑在本地笔记本上。嘉宾包括 Merve Noyann、Maxime Labonne、bartowski 和 mgoin 等，主讲 llama.cpp 和 vLLM 两个推理工具的量化实操方法。内容覆盖模型压缩与本地推理加速的入门知识和实操技巧。
Current read
想在自己笔记本上跑大模型的话，这场直播教你用 llama.cpp 和 vLLM 做量化，几位量化社区的老手一起讲实操。
3 sources26° AI heatLast updated 2026/11/5 11:36:58
Evidence
3 sourcesConflict check
Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.