#Inferact

共 5 条 · 7 天 0 条 · 30 天 0 条

信息流里打上「Inferact」标签的资讯、产品与论文，按刊登时间排，新的在上。

8月12日

行业精选00:59

Simon Mo 说开源闭源模型能力已经没差，拼的是谁能给模型搭最好的自我进化环境，拿 Moonshot 前端编码举例，挺开脑洞的。

a16z@a16z原文

8月7日

行业多源确认71°08:11

Simon Mo是vLLM作者，他讲开源权重模型怎么在成本和控制上赢过闭源API，还吐槽专有API宕机问题，适合做线上服务的开发者。

a16z@a16z11 个信源在谈原文

Simon Mo说开源模型和闭源模型能力没差多少，关键看谁把模型落地做得更好，vLLM已经在50万GPU上跑了。

a16z@a16z原文

行业多源确认71°02:43

vLLM同时占着50万张GPU，却是开源模型的隐身基座。听Simon Mo拆解Kimi K3和开源模型上生产的坑。

a16z@a16z11 个信源在谈原文

7月10日

行业多源确认精选04:53

vLLM社区第一次线下大会，想了解高性能推理前沿和开源生态的朋友别错过，直接和NVIDIA、AMD、Google TPU的工程师面对面。

官方账号vLLM@vllm_project11 个信源在谈原文