Chinese content无问芯穹联合《三体》IP推出角色智能体，首 token 延迟降低 51.5%
无问芯穹和三体宇宙合作做了个三体角色智能体，用 split inference 把首 token 延迟砍了一半多，做延迟敏感的 Agent 可以看看这个方案。
#AgentWorks
1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "AgentWorks", newest first.
Oct 27