#Netpreme

共 1 条 · 7 天 0 条 · 30 天 0 条

信息流里打上「Netpreme」标签的资讯、产品与论文，按刊登时间排，新的在上。

7月10日

模型精选22:15

Netpreme X-Mem加速SGLang HiCache缓存

Netpreme的X-Mem内存插进SGLang的HiCache，多轮对话缓存带宽不再是瓶颈，TTFT降6.7倍，吞吐量涨30%，实测SWE-bench效果显著。

#Netpreme #X-Mem #SGLang #HiCache

官方账号LMSYS Org (SGLang)@lmsysorg原文