KeyPooling：测量LLM API中继路径如何破坏提示缓存隔离

KeyPooling是一种测量方法，可追踪客户身份通过缓存查找和写入的路径。研究测试了五个连接OpenAI和Anthropic的开源网关，发现默认情况下没有将客户绑定到上游凭据。在共享凭据下，所有五个网关都暴露了跨客户的缓存读取，覆盖了OpenRouter框架中33.7%的令牌量。研究确定了控制身份转换的关键因素，包括主体分割、命名空间关联和适配器对比。