#CLEVER

研究人员用CLEVER框架测试了7种缓存淘汰策略，发现LFU在大多数情况下表现最好，而其他策略效果差距不大。他们还发现，实际可用的缓存命中率远低于理论值，因为很多命中答案不可替换。这个研究对优化LLM缓存很有参考价值。