#LLM API

Hugging Face CEO 说九成场景用 LLM API 太浪费又贵又慢，Will Depue 还提到 zero-shot 分类器 Jev 这个老 ML 回潮的路子。

官方账号Clement Delangue@ClementDelangue原文

这篇论文揭示了LLM API中继路径中的缓存隔离漏洞，测试了五个开源网关，提出了防御契约。

Thesean 的 Ship 让你的 LLM 调用费直接砍半，还能保留原模型名和质量，省下来的钱可以跑更多实验，实用。

elvis@omarsar0原文

LLM API调用成本高、选择困难，这篇论文为开发者提供了理论驱动的自适应查询策略，做模型编排或API调度的团队可以直接参考其方法优化成本与效果。