Chinese contentarXiv 论文提出 isloss:检测 LLM API 转换中对话信息丢失的确定性测试方法
做 LLM 网关、多模型切换或者翻译层的开发者该看看这篇:翻译后的请求能过 API 校验,但角色、工具调用信息可能已经悄悄丢了。论文给出的 ConvIR 中间表示加规则判定,不用额外调用模型就能测出问题,还附带真实故障率数据。
做 LLM 网关、多模型切换或者翻译层的开发者该看看这篇:翻译后的请求能过 API 校验,但角色、工具调用信息可能已经悄悄丢了。论文给出的 ConvIR 中间表示加规则判定,不用额外调用模型就能测出问题,还附带真实故障率数据。