百度首次用RSI递归自我改进优化文心推理，昆仑芯 P800 出字速度提升 6.24 倍
百度让 AI 自己改文心的推理代码，工程师只划定可改范围，昆仑芯 P800 上出字速度做到原来的 6.24 倍，还有一项测试吞吐多 33.7%。做推理部署和自研优化的团队可以看看这套流程怎么搭的。
百度宣布首次将 RSI（递归自我改进）技术用于文心（ERNIE）推理优化。工程师先划定 AI 可修改的代码范围，之后由 AI 自主定位性能瓶颈、改写代码、运行测试，只有改动后跑得更快且输出结果保持一致，才会被保留合并。
具体成绩方面：在昆仑芯 P800 的一项低延迟测试里，出字速度达到优化前的 6.24 倍；另一项 GPU 测试中输出保持一致，同样时间内吞吐量多处理 33.7%。
RSI 的核心是让 AI 参与改进自身运行的基础设施，百度的做法是用人工设定的边界约束改动范围，以性能提升和结果一致性作为自动验收门槛。这类自主代码优化此前多见于编译器调优和内核优化场景，用于大模型推理服务优化在国内属于较早的落地案例，对推理成本敏感的部署方有直接参考价值。
百度称，这是第一次用RSI技术给参与文心推理优化，工程师划好能改的范围，AI 自己找哪里慢、改代码、跑测试 改完跑得更快，结果也对得上，才留下改动 看来RSI（递归自我改进）确实是下一个热门前沿方向... 在昆仑芯 P800 的一项低延迟测试里，出字速度达到改之前的 6.24 倍 另一项 GPU 测试里，输出保持一致，同样时间能多处理 33.7%...📊 1 ⚡
This report is categorized under AITOP's "Models" desk, focusing on China's AI industry and domestic foundation model ecosystem. Within our cross-regional analytical framework, it directly maps to US-China foundation model benchmarks and commercialization comparison. Key entities and technical topics under continuous tracking include 文心大模型, 百度, 昆仑芯, RSI.
Source attribution: curated from 小互 (@imxiaohu).
