精选理由
AI编译器开发者终于有了不侵入代码的溯源方案——COVAN在重写后仍能稳定追踪张量来源,做模型优化和调试的团队可以直接参考论文实现。
AI编译器在重写计算图时,常导致张量和操作符的溯源信息丢失,影响调试和验证。现有方法要么侵入性强,要么在非单射图重写下失效。研究者提出一种基于观测语义的轻量级溯源方法,通过余代数模型和双模拟来保持溯源稳定性,即使中间节点被消除也能追踪。该方法在原型编译器COVAN中实现,证明了低工程开销下的可靠溯源。
AI 翻译 · 中文
AI编译器在重写计算图时,常导致张量和操作符的溯源信息丢失,影响调试和验证。现有方法要么侵入性强,要么在非单射图重写下失效。研究者提出一种基于观测语义的轻量级溯源方法,通过余代数模型和双模拟来保持溯源稳定性,即使中间节点被消除也能追踪。该方法在原型编译器COVAN中实现,证明了低工程开销下的可靠溯源。
AI compilers aggressively rewrite computation graphs through normalization, lowering, and optimization, making it difficult to track the provenance of tensors and operators across compilation. Reliable provenance is esse…