09:50
官方账号arXiv cs.AI@Jiajun Hu, Ruthwik Reddy Sunketa, Lei Zhao, Archit Gajjar, Luca Buonanno, Aman Arora
精选
推荐理由：这篇论文提出NIFA架构，用ACAM替代ADC省掉70%面积和功耗，让FPGA跑Transformer能效提升近2倍，CNN更是飙升40倍。
NIFA
共 1 条相关 AI 资讯
7月17日
09:50
NIFA是一种新型FPGA架构，通过集成无ADC的IMC块（用ACAM替代传统ADC）来原生处理非线性运算，从而提升Transformer模型的推理效率。相比传统FPGA，NIFA在CNN基准上实现高达40倍能效提升和4.1倍面积效率提升，在Transformer基准上实现1.9倍能效和2.5倍面积效率提升。该架构针对注意机制中的动态矩阵乘法（DIMM）进行了优化，能有效处理长输入序列。