FLUX.1 相关 AI 资讯 · AI 热点

7月3日

11:32

11:32

官方账号arXiv cs.AI@Donghyun Lee, Jitesh Chavan, Duy Nguyen, Sam Huang, Liming Jiang, Priyadarshini Panda, Timo Mertens, Saurabh Shukla

OrbitQuant提出一种数据无关的权重量化方案，通过随机置换块Hadamard（RPBH）旋转将激活值变换到归一化旋转基，使各坐标分布固定无需重新拟合校准数据。在FLUX.1、Z-Image-Turbo、Wan 2.1、CogVideoX四个模型上，该方法在多个低位宽设定下达到后训练量化（PTQ）最佳效果，并将图像扩散Transformer的PTQ推进到W2A4可用质量。同一量化器可直接从图像迁移到视频，无需针对每种模态调整。

AI模型 OrbitQuant 扩散Transformer 量化 FLUX.1 Wan 2.1

推荐理由：想给图像或视频扩散模型做低位量化？OrbitQuant不需要每换一个模型或任务就重跑校准，FLUX.1、Wan 2.1上表现都很能打，W2A4也有可用效果。

6月16日

11:48

11:48

官方账号arXiv cs.AI@Artyom Mazur, Nina Konovalova, Aibek Alanov

该论文将基于转码器的电路追踪扩展至多模态扩散Transformer，训练时间步条件转码器以逼近FLUX.1[schnell]中MLP子层的输入输出行为。通过替换MLP并线性化剩余计算，实现了精确的特征到特征归因并恢复紧凑可解释电路。在稀疏性-忠实度权衡上，转码器匹配或略优于稀疏自编码器。所得电路揭示了属性绑定和跨流语义传播机制，为系统生成误差提供了因果解释，且基于电路的干预比标准SAE干预更精准有效。

论文 DifFRACT FLUX.1 电路追踪多模态扩散Transformer 可解释性

推荐理由：这篇论文教你如何用转码器给FLUX.1模型做电路追踪，比稀疏自编码器更准确，能解释图像生成中的属性绑定错误。