Guidance是机器学习领域中用于引导模型生成更准确输出的关键技术,特别是在扩散模型和flow matching中扮演着核心角色。2023年以来,Guidance技术呈现多样化发展趋势,从传统分类器引导到无分类器引导,再到内部状态引导,不断突破技术边界。
Guidance 近期进展
Apple于2023年10月提出probe guidance技术,利用扩散模型内部状态引导flow matching过程,显著提升了生成质量。Percy Liang同期发布的priced guidance评估方法,为Astra模型预测新论文能力提供了量化评估标准,标志着引导技术评估向精细化方向发展。Path-Flow Alignment研究团队通过路径与流协同训练改进了flow matching方法,而CACFG则创新性地使用曲率约束改进CFG高强度引导下的扩散采样,这两项工作分别在arXiv于2023年10月发布,展示了引导技术在算法层面的持续创新。
当前焦点与观察点
Guidance领域当前正朝着更高效、更灵活的方向发展。无分类器引导技术打破了传统拟合算子的限制,解决了终端拟合修复问题,为扩散模型生成质量提供了新思路。同时,Normal Guidance利用正态分布引导注意力机制,在3D医学图像切片分类任务中展现出显著优势。DeepSeek Harness将Prompt做成运行时,能力模块自带Prompt指导功能,反映了引导技术与提示工程的深度融合。然而,引导技术的计算效率与生成质量之间的平衡仍是研究焦点,不同引导方法在不同任务上的适用性也需要进一步探索。