网易首页 > 网易号 > 正文 申请入驻

CVPR 2026 | 20步也能稳住画质,这个扩散加速方法不一样

0
分享至



作者介绍:本文的共同第一作者为崔奔雷(阿里巴巴)和何少轩(阿里巴巴实习生、浙江大学)主要研究领域为多模态理解与生成,通讯作者洪海文(阿里巴巴)和赵洲(浙江大学)主要研究领域分别为多模态大语言模型、语音理解生成等方向。

近年来,扩散模型已成为图像、音频、视频等多模态生成的核心技术路线,并在工业界得到广泛应用。但在实际落地中仍存在关键瓶颈:工业级推理预算通常只有 20–30 步,在这一约束下,许多加速方法仍会出现纹理错乱、颜色漂移、轨迹偏离等问题,影响生成质量与稳定性。

这一问题也限制了生成技术在理解侧训练中的大规模应用,而这对于补充安全场景中的高危稀缺样本、构造生产环境下的对抗变异样本至关重要。高危图片和视频往往传播快、危害大,但样本数量有限,因此需要借助生成技术大规模合成相关数据,以提升审核模型的识别能力。

同时,AI 时代用户生成变异样本的成本大幅降低,使内容安全面临更强的对抗压力。因此,需要在管控侧引入生成技术,构造对抗训练样本,提升审核模型的鲁棒性。然而,对于这类大规模工业应用而言,扩散模型过高的推理时延仍然不可接受。如何在有限步数预算下兼顾生成质量与推理效率,已成为工业级扩散落地的核心挑战。

针对这一挑战,阿里安全 AGI 实验室 - 御风大模型团队联合浙江大学提出了一种全新的扩散加速方法 ——TC-Padé(Trajectory-Consistent Padé Approximation)。该方法基于 Padé 逼近构建残差预测框架,在无需训练、即插即用的前提下,实现对扩散采样过程的高效加速,并在低步数设置下依然保持稳定、高质量的生成效果。实验表明,TC-Padé 在图像生成、视频生成和类别条件图像生成等任务上都取得了出色表现。例如,在 FLUX.1-dev 上可实现 2.88× 加速,在 Wan2.1 视频生成模型上可实现 1.72× 加速,同时显著优于已有缓存类加速方法。基于以上加速方法,御风大模型团队得以产出大量高质量冷门风险训练样本,大幅度提升模型对风险的视觉理解能力,赋能百项以上广泛业务场景。

该研究论文已被 CVPR 2026 录用。



  • 论文标题:TC-Padé: Trajectory-Consistent Padé Approximation for Diffusion Acceleration
  • 论文链接:https://arxiv.org/pdf/2603.02943
  • Github 地址:https://github.com/Alibaba-YuFeng/TC_Pade

一、研究背景

扩散模型的生成质量虽然已经达到很高水平,但其推理效率始终是落地应用中的核心制约因素。由于扩散采样依赖多步迭代去噪,一个样本通常需要经历数十次甚至上百次网络前向计算,这使得模型在实时交互、批量生成和资源受限场景中面临较高的时延与成本。

为降低这一开销,近年来出现了多类扩散加速方法,其中一类重要思路是特征缓存(feature caching)。这类方法利用相邻时间步之间特征变化较小的性质,减少重复计算,从而实现 “免训练、可插拔” 的推理加速。现有方法主要包括两种路线:

(1)基于复用的方法:直接缓存并复用中间特征;

(2)基于预测的方法:根据历史特征变化趋势预测未来特征。

尽管这些方法在较高采样步数(如 50 步)下能够取得一定加速效果,但在工业场景更常见的 20~30 步低步数采样中,其局限性会明显暴露出来。随着时间步间隔变大,特征之间的相似性快速下降:

(1)复用类方法容易因缓存特征与当前状态不匹配而产生偏差;

(2)多项式外推类方法则容易因误差积累导致轨迹漂移。

如下图所示,在低步数设置下,已有加速方法往往会带来明显的画质下降,而 TC-Padé 能够在实现更高加速比的同时,保持更好的视觉一致性。



图 1 相较于已有缓存加速方法,TC-Padé 在 20 步采样下依然能够保持更稳定的纹理与色彩表现

为何现有方法在低步数下容易失效?低步数采样意味着:相邻推理步之间的时间跨度更大,特征演化不再平滑。这会带来两个直接问题。第一,传统缓存复用方法默认相邻时间步特征 “足够相似”,但在低步数场景下,这一假设很容易被打破,导致缓存信息与当前状态错位,从而影响生成质量。第二,基于泰勒展开的外推方法虽然能够在局部做近似,但泰勒多项式本质上更适合小范围、平滑变化的趋势建模。

当时间间隔增大、特征变化更复杂时,就容易出现外推误差放大、采样轨迹偏移的问题。论文通过 PCA 可视化进一步表明,已有方法在加速采样过程中往往无法保持与原始采样轨迹的一致性,而 TC-Padé 更接近原始轨迹,体现出更强的稳定性。



图 2 不同缓存方法在 20 步采样设置下的轨迹一致性对比,TC-Padé 更接近原始轨迹,体现出更强的稳定性

二、研究方法:TC-Padé 核心创新

针对上述问题,本文提出了 TC-Padé,从 “预测对象”“预测形式” 和 “采样阶段策略” 三个层面重新设计扩散缓存加速框架,核心包括以下两点:

1、创新一:基于) Padé 逼近的轨迹一致性残差预测

与直接预测原始特征不同,TC-Padé 首先将建模对象转向残差表示(residual representation)。残差刻画的是层间特征增量,相较于原始特征通常具有更高的时间连续性和更稳定的变化规律,因此更适合做跨时间步预测。

残差定义如下:



其中,x_{t} l 和 x_{t} r 分别表示时间步 t 下不同层的特征表示,R_{t} l:r 表示对应层间残差。

在此基础上,TC-Padé 使用 Padé 逼近替代传统的泰勒多项式展开。Padé 逼近采用 “分子多项式 / 分母多项式” 的有理函数形式,能够更好地描述非线性变化、渐近行为和阶段切换,因此在低步数、大跨度时间间隔下具有更好的稳定性。其一般形式为:



在本文中,为平衡效果与开销,采用了低阶 Padé 型预测器,对当前残差进行预测:



进一步可恢复当前时刻输出特征:



这一设计避免了直接在高维原始特征空间进行预测,使模型能够更聚焦于结构更稳定的残差动态,从而有效降低低步数采样中的误差累积问题。

2、创新二:面向去噪阶段差异的步感知预测策略

扩散模型在不同采样阶段的动态特性并不相同:早期阶段,噪声高,结构变化剧烈;中期阶段,整体结构逐渐稳定,适合进行轨迹预测;后期阶段,主要进行细节修复与纹理优化。现有方法通常采用统一策略处理整个去噪过程,难以适应不同阶段的变化特点。为此,TC-Padé 提出了一种去噪步感知(step-aware)预测策略,针对不同阶段采用不同的残差更新方式:



其中,T 为总去噪步数。这一策略使 TC-Padé 能够在采样早期避免过度外推,在中期充分发挥 Padé 逼近的优势,并在后期捕捉更细粒度的变化趋势,从而提升整体加速过程的稳定性与生成质量。

3、创新三:自适应轨迹稳定性判别机制

除了预测方式的设计外,TC-Padé 还引入了一个轨迹稳定性指标(Trajectory Stableness Indicator, TSI),用于判断当前时间段是否适合跳过计算、直接使用预测结果。其定义为:



当轨迹变化平稳时,模型可安全地跳过部分计算并采用预测;当轨迹不稳定时,则恢复完整计算,以保证生成质量。这样就实现了在稳定区间尽可能加速,在关键变化区间保留精细计算的自适应推理机制。



图 3 在每个缓存区间内,系统通过轨迹稳定性指标动态判断是执行完整计算还是进行残差预测

三、实验亮点:低步数下依然保持高质量与高速度

(一)图像生成任务:更快的同时保持更高保真度

在文本到图像生成任务中,TC-Padé 在 FLUX.1-dev 上展现出非常突出的效率 — 质量平衡能力。实验结果表明:

(1)TC-Padé(fast)实现 2.88× 加速

(2)在 FID、CLIP Score 等指标上保持与原始模型接近的性能

(3)在 PSNR、SSIM、LPIPS 等保真度指标上明显优于其他缓存类方法

相比之下,已有方法虽然在部分设置下可以进一步压缩 FLOPs,但往往伴随显著的画质下降,甚至出现无法接受的图像退化。TC-Padé 则在较高加速比下依然能够保持良好的纹理、结构与语义一致性。



表 1 方法在实现高达 2.88× 加速的同时,依然保持高质量图像生成效果

(二)视频生成任务:在时序生成中同样有效

视频生成对一致性要求更高,任何预测偏差都可能在时间维度被进一步放大。即便如此,TC-Padé 仍在 Wan2.1-1.3B 视频生成模型上取得了优异结果:

(1)1.72× 推理加速,1.74× FLOPs 降低

(2)VBench-2.0 总分仅较原始 20 步基线小幅下降

(3)在 PSNR、SSIM、LPIPS 等指标上显著优于泰勒预测类方法

这说明 TC-Padé 不仅适用于静态图像生成,也能够较好适配视频场景中的复杂时空动态。



表 2 在视频生成任务中的效果对比。相较于其他方法,TC-Padé 在保证视频内容稳定性的同时实现了更高效率

(三)类别条件图像生成:兼顾样本保真度与多样性

在 DiT-XL/2 的 ImageNet 256×256 类别条件图像生成任务中,TC-Padé 同样表现稳定:

(1)1.46× 时延加速,1.64× FLOPs 降低

(2)FID 优于对比的缓存加速方法

(3)Precision 与 Recall 保持更好平衡

这表明 TC-Padé 不仅适用于文本条件生成任务,也能在标准视觉生成基准上保持较强竞争力。



表 3 TC-Padé 在 DiT-XL/2 上的定量结果,展示了其在类别条件图像生成任务中的稳定泛化能力

(四)消融实验:关键设计带来稳定收益

论文进一步通过消融实验验证了 TC-Padé 各组成模块的有效性。

1、残差缓存粒度分析:实验比较了不同缓存粒度,包括 double-stream、single-stream 和 entire block。结果显示,在整个 block 粒度上进行残差缓存与预测时效果最佳,能够在速度和质量之间取得更优平衡。

2、稳定性阈值分析:通过调整轨迹稳定性阈值 θ,可以灵活控制加速比与质量之间的权衡。实验显示,θ=0.7 时可获得最高 2.88× 加速,而 θ=1.0 则在质量和效率之间表现出更均衡的综合效果。

3、与量化技术兼容:TC-Padé 还具有良好的工程兼容性,可与量化等其他推理优化技术叠加使用。实验显示,在结合量化后,其整体时延下降可进一步扩大,体现出良好的实际部署潜力。

四、总结

TC-Padé 针对扩散模型低步数采样中 “加速容易、稳定很难” 的核心问题,提出了一套兼顾理论与实践的新方案。通过基于 Padé 逼近的残差预测、步感知预测策略以及轨迹稳定性自适应判别机制,该方法在无需训练的条件下显著提升了扩散推理效率,并在多个任务上保持了高质量生成效果。对于追求低延迟、高吞吐、可落地部署的扩散模型应用而言,TC-Padé 提供了一种具有现实价值的高效加速思路,也为未来扩散模型推理优化打开了新的方向。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
曹德旺当年反对女儿嫁给厦大高材生,理由只有一句:他太优秀了!14年后,这个女婿拿到的不是聘书,而是福耀的一份重任

曹德旺当年反对女儿嫁给厦大高材生,理由只有一句:他太优秀了!14年后,这个女婿拿到的不是聘书,而是福耀的一份重任

背包旅行
2026-09-03 15:48:21
星宇事件舆论再升级!惊动国外媒体,已被商报 德国之声等媒体报道

星宇事件舆论再升级!惊动国外媒体,已被商报 德国之声等媒体报道

天天热点见闻
2026-09-09 06:56:30
秋天,遇到这3种碱性果别手软,一次买20斤,晒干囤起来,随吃随取,营养又解馋

秋天,遇到这3种碱性果别手软,一次买20斤,晒干囤起来,随吃随取,营养又解馋

花小厨
2026-09-10 14:32:28
华北电力大学16名学生被拟退学,被退学原因公布,值得深思!

华北电力大学16名学生被拟退学,被退学原因公布,值得深思!

凯旋学长
2026-09-10 16:33:48
火力全开 几度哽咽 扎哈罗娃五分钟怒斥日本

火力全开 几度哽咽 扎哈罗娃五分钟怒斥日本

看看新闻Knews
2026-09-10 12:15:09
在长沙,工资就是一个巨大的3500

在长沙,工资就是一个巨大的3500

一条要飞跃的咸鱼
2026-08-28 08:22:02
美记:开拓者没预留足够薪资空间 阿夫迪亚有可能成为自由球员

美记:开拓者没预留足够薪资空间 阿夫迪亚有可能成为自由球员

北青网-北京青年报
2026-09-10 09:05:09
A股:夜晚突发三大消息,不出意外明天周五,A股或迎大变盘调整行情?

A股:夜晚突发三大消息,不出意外明天周五,A股或迎大变盘调整行情?

趋势清风侠
2026-09-10 20:36:11
发现一个现象:中产返贫三件套,已经升级为六件套了!

发现一个现象:中产返贫三件套,已经升级为六件套了!

番外行
2026-05-18 10:25:35
他不顾一切娶自己的学生,又因生二胎丢饭碗,二胎长大赚千亿回报

他不顾一切娶自己的学生,又因生二胎丢饭碗,二胎长大赚千亿回报

皮皮电影
2026-09-01 22:10:05
学术期刊、终将消亡

学术期刊、终将消亡

必记本
2026-09-09 00:46:51
一定要学会“把事情闹大”

一定要学会“把事情闹大”

经济观察报
2026-08-25 10:10:37
小姨嫁到香港全家沾光,落魄后回村没人待见她,我:住在我家吧

小姨嫁到香港全家沾光,落魄后回村没人待见她,我:住在我家吧

白云故事
2025-07-01 17:25:04
复旦大学研究:血糖不超过这个值,不用太克制,该吃吃该睡睡

复旦大学研究:血糖不超过这个值,不用太克制,该吃吃该睡睡

叙说医疗健康
2026-07-14 08:00:30
“剪刀可以轻松剪排骨”,张小泉用AI演示剪刀用途被质疑虚假宣传,客服回应:不适合剪大块排骨,使用AI情况会记录反馈

“剪刀可以轻松剪排骨”,张小泉用AI演示剪刀用途被质疑虚假宣传,客服回应:不适合剪大块排骨,使用AI情况会记录反馈

洪观新闻
2026-09-09 16:10:34
他曾是董建华头号劲敌,在政商界大杀四方,却一生都没能当选特首

他曾是董建华头号劲敌,在政商界大杀四方,却一生都没能当选特首

青梅侃史啊
2026-09-10 11:42:09
发不出工资,很多单位开始“不择手段”了

发不出工资,很多单位开始“不择手段”了

细说职场
2026-09-10 15:49:56
王凯谈近几年接戏不多的原因:不是没戏拍,而是主动选择藏起来

王凯谈近几年接戏不多的原因:不是没戏拍,而是主动选择藏起来

娱说瑜悦
2026-09-10 20:12:25
每晚一片甲钴胺,除了养神经,还有4大神奇作用,医生都在用

每晚一片甲钴胺,除了养神经,还有4大神奇作用,医生都在用

健康科普365
2026-09-05 09:17:33
《交锋》大结局:第一个内鬼被揪出,没想到竟然是高考状元小伍

《交锋》大结局:第一个内鬼被揪出,没想到竟然是高考状元小伍

肆季娱乐
2026-09-10 11:14:25
2026-09-11 04:23:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13963文章数 142731关注度
往期回顾 全部

科技要闻

一文看懂:iPhone折叠屏顶配2万6,10月才卖

头条要闻

特朗普:如果伊朗拥核 我会对最高领袖说"能为您效劳吗"

头条要闻

特朗普:如果伊朗拥核 我会对最高领袖说"能为您效劳吗"

体育要闻

16岁的国产小库里,还有多少功课要做

娱乐要闻

参加晚宴,刘亦菲因合照深陷争议

财经要闻

向松祚:年轻人不必过早买房

汽车要闻

标配全线控底盘 全新一代智己LS6预售20.99万起

态度原创

本地
健康
教育
时尚
公开课

本地新闻

拼假 13 天国内长线路线合集

牙疼,也可能跟心梗有关?!

教育要闻

再次学会说话

“蛇精”围攻,葫芦爷爷求饶

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版