网易首页 > 网易号 > 正文 申请入驻

光照改了,人却变了?美图 ECCV 论文提出一致特征传输重打光新方案 CFT | GAIR Paper 126

0
分享至


在生成式 AI 时代,“克制”比“创造”更难。

作者丨刘洛麒

编辑丨岑 峰

在人像修图里,“光” 是让照片拥有灵魂的关键,也可能是最大的坑。

你可能遇到过这种情况:当你想把光线调成午后暖阳,想尝试霓虹灯下的赛博氛围,或者想把照片调成 “伦勃朗光”增加质感”,但现有的 AI 重打光方案往往把握不好尺度,在复杂光照场景下,常出现光照不稳定、阴影方向错乱,甚至把脸 “修成另一个人” ,修完连亲妈都不认识。

“能在实验室跑通”与“能让用户满意”之间,卡在了身份保真度这一环。

近日,美图影像研究院(MT Lab) 提出 Consistent Feature Transport(CFT,一致特征传输) 将人像重打光重新表述为 光照一致的特征传输问题 ,在 Rectified Flow 框架上显式学习源图与目标图分布之间的光照变换。该成果已被计算机视觉顶级会议 ECCV 2026 (European Conference on Computer Vision)录用,它的核心逻辑只有一句话:只搬运光影,不触碰灵魂。


项目主页 / 代码开源:Consistent Feature Transport for Image Relighting

01


为什么AI重打光容易“翻车”?

当前市面上基于扩散模型的人像重打光主流方法有三条路,但各有各的尴尬:

  • 控制信号驱动(Control-based)方案:可控性较好,但结果高度依赖控制信号的准确性和完整性,一旦参考图不准,光影就容易发生错乱;

  • 本征分解驱动(Decomposition-based)方案:复杂光照下容易出错,误差会传导至最终图像,导致阴影不一致、颜色偏移或细节丢失;

  • 直接图到图翻译(Image-to-image)方案:未显式建模 "光照专属" 的特征位移,光照编辑的精度与表达力不足。

此外,由于公开人像重打光数据集规模有限,且多在受控环境下采集,缺乏复杂光照效果(多色温、空间变化阴影、非均匀照明等),难以支撑真实场景下的可控重打光学习。

02


CFT像运送快递一样传输光影

CFT 在噪声、源图、目标图三个分布之间建立联合建模,训练目标由三部分组成:


1. 噪声→目标图(L₁)给定源图 (xsrc)、重打光目标图 (xtgt) 及文本条件 (ctgt),学习从先验噪声到目标 latent 的速度场,完成条件生成。

2. 噪声→源图(L₂)在同一先验噪声下,以中性条件 (csrc) 重建源图分布。这条重建路径强化了对非光照内容(身份、几何、场景结构)的保持能力。

3. 源图→目标图:光照一致的特征传输(L₃,CFT 核心)借鉴无反演编辑方法,利用 Rectified Flow 的线性性质,通过平行四边形法则构造源到目标的直接传输路径:ztdirect=zsrc+zttgt−ztsrc

对应速度场为:vtdirect=vθ(zttgt,t,xsrc,ctgt)−vθ(ztsrc,t,xsrc,csrc)

值得注意的是L₃的监督使用的是身份与场景内容不同,但光照变换相同的图像对作为真值(ground truth)。这样做的优势在于,如果监督来自同一对图像,模型容易拟合样本特有的内容差异,把光照变化与非光照变化混在一起;而换用“同光照变换、不同内容”的配对,可以让模型学习可跨实例复用的光照特征传输。 在生成稳定性与光照传输监督之间取得平衡。

此外,为了支撑复杂光照场景的学习,团队构建了包括室内、室外等主流场景的大规模人像重打光数据集,覆盖14类光照效果类别,该数据集强调空间结构化照明、多色温与复杂阴影,弥补了现有 portrait relighting 数据在复杂光效上的不足。

03


实验结果

在自建测试集上,CFT相比目前的方案, 在像素保真、感知相似度、分布真实感与光照专用指标上均表现更优。定性实验结果显示,CFT 在多光源交互、空间结构化照明、色温大幅偏移等困难场景下,一致性及稳定性方面均有明显优势。

根据30 名用户对 40 组随机样本打分结果显示,Flux-Kontext + CFT 在评估光照质量(IQ)、内容一致性(CC)、物理合理性(PP)、图像美学(IA)上表现最佳。此外,消融实验显示,单独增加 L₂不能提升重打光质量,但与 L₃联用时提供额外结构保持,完整 CFT 效果最优;L₃若用原始 (xsrc,xtgt) 或随机配对监督,性能反而下降甚至不如仅 L₁;传输速度场方差分析表明,完整 CFT 在训练集与测试集上均具有最低方差,能够学习到更一致、稳定的光照特征传输场。


04


CFT 在风格迁移方面的可泛化能力

CFT 的“一致特征传输”思想并不局限于光照编辑,通过在OmniStyle-150k上构建风格迁移数据集并将 CFT 应用于OmniStyle 与 Qwen-Image-Edit上发现,CFT 在内容结构与感知保真上实现持续提升,生成结果在风格化上取得了更好平衡,这表明 CFT还可迁移至风格迁移等多种属性的编辑任务。


在与目前的 SOTA方案对比中,CFT 在 SSIM(像素保真)、LPIPS(感知相似度)以及 FID(分布真实感)等硬指标上均获得最高分。

目前,图片打光能力已经上线美图旗下产品Picchi、AirBrush与BeautyPlus,不需要输入冗长的提示词,就可以实现各种不同的光线效果。


用户不再需要输入几百字的提示词,也不需要精通专业灯光,只需要点选一种风格,AI 就能在秒级时间内完成一次高精度的“现场布光”。

美图的这篇 ECCV 论文给行业提了个醒:在生成式 AI 时代,“克制”比“创造”更难。 能理解物理规律并精准控制特征的位移,才是让 AI 工具真正走向专业创作的“物理底座”。

为了方便大家抱团交流、互通会议消息,我们专门建了ECCV 2026参会交流群!进群你会解锁这些「福利」

  • 会议情报站投稿 DDL、格式规范、评审进度……关键节点第一时间送达,再也不怕错过 deadline,投稿准备稳稳的。

  • 同行茶话会天南海北的同行都在群里,聊心得、碰思路、攒人脉,科研路上我们同行。

  • 前沿补给站最新研究成果、热点方向实时同步,结合会议主题帮你捋清投稿脉络,给论文灵感加满油。

  • 现场后援团:(会议期间专属开启):到了会场也不用慌——

    路线导航场馆分布、报告厅怎么走,群里随时问;

    议题共读热门 session、Keynote 现场探讨,错过也能追;

    Poster 汇编现场海报精华整理,一键收藏不遗漏;

    约局广场约饭局、采访局、交流局……想唠嗑、想合作、想面基,群里发起就成。

进群传送门:扫码进群或添加微信Qvv0909777,备注:ECCV + 单位/学校+姓名+方向。

搞科研/搞技术,信息差很重要。

来,一起快人一步!

上车,带你看遍全球 AI 顶会精华

可独家畅览:

专家演讲PPT

大会报告全文

热门论文解读

学术新星访谈

未经「AI科技评论」授权,严禁以任何方式在网页、论坛、社区进行转载!

公众号转载请先在「AI科技评论」后台留言取得授权,转载时需标注来源并插入本公众号名片。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
闷声赚钱,绝不带熟人。

闷声赚钱,绝不带熟人。

老陆不老
2026-09-05 20:46:13
女篮亚运最奇葩一幕!小组赛0胜全败晋级8强:1胜却被淘汰出局?

女篮亚运最奇葩一幕!小组赛0胜全败晋级8强:1胜却被淘汰出局?

篮球快餐车
2026-09-23 04:04:59
最高气温仅23℃左右!明天北京有小到中雨,气温明显下降

最高气温仅23℃左右!明天北京有小到中雨,气温明显下降

北青网-北京青年报
2026-09-23 14:33:41
亚运爆大冷!日本惨败,韩国淘汰,国羽男团惊险过关,半决赛对阵公布

亚运爆大冷!日本惨败,韩国淘汰,国羽男团惊险过关,半决赛对阵公布

林子说事
2026-09-23 04:25:05
上海特级校长乔世伟去世,享年76岁,学生追忆:台风天他站在积水里,防止我们摔跤

上海特级校长乔世伟去世,享年76岁,学生追忆:台风天他站在积水里,防止我们摔跤

极目新闻
2026-09-23 11:27:23
老板娘问我她泳衣好看不?我该怎么回答?

老板娘问我她泳衣好看不?我该怎么回答?

太急张三疯
2026-09-23 16:05:09
农民交公粮,能不能视同缴社保?

农民交公粮,能不能视同缴社保?

城事堂
2026-09-22 09:30:50
亚运女篮1/4决赛对阵和时间出炉!中国队再遇老对手,24日12点CCTV5直播

亚运女篮1/4决赛对阵和时间出炉!中国队再遇老对手,24日12点CCTV5直播

老吴说体育
2026-09-23 09:59:20
同学聚会每人收费3万,我转身就走,次日警察找上门:就你幸存了

同学聚会每人收费3万,我转身就走,次日警察找上门:就你幸存了

牛魔王与芭蕉扇
2025-09-01 16:53:51
张展硕1分43秒49有多强?跻身200自历史前10,仅4人比他更快

张展硕1分43秒49有多强?跻身200自历史前10,仅4人比他更快

全景体育V
2026-09-23 17:02:08
菲律宾今天弹劾门槛投票!参议员单多数即可推翻,16,票定罪要求

菲律宾今天弹劾门槛投票!参议员单多数即可推翻,16,票定罪要求

晨光苏醒a
2026-09-23 12:18:34
理想花了几千万拍广告,结果给沃尔沃又打了一次广告

理想花了几千万拍广告,结果给沃尔沃又打了一次广告

51qc我要汽车网
2026-09-23 16:54:03
罗永浩长文回应“理记”,把“理记”的底裤都给扒了,这是不给他留活路

罗永浩长文回应“理记”,把“理记”的底裤都给扒了,这是不给他留活路

江山挥笔
2026-09-22 20:12:12
彻底翻车!大批用户果断关闭自动更新:手机变卡、耗电快真相揭开

彻底翻车!大批用户果断关闭自动更新:手机变卡、耗电快真相揭开

小柱解说游戏
2026-09-23 00:01:45
郭士强选人用人内幕被扒:周琦没参加夏训被拒,林葳没听清喊话被送走,徐杰也被拒

郭士强选人用人内幕被扒:周琦没参加夏训被拒,林葳没听清喊话被送走,徐杰也被拒

萌兰聊个球
2026-09-23 07:24:54
特朗普拒绝回答!乌克兰能否收复全部领土?或许要等到下一个1917

特朗普拒绝回答!乌克兰能否收复全部领土?或许要等到下一个1917

鹰眼Defence
2026-09-23 16:29:42
1.5欧元的家乡菜,换来2700欧元天价罚单!法国女生泪洒澳洲机场,竟栽在它身上…

1.5欧元的家乡菜,换来2700欧元天价罚单!法国女生泪洒澳洲机场,竟栽在它身上…

新欧洲
2026-09-22 19:40:20
CCTV5直播!全新国足亮相重庆,韦世豪首成核心,邵佳一迎两大考验

CCTV5直播!全新国足亮相重庆,韦世豪首成核心,邵佳一迎两大考验

篮球圈里的那些事
2026-09-23 18:14:08
不到48小时曝出5个大瓜!面瘫、产子、冻结上亿,马伊琍令人意外

不到48小时曝出5个大瓜!面瘫、产子、冻结上亿,马伊琍令人意外

王鶔吃吃喝喝
2026-09-22 15:40:11
选择党女主席魏德尔放话:俄气不能丢!德国能源路线要翻盘?

选择党女主席魏德尔放话:俄气不能丢!德国能源路线要翻盘?

新姐看世界
2026-09-22 17:27:43
2026-09-23 19:32:49
AI科技评论 incentive-icons
AI科技评论
点评学术,服务AI
7668文章数 20785关注度
往期回顾 全部

科技要闻

一夜三款新模型,AI价格战再升级

头条要闻

33岁黄梅戏女演员确诊癌症 家人公开求助:她想活下去

头条要闻

33岁黄梅戏女演员确诊癌症 家人公开求助:她想活下去

体育要闻

300万英镑,他们买下了一位队史传奇

娱乐要闻

王玉雯杨玏被曝结婚又离 荒唐一幕出现

财经要闻

全市场都在卷自营

汽车要闻

性能与实用兼得 全新奥迪S5 Avant上市 57.18万元

态度原创

教育
时尚
旅游
数码
军事航空

教育要闻

试着用函数解答,越解越乱,有什么好办法么

消失的天后,带病复出,先赚10个亿

旅游要闻

2026年重庆南山精品菊花展即将启幕!

数码要闻

ID-COOLING预告FLOW 500:前置电源M-ATX兼容机箱,10月见

军事要闻

韩国最新型潜艇首次披露

无障碍浏览 进入关怀版