网易首页 > 网易号 > 正文 申请入驻

ECCV 2026|光照改了,人却变了?美图影像研究院提出一致特征传输重打光新方案CFT

0
分享至



"把光线调成午后暖阳"、"换成霓虹灯下的赛博氛围"、"来一束伦勃朗光,侧脸更有质感"。人像修图里,换光效是最常见也最难做好的需求之一,因为在复杂光照场景下,现有 AI 重打光方案常出现光照不稳定、阴影方向错乱,甚至把脸 "修成另一个人" 的问题。

当前三类基于扩散模型的人像重打光主流方法各有短板,其中控制信号驱动(Control-based)的方案可控性有所提升,但结果高度依赖控制信号的准确性和完整性;本征分解驱动(Decomposition-based)在复杂光照下容易出错,误差会传导至最终图像,导致阴影不一致、颜色偏移或细节丢失;直接图到图翻译(Image-to-image)未显式建模 "光照专属" 的特征位移,光照编辑的精度与表达力不足。

此外,由于公开人像重打光数据集规模有限,且多在受控环境下采集,缺乏复杂光照效果(多色温、空间变化阴影、非均匀照明等),难以支撑真实场景下的可控重打光学习。

对此,美图影像研究院(MT Lab) 提出 Consistent Feature Transport(CFT,一致特征传输),将人像重打光重新表述为光照一致的特征传输问题,在 Rectified Flow 框架上显式学习源图与目标图分布之间的光照变换,而非泛泛的图像翻译,该成果已被计算机视觉顶级会议 ECCV 2026 (European Conference on Computer Vision)录用。



  • 论文标题:Consistent Feature Transport for Image Relighting
  • 项目主页:https://github.com/Dixin-Lab/CFT

CFT 的 核心思路

CFT 在噪声、源图、目标图三个分布之间建立联合建模,训练目标由三部分组成:



1.噪声→目标图(L₁)给定源图 (xsrc)、重打光目标图 (xtgt) 及文本条件 (ctgt),学习从先验噪声到目标 latent 的速度场,完成条件生成。

2.噪声→源图(L₂)在同一先验噪声下,以中性条件 (csrc) 重建源图分布。这条重建路径强化了对非光照内容(身份、几何、场景结构)的保持能力。

3.源图→目标图:光照一致的特征传输(L₃,CFT 核心)借鉴无反演编辑方法,利用 Rectified Flow 的线性性质,通过 平行四边形法则 构造源到目标的直接传输路径:ztdirect=zsrc+zttgt−ztsrc 对应速度场为:vtdirect=vθ(zttgt,t,xsrc,ctgt)−vθ(ztsrc,t,xsrc,csrc)

值得注意的是 L₃的监督使用的是身份与场景内容不同,但光照变换相同的图像对作为真值(ground truth)。这样做的优势在于,如果监督来自同一对图像,模型容易拟合样本特有的内容差异,把光照变化与非光照变化混在一起;而换用 “同光照变换、不同内容” 的配对,可以让模型学习可跨实例复用的光照特征传输。 在生成稳定性与光照传输监督之间取得平衡。

此外,为了支撑复杂光照场景的学习,团队构建了包括室内、室外等主流场景的大规模人像重打光数据集,覆盖 14 类光照效果类别,该数据集强调空间结构化照明、多色温与复杂阴影,弥补了现有 portrait relighting 数据在复杂光效上的不足。

实验结果

在自建测试集上,CFT 相比目前的方案, 在像素保真、感知相似度、分布真实感与光照专用指标上均表现更优。定性实验结果显示,CFT 在多光源交互、空间结构化照明、色温大幅偏移等困难场景下,一致性及稳定性方面均有明显优势。

根据 30 名用户对 40 组随机样本打分结果显示,Flux-Kontext + CFT 在评估光照质量(IQ)、内容一致性(CC)、物理合理性(PP)、图像美学(IA)上表现最佳。此外,消融实验显示,单独增加 L₂不能提升重打光质量,但与 L₃联用时提供额外结构保持,完整 CFT 效果最优;L₃若用原始 (xsrc,xtgt) 或随机配对监督,性能反而下降甚至不如仅 L₁;传输速度场方差分析表明,完整 CFT 在训练集与测试集上均具有最低方差,能够学习到更一致、稳定的光照特征传输场。共四项指标上均获得最高分,



CFT 在风格迁移方面的可泛化能力

CFT 的 “一致特征传输” 思想并不局限于光照编辑,通过在 OmniStyle-150k 上构建风格迁移数据集并将 CFT 应用于 OmniStyle 与 Qwen-Image-Edit 上发现,CFT 在内容结构与感知保真上实现持续提升,生成结果在风格化上取得了更好平衡,这表明 CFT 还可迁移至风格迁移等多种属性的编辑任务。



目前,图片打光能力已经上线美图旗下产品 Picchi、AirBrush 与 BeautyPlus,不需要输入冗长的提示词,就可以实现各种不同的光线效果。



作者简介:

美图影像研究院(MT Lab)是美图公司旗下核心研发团队,于厦门、北京、深圳、上海、悉尼、西雅图等海内外地区均设有研发分部。团队专注于计算机视觉、深度学习、机器学习等人工智能领域的前沿科技研发,并为美图旗下影像与设计产品提供技术支持,现已在CVPR、ICCV、ECCV、ICML、ICLR、AAAI、ACM MM、NeurIPS、TPAMI、TIP等顶级学术会议及期刊上累计发表75篇学术论文。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
女篮头号功臣!韩旭21+11连4场两双 末节14分大爆发主宰胜利

女篮头号功臣!韩旭21+11连4场两双 末节14分大爆发主宰胜利

醉卧浮生
2026-09-10 01:32:09
原来他真不是软柿子!官媒公开发声,刘翔退路曝光,难怪底气十足

原来他真不是软柿子!官媒公开发声,刘翔退路曝光,难怪底气十足

全球风情大揭秘
2026-08-28 20:30:16
蛇不随便进家门!一旦主动入户,其实是在传递两个重要信号

蛇不随便进家门!一旦主动入户,其实是在传递两个重要信号

娱乐圈见解说
2026-08-16 06:24:51
该醒醒了!83年女生称未婚未育,问要20万彩礼是否过分,网友调侃:要少了,按一年一万算,应该要43万

该醒醒了!83年女生称未婚未育,问要20万彩礼是否过分,网友调侃:要少了,按一年一万算,应该要43万

丫头舫
2026-09-09 21:39:55
中越刚在南海闹了不愉快,越南高层这次出国,专门去请强援回来?

中越刚在南海闹了不愉快,越南高层这次出国,专门去请强援回来?

铁锤侃侃而谈
2026-09-09 09:26:44
范冰冰亮相菲拉格慕活动!鎏金套装气场直接拉满

范冰冰亮相菲拉格慕活动!鎏金套装气场直接拉满

墨薷桃桃
2026-09-09 09:30:14
四年级男孩周末独自在家上吊身亡,父母索赔70万被法院驳回:这次,网友吵翻了

四年级男孩周末独自在家上吊身亡,父母索赔70万被法院驳回:这次,网友吵翻了

教师吧
2026-09-07 17:17:34
保利集团董事长贺平的人生颇具传奇色彩:他娶了邓小平的女儿为妻,还曾低调斥资3000万元收回三件国宝

保利集团董事长贺平的人生颇具传奇色彩:他娶了邓小平的女儿为妻,还曾低调斥资3000万元收回三件国宝

z千年历史老号
2026-09-07 11:43:45
江苏淮安一男子称“部分洋河梦之蓝放地库14年只剩空瓶”,厂家回应:出现这样问题的原因有很多,有可能是储存问题,目前正在积极沟通

江苏淮安一男子称“部分洋河梦之蓝放地库14年只剩空瓶”,厂家回应:出现这样问题的原因有很多,有可能是储存问题,目前正在积极沟通

台州交通广播
2026-09-10 13:10:29
“长沙摸臀案”事件升级!一个全新账号“轻松熊”横空出世,简介直白:想喷都来,我就是要碰瓷4岁小孩起号,我是小仙女要维权

“长沙摸臀案”事件升级!一个全新账号“轻松熊”横空出世,简介直白:想喷都来,我就是要碰瓷4岁小孩起号,我是小仙女要维权

火山詩话
2026-09-09 10:53:39
贾乃亮李小璐再同框,甜馨发布一家三口做公益视频;贾乃亮:爸爸永远是你最坚实的后盾,李小璐:把爱传递

贾乃亮李小璐再同框,甜馨发布一家三口做公益视频;贾乃亮:爸爸永远是你最坚实的后盾,李小璐:把爱传递

上海约饭局
2026-09-10 15:07:45
贵州 “锦旗藏刀” 伤医案:被袭医生命运多舛,知情人士称从未接诊行凶者

贵州 “锦旗藏刀” 伤医案:被袭医生命运多舛,知情人士称从未接诊行凶者

第一财经资讯
2026-09-10 12:45:35
又一新股来了,2.5万元顶格申购

又一新股来了,2.5万元顶格申购

第一财经资讯
2026-09-10 09:12:31
空砍7记ACE球!郑钦文美网输新NO.1:排名升至第52,将战2站中国赛!

空砍7记ACE球!郑钦文美网输新NO.1:排名升至第52,将战2站中国赛!

刘姚尧的文字城堡
2026-09-10 08:35:02
张兰暴瘦的照片刷屏了,我想说点不一样的

张兰暴瘦的照片刷屏了,我想说点不一样的

东方不败然多多
2026-09-09 05:45:14
宣布“没有AI”后,一周下载破100万!LibreOffice火了:“是的,没有AI现在成了一种特色”

宣布“没有AI”后,一周下载破100万!LibreOffice火了:“是的,没有AI现在成了一种特色”

CSDN
2026-09-10 07:42:37
CCTV5直播中国男篮VS哈萨克斯坦,郭士强迎好消息,胡金秋任劳任怨

CCTV5直播中国男篮VS哈萨克斯坦,郭士强迎好消息,胡金秋任劳任怨

体育大学僧
2026-09-10 12:17:42
36岁的哈登,36岁的韦德,36岁的科比,差距一目了然,哈登强太多

36岁的哈登,36岁的韦德,36岁的科比,差距一目了然,哈登强太多

钱说体育
2026-09-10 14:33:26
形体模特李琪火了!人高马大,网友:一般男人难驾驭

形体模特李琪火了!人高马大,网友:一般男人难驾驭

烟浔渺渺
2026-09-10 06:02:34
女性长期使用情趣用品,身体可能出现哪些不适?不少人缺乏认知

女性长期使用情趣用品,身体可能出现哪些不适?不少人缺乏认知

看世界的人
2026-08-07 09:22:50
2026-09-10 16:24:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13960文章数 142731关注度
往期回顾 全部

科技要闻

一文看懂:iPhone折叠屏顶配2万6,10月才卖

头条要闻

22岁女子与男友吵架后投江身亡:生前被迫写"卖身契"

头条要闻

22岁女子与男友吵架后投江身亡:生前被迫写"卖身契"

体育要闻

一年丢掉的积分排名,郑钦文用18天找回来

娱乐要闻

郭德纲被处罚2天,身边人传出好消息

财经要闻

重磅!金融强国建设“十五五”规划出台

汽车要闻

腾势Z9GT易三方闪充尊越型32.98万元上市

态度原创

健康
本地
房产
游戏
时尚

牙疼,也可能跟心梗有关?!

本地新闻

拼假 13 天国内长线路线合集

房产要闻

别不服!海南的亿万富豪,只有不到300个!

Xbox英国疑似手滑泄露《控制:共振》将首发加入XGP

女人不管多大,都可以看看这些“条纹T恤”,非常减龄又简约

无障碍浏览 进入关怀版