网易首页 > 网易号 > 正文 申请入驻

川大雷印杰团队论文:用现实物理规律「重写」视频生成方式丨CVPR 2026

0
分享至


基于事件链与关键帧机制,提升时序与因果一致性。

作者丨郑佳美

编辑丨岑 峰

想象这样一些常见却又微妙的场景:一勺蜂蜜缓慢倒入热茶,本应拉出细长连续的丝状流动,但很多生成视频却会突然断裂甚至凭空消失;一块冰在室温下逐渐融化,真实过程应该是边缘先软化、体积变化、最终消散,而生成结果却常常直接从完整变成消失;一个玻璃球落入水中,本应经历接触水面、减速下沉、逐渐稳定的过程,但模型却可能只给出一个结果画面。

这些现象并不罕见,也正是当前视频生成技术最容易让人出戏的地方。画面看起来像,但过程不对,缺乏因果关系,也缺乏真实世界中那种连续演化的逻辑。

随着视频生成模型的发展,从 OpenAI Sora 到 Kling 等系统不断刷新视觉质量的上限,行业已经基本解决了清晰度和风格的问题,却逐渐暴露出更深层的瓶颈,即模型缺乏对物理规律的理解能力。

现有方法更多依赖数据驱动的模式匹配,本质上是在生成看起来合理的结果,而不是在模拟真实发生的过程,这也导致在流体、热变化以及多物体交互等场景中表现明显不足。

在这样的背景下,来自四川大学的雷印杰团队提出了一项新的研究工作《Chain of Event-Centric Causal Thought for Physically Plausible Video Generation》。这项研究不再直接从文本生成视频,而是尝试让模型先理解物理过程本身,将复杂现象拆分为一系列具有因果关系的事件,并结合物理规律进行约束,再逐步生成视频内容。

通过这种方式,目标不再只是让画面看起来真实,而是让变化过程本身也符合现实世界的运行逻辑,从而在更深层次上提升视频生成的可信度和一致性。


论文地址:https://arxiv.org/pdf/2603.09094

01


更加符合「真实世界」的方式

在实验结果方面,研究团队首先在 PhyGenBench 数据集上进行了系统评估。这个数据集包含 160 条物理描述,覆盖力学、光学、热学和材料四类典型物理场景。

整体性能上,研究方法取得了 0.66 的得分,而此前最优方法 PhysHPO 为 0.61,实现了 0.05 的绝对提升,对应约 8.19% 的相对提升。同时,与基础视频生成模型相比优势更加明显,例如 Kling 为 0.49,Gen-3 为 0.51,CogVideoX 为 0.45,而研究方法达到 0.66,相当于提升约 0.15 到 0.21,整体相对提升超过 30%,说明性能提升幅度非常显著。

在分领域结果上,研究方法在四个方向分别取得了不同成绩。力学方向为 0.67,相比此前约 0.55 提升了 0.12;光学方向为 0.72,相比 0.68 提升了 0.04,热学方向为 0.65,相比 0.58 提升了 0.07;材料方向为 0.60,虽然低于最高值 0.65,但仍保持接近水平。从整体来看,在四个物理领域中有三个取得第一,综合表现最强。


进一步的细粒度分析中,研究团队将能力拆分为物理现象识别能力和物理顺序正确性两个指标。在力学场景中,研究方法的物理现象识别为 0.79,物理顺序为 0.79,而对比方法 DiffPhy 分别为 0.73 和 0.53,顺序正确性从 0.53 提升到 0.79,提升幅度达到 0.26。

在光学场景中,研究方法分别为 0.84 和 0.85,对比方法为 0.83 和 0.66,顺序提升为 0.19。在热学场景中,研究方法为 0.78 和 0.69,对比方法为 0.70 和 0.58,顺序提升为 0.11。可以看出,最显著的提升集中在物理过程顺序这一指标上,说明模型在时间顺序和因果逻辑方面的能力得到明显增强。


在 VideoPhy 数据集上,研究方法同样表现出良好的泛化能力。这个数据集包含 688 条更贴近真实应用的提示,涵盖固体与固体、固体与液体以及液体与液体之间的复杂交互。评价指标为同时满足语义一致性和物理合理性的比例,即语义正确且物理正确。

研究方法取得 49.3% 的结果,而此前最优方法约为 45.9%,提升 3.4%。与基础模型相比,CogVideoX 为 39.6%,研究方法提升了 9.7%。在不同交互类型中,提升最明显的是流体相关场景,例如液体流动、蜂蜜倒入等连续变化过程,整体提升超过 10%,说明在处理连续物理动态方面具有明显优势。


为了进一步验证方法的有效性,研究团队进行了消融实验。在去掉物理公式模块后,性能从 0.66 下降到 0.62,下降 0.04,约 6%。去掉事件分解模块后,结果降至 0.59,下降 0.07,约 11%。去掉文本渐进生成模块后,结果为 0.64,下降 0.02,约 3%。而去掉关键帧生成模块后,性能降至 0.55,下降 0.11,约 17%,是影响最大的部分。这说明事件链结构和关键帧机制在整个方法中起到最核心作用。


此外,研究团队还分析了事件数量对性能的影响。当事件数量为 1 到 3 时,由于信息不足,性能下降;当事件数量为 4 时,性能达到最佳;当增加到 5 到 6 时,由于误差在关键帧和推理过程中逐步累积,性能反而下降。这说明事件数量存在一个最优范围,过少无法表达完整过程,过多会引入不稳定性。


02


从一句话,到一整个物理过程

为了得到满意的实验结果,研究团队首先进行了统一的实验设置。视频生成模型采用 CogVideoX-5B,生成视频的分辨率为 1360×768,每个视频包含 161 帧。在语言推理部分,使用的模型为 GPT-OSS-20B,在图像编辑阶段使用 Qwen-Image 模型,用于生成关键帧并引导后续视频生成过程。

在具体流程上,整个过程按照多个步骤逐步进行。首先输入文本描述,例如“蜂蜜倒入杯中”。随后模型对文本进行理解,自动识别其中涉及的物理规律,例如判断属于流体力学范畴,并识别出包含体积变化和连续流动等特征。在完成物理规律识别之后,系统会从知识库中检索与这一过程相对应的物理公式,用于后续推理和约束。


在此基础上,研究团队构建事件链结构,即通过 PECR 模块将完整物理过程拆分为多个连续事件。例如将“蜂蜜倒入杯中”这一过程分解为开始倒入、接触杯子、液体逐渐堆积以及液面上升等阶段。

每一个事件不仅包含对应的语义描述,还包含物理参数信息,例如高度和体积变化,同时还包括场景关系信息,例如不同物体之间的上下关系。通过这种方式,将原本连续的物理过程转化为离散的事件序列,从而为后续建模提供清晰的结构。


接下来进入语义提示生成阶段。模型会为每一个事件生成对应的描述语句,然后再将这些描述整合为一个完整的句子,通常采用“首先、然后、最后”等表达形式,从而形成具有因果逻辑的整体语义提示,保证事件之间的顺序关系清晰一致。

随后进行视觉提示生成,即关键帧生成阶段。针对每一个事件生成一张对应图像,并通过图像编辑方式逐步对画面进行修改,同时控制变化幅度,例如液体高度的增加量。这种方式能够避免完全随机生成,使视觉变化更加稳定且符合物理过程。

在关键帧生成完成之后,系统会在相邻关键帧之间插入中间帧,通过插值方式构建连续过渡,再将这些信息输入扩散模型,最终生成完整视频。


在对比实验部分,研究团队采用统一设置进行评估,包括使用相同的文本输入、相同的数据集以及相同的评价指标。在此基础上,将研究方法与不同类型模型进行对比,包括普通视频生成模型如 Kling 和 Gen-3,以及物理增强模型如 DiffPhy 和 PhysHPO,从而保证实验结果具有公平性和可比性。

03


从生成画面,到模拟现实

这项研究的意义,其实可以从一个很直观的变化来理解。以往的视频生成更像是在“拼画面”,模型只需要让结果看起来像真实世界即可,但一旦仔细观察过程,就会发现很多不合理之处。例如液体不会连续流动,物体运动缺乏前后关系,甚至出现违背常识的变化。这些问题本质上源于模型缺乏因果关系、时间逻辑以及对物理规律的理解,使得视频虽然“像”,却不“真”。

研究团队在此基础上带来的改变,是把视频生成从简单的画面合成,转变为对过程本身的建模。原本是从文本直接生成一段图像序列,现在变成先构建一条具有因果关系的事件链,再基于这条事件链生成视频。

这样的变化意味着模型不再只是输出结果,而是开始“经历过程”,在结构上自然引入时间顺序和前后逻辑,使视频更接近现实世界的演化方式。

这种能力提升的关键在于三个方面的结合。首先是物理约束能力,通过引入物理公式,让生成过程不再随意变化,而是受到现实规律的限制。其次是因果结构建模能力,通过事件链明确每一步应该如何发生,保证顺序正确。最后是视觉锚点能力,通过关键帧约束中间过程,使画面变化更加连续和稳定。这三者共同作用,使模型从“生成看起来合理的结果”,迈向“模拟真实发生的过程”。

当然,这一变化对普通人的影响其实非常直接。未来在短视频创作中,用户只需要输入一个简单描述,就可以生成更真实、更连贯的动态内容,不再出现违和感;在教育场景中,可以用视频直观展示复杂的物理过程,例如液体流动、光线传播或物体运动,让抽象概念变得可视化;在游戏和虚拟世界中,环境中的变化也会更加符合现实规律,提高沉浸感;甚至在自动驾驶和机器人训练中,这种更真实的模拟能力也有助于模型更好地理解现实环境。

从更长远的角度来看,这项研究把视频生成从视觉任务提升为物理过程建模问题,为构建更接近真实世界的智能系统提供了基础。

不过研究团队也指出,目前方法在面对多个物理规律同时作用的复杂场景时仍然存在困难,例如牛顿摆与水爆炸同时发生的情况,模型容易失效。这也说明在组合物理推理方面仍有明显提升空间,也为后续研究指明了方向。

04


推动生成走向「因果」的他们

这篇论文的通讯作者雷印杰,现为四川大学教授、博士生导师,同时入选国家级青年人才项目,长期从事人工智能相关研究工作。

在个人经历方面,雷印杰具有系统的学术培养背景,分别于 2006 年、2009 年和 2013 年在西南交通大学、四川大学和澳大利亚西澳大学获得本科、硕士和博士学位。

2013 年 12 月进入四川大学电子信息学院,从事教学与科研工作,随后在 2017 年 9 月起担任四川大学电子信息学院副院长。在此过程中,还入选四川省特聘专家、四川省学术和技术带头人后备人选,并获得四川杰出青年科学基金支持。

在研究方向上,雷印杰主要聚焦人工智能领域相关问题。科研工作方面,他长期主持和参与国家级科研项目及企业合作项目,研究内容涵盖人工智能、计算机视觉以及多模态理解等方向,在学术研究与工程应用之间形成了较好的结合。


参考链接:https://eie.scu.edu.cn/info/1044/13503.htm


未经「AI科技评论」授权,严禁以任何方式在网页、论坛、社区进行转载!

公众号转载请先在「AI科技评论」后台留言取得授权,转载时需标注来源并插入本公众号名片。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
闷声赚钱,绝不带熟人。

闷声赚钱,绝不带熟人。

老陆不老
2026-09-05 20:46:13
女篮亚运最奇葩一幕!小组赛0胜全败晋级8强:1胜却被淘汰出局?

女篮亚运最奇葩一幕!小组赛0胜全败晋级8强:1胜却被淘汰出局?

篮球快餐车
2026-09-23 04:04:59
最高气温仅23℃左右!明天北京有小到中雨,气温明显下降

最高气温仅23℃左右!明天北京有小到中雨,气温明显下降

北青网-北京青年报
2026-09-23 14:33:41
亚运爆大冷!日本惨败,韩国淘汰,国羽男团惊险过关,半决赛对阵公布

亚运爆大冷!日本惨败,韩国淘汰,国羽男团惊险过关,半决赛对阵公布

林子说事
2026-09-23 04:25:05
上海特级校长乔世伟去世,享年76岁,学生追忆:台风天他站在积水里,防止我们摔跤

上海特级校长乔世伟去世,享年76岁,学生追忆:台风天他站在积水里,防止我们摔跤

极目新闻
2026-09-23 11:27:23
老板娘问我她泳衣好看不?我该怎么回答?

老板娘问我她泳衣好看不?我该怎么回答?

太急张三疯
2026-09-23 16:05:09
农民交公粮,能不能视同缴社保?

农民交公粮,能不能视同缴社保?

城事堂
2026-09-22 09:30:50
亚运女篮1/4决赛对阵和时间出炉!中国队再遇老对手,24日12点CCTV5直播

亚运女篮1/4决赛对阵和时间出炉!中国队再遇老对手,24日12点CCTV5直播

老吴说体育
2026-09-23 09:59:20
同学聚会每人收费3万,我转身就走,次日警察找上门:就你幸存了

同学聚会每人收费3万,我转身就走,次日警察找上门:就你幸存了

牛魔王与芭蕉扇
2025-09-01 16:53:51
张展硕1分43秒49有多强?跻身200自历史前10,仅4人比他更快

张展硕1分43秒49有多强?跻身200自历史前10,仅4人比他更快

全景体育V
2026-09-23 17:02:08
菲律宾今天弹劾门槛投票!参议员单多数即可推翻,16,票定罪要求

菲律宾今天弹劾门槛投票!参议员单多数即可推翻,16,票定罪要求

晨光苏醒a
2026-09-23 12:18:34
理想花了几千万拍广告,结果给沃尔沃又打了一次广告

理想花了几千万拍广告,结果给沃尔沃又打了一次广告

51qc我要汽车网
2026-09-23 16:54:03
罗永浩长文回应“理记”,把“理记”的底裤都给扒了,这是不给他留活路

罗永浩长文回应“理记”,把“理记”的底裤都给扒了,这是不给他留活路

江山挥笔
2026-09-22 20:12:12
彻底翻车!大批用户果断关闭自动更新:手机变卡、耗电快真相揭开

彻底翻车!大批用户果断关闭自动更新:手机变卡、耗电快真相揭开

小柱解说游戏
2026-09-23 00:01:45
郭士强选人用人内幕被扒:周琦没参加夏训被拒,林葳没听清喊话被送走,徐杰也被拒

郭士强选人用人内幕被扒:周琦没参加夏训被拒,林葳没听清喊话被送走,徐杰也被拒

萌兰聊个球
2026-09-23 07:24:54
特朗普拒绝回答!乌克兰能否收复全部领土?或许要等到下一个1917

特朗普拒绝回答!乌克兰能否收复全部领土?或许要等到下一个1917

鹰眼Defence
2026-09-23 16:29:42
1.5欧元的家乡菜,换来2700欧元天价罚单!法国女生泪洒澳洲机场,竟栽在它身上…

1.5欧元的家乡菜,换来2700欧元天价罚单!法国女生泪洒澳洲机场,竟栽在它身上…

新欧洲
2026-09-22 19:40:20
CCTV5直播!全新国足亮相重庆,韦世豪首成核心,邵佳一迎两大考验

CCTV5直播!全新国足亮相重庆,韦世豪首成核心,邵佳一迎两大考验

篮球圈里的那些事
2026-09-23 18:14:08
不到48小时曝出5个大瓜!面瘫、产子、冻结上亿,马伊琍令人意外

不到48小时曝出5个大瓜!面瘫、产子、冻结上亿,马伊琍令人意外

王鶔吃吃喝喝
2026-09-22 15:40:11
选择党女主席魏德尔放话:俄气不能丢!德国能源路线要翻盘?

选择党女主席魏德尔放话:俄气不能丢!德国能源路线要翻盘?

新姐看世界
2026-09-22 17:27:43
2026-09-23 19:32:49
AI科技评论 incentive-icons
AI科技评论
点评学术,服务AI
7668文章数 20785关注度
往期回顾 全部

科技要闻

一夜三款新模型,AI价格战再升级

头条要闻

33岁黄梅戏女演员确诊癌症 家人公开求助:她想活下去

头条要闻

33岁黄梅戏女演员确诊癌症 家人公开求助:她想活下去

体育要闻

300万英镑,他们买下了一位队史传奇

娱乐要闻

王玉雯杨玏被曝结婚又离 荒唐一幕出现

财经要闻

全市场都在卷自营

汽车要闻

性能与实用兼得 全新奥迪S5 Avant上市 57.18万元

态度原创

本地
亲子
艺术
手机
公开课

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

亲子要闻

书法老师分享正确写字姿势,“不要把本子放在正前方 容易趴桌勾腕”,“把本子放在身体右前方,比较舒服”

艺术要闻

《圣教序》原稿震撼展出,再现王羲之笔法真面目,原来我们都练错了!

手机要闻

适用荣耀、小米、阶跃手机,网信部门发布3款提供手机端侧生成式AI服务已备案信息

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版