网易首页 > 网易号 > 正文 申请入驻

原来世界模型,已经能边玩边生成了

0
分享至

这是苍何的第 584 篇原创!

大家好,我是苍何。

兄弟们,最近我连续看了几段爱诗科技旗下 PixVerse R2 的视频,有个感觉特别强烈:这玩意儿已经很难用单一品类来概括了。

第一段,是空间体验。

人在一个修仙世界里,可以通过 WASD 控制移动,再用方向键调整镜头。每一次操作都会成为新的输入,眼前的场景也会跟着继续生成。

第二段,是互动影游。

故事已经开始,用户可以通过选择、文字或语音参与其中。角色接下来做什么,镜头如何演出,局部剧情往哪里发展,都会受到输入影响。

第三段,是数字人。

直播带货、三星堆等场景里,数字人可以持续接收提示词输入,结合人设和上下文做出回应。语音、表情、神态和动作被放进同一段实时表演中,交流过程也更接近一个持续存在的角色。

把这几段视频摆在一起看,会发现它们很像三类完全不同的产品:一个像游戏,一个像互动电影,一个像可以随时交流的虚拟角色。

它们的底层却来自同一个实时世界模型。

更准确地说,是同一套实时世界模型提供生成底座,Director Agent 负责理解意图和组织演出,Runtime 负责管理持续变化的内容状态。

一个模型,开始撑起空间、故事和角色三种玩法。

一个世界持续运行,有多难?

过去生成一段内容,任务结束于成片交付。

实时世界模型面对的是另一种工作方式:内容始终在运行,用户随时可能按下一个方向键、说一句话、换一个目标,模型需要立刻接住这次变化,再继续生成后面的世界。

生成下一段只是起点。

真正麻烦的地方,在于连续经历多次操作以后,场景、角色、运动和上下文还能不能保持稳定。

比如用户刚刚经过一座建筑,转动视角后,这座建筑的位置和形态需要延续;角色上一轮做了一个动作,下一轮的姿态需要自然衔接;故事里刚刚发生的事件,也应该继续影响后面的演出。


每一次生成还会成为下一次生成的历史。一个很小的偏差写入历史后,可能沿着后续内容不断放大,最后出现人物变脸、场景突变、亮度漂移、动作断裂等问题。

视频生成关心下一段看起来是否自然,持续运行的世界还要关心每一次变化能否接得住。

R1 做成全球首个,R2 开始解决 Scaling

2026 年 1 月,爱诗科技发布 PixVerse R1。根据 PixVerse 官方发布信息,R1 是全球首个实时世界模型,也是行业第一次把连续、可交互的 1080P AI 视频生成,以及对用户输入的即时响应,放进同一套实时系统。

这一定位也有一线媒体的外部报道作背书:36氪称其为全球首个支持最高 1080P 分辨率的通用实时世界模型;新华网则指出,R1 首次将视频生成延迟降至“即时”响应,推动 AIGC 视频从静态输出迈入实时交互的新阶段。

这不是简单地把一段视频生成得更快,而是第一次让视频从“生成后播放”,走向“边生成、边交互、边延续”的实时世界。

到了 4 月,R1 又完成了一次行业首次:用户第一次可以用个性化 Avatar 进入 AI 生成世界,与其他人实时共同探索、共同影响世界走向。7 月发布的 PixVerse Game Engine,则进一步把实时世界模型、AI Agent 和结构化游戏机制连接起来。

这一连串更新证明了实时生成世界的技术路线能够跑通。


R2 更关键的变化,是让一次输入进入正在运行的内容状态:它会继续影响剧情分支、角色记忆、任务进度、结果反馈和关系变化。

接下来还要回答一个更难的问题:当模型规模、训练数据、交互任务、控制信号和运行时间继续增长,已有能力如何一起增长?


过去的长视频和实时生成框架,往往依赖一条很长的训练流水线。

双向基础模型先转成自回归模型,再构造面向具体任务的蒸馏 Teacher,接着进行 DMD 蒸馏,后面还要加入带 Self-Rollout 的训练,继续修正训练和推理之间的差异。

流程每多一个阶段,就会多一次能力迁移和目标对齐。上游积累的画面、运动、条件遵循和长程稳定能力,也可能在迁移中产生折损。


图 1:R2 将原先的多阶段训练流水线收敛为 Omni Causal AR 与 Real-Time Acceleration 两个核心过程。(来源:PixVerse R2 技术报告)

PixVerse R2 把这条长流水线收敛成两个核心过程。

第一步,持续预训练统一的Omni Causal AR,让模型在同一个体系里吸收更多数据、任务、模态和长时间交互轨迹。

第二步,通过Real-Time Acceleration,直接把已经形成的世界建模能力加速到低延迟的实时运行区间。


同一个 Omni Causal AR 同时承担 Student ODE 的初始化和蒸馏 Teacher,Teacher、Student 与真实的自回归推理共享同一套因果建模基础。

它会把完整时空建模获得的生成先验,转化为沿时间单向推进的世界状态变化。Text、Reference、Audio 与 Action,也由此成为持续推动世界演化的因果信号。

少了反复搬运,新增能力可以沿着同一条训练路径继续积累。

这也是 R2 所说的 Scaling:世界模型从“能不能做”,开始走向“能不能持续做大”。

一个模型,怎么接住不同玩法?

空间探索、互动影游和数字人,表面上差别很大,底层输入的节奏也完全不同。

按一次 WASD,需要模型马上反馈移动结果;一句 Prompt 可能描述一个完整事件;一段语音同时包含语义、情绪、节奏和时间信息;参考图片还要约束角色或场景的视觉状态。

如果把这些信号全部塞进固定长度的时间单元,响应速度和表达完整度很容易互相牵制。

R2 引入了Dynamic Chunk。

模型会根据控制信号的语义边界和持续时间,自适应地切分音视频序列。短 Chunk 用来接住动作和局部指令,长 Chunk 用来保留事件、运动和音视频语义的完整结构。


简单理解,用户按下一个方向键,系统就用更细的时间颗粒快速响应;用户给出一段复杂的剧情指令,系统会留出更完整的生成空间。

Text、Reference、Audio 和 Action 因此能够进入同一套因果生成接口,持续改变下一段世界状态。

这也是报告标题里 “Omni” 的含义:不同模态、不同任务和不同控制信号,都在同一个模型中学习和运行。


图 2:Text、Reference、Audio 与 Action 可以在不同交互时刻进入同一个因果生成过程,并驱动下一段音视频。(来源:PixVerse R2 技术报告)

世界一直往前走,怎么减少漂移?

长时间运行会带来两个直接问题。

历史全部保留,计算和显存成本会越来越高;历史裁剪过多,角色身份、场景设定和关键事件又容易丢失。

R2 给出的方案是一套多尺度记忆体系。

Sink Memory保存角色、场景、风格和世界规则等长期锚点;Rolling History关注最近的动作、姿态、镜头和环境变化;Object KV Cache复用并压缩已经计算过的对象级历史表征。

长期信息、近期动态和对象状态各走一条通道,模型可以在固定预算内维持世界身份与局部连续性。

训练阶段还加入了 Hybrid Teacher Forcing 和 Diffusion Forcing。

模型一边学习干净历史,保持单次生成的质量上限;一边接触带噪历史,提前适应真实运行中由自身生成的小误差。


图 3:Hybrid TF/DF 的统一因果掩码。Diffusion Forcing 只读取历史窗口;Teacher Forcing 中干净查询读取干净历史,带噪查询读取此前历史与自身状态,任何未来状态均不可见。(来源:PixVerse R2 技术报告)

R2 还建立了一个Error Bank,把有代表性的错误历史状态存下来,再按一定比例放回训练过程。模型会反复学习如何识别、吸收和修复已经出现偏差的历史。

技术报告给出了一组阶段性结果:长期亮度漂移指标从 0.201 降到 0.129,降幅约 35.8%;29 个长序列样例中有 20 个获得改善,5 个明确无动作的样例全部减少了错误运动。


截图来源:PixVerse R2 技术报告。

这组数字很有意思。

它意味着模型的训练目标里,已经加入了“犯错以后怎么继续走”这件事。

能力有了,怎么塞进实时交互?

完整的世界模型能力很重,实时交互又对延迟极其敏感。

R2 的实时加速层主要做三件事。


第一件是 DDMD with Adversarial Regularization。

条件对齐负责让模型准确响应 Prompt、Reference、Audio 和 Action,分布匹配负责继承 Teacher 的生成能力,对抗正则则用真实数据帮助模型维持纹理、运动和整体真实感。

第二件是 Block-sparse Attention。

模型把注意力计算集中到当前控制、近期运动和关键世界状态相关的少量计算块上。报告称注意力稀疏度已经提升到 90% 以上,当前评测中的画面质量、动作连续性、条件遵循和长时稳定性没有出现明显退化。

第三件是 Pyramid Ultra-few-step Distillation。

模型先用一到两个低分辨率阶段确定场景布局、主体运动和镜头结构,再通过一个高分辨率阶段恢复纹理、边缘和局部细节。

先搭骨架,再补细节,高分辨率空间里的重复计算会少很多。

这三部分共同做了一件事:把已经形成的世界建模能力,尽可能完整地加速到实时运行区间。


三种玩法,指向同一个变化

理解完这些技术,再回头看开头的三段视频,会发现三类体验恰好对应了 R2 的不同能力。

空间体验里的 WASD 和镜头控制,对应 Action 的即时输入、Dynamic Chunk 的快速响应,以及长期运行中的场景连续性。

互动影游里的选择、文字和语音,对应多模态控制进入正在发生的故事,让输入继续影响角色行为、局部演出和后续分支。


数字人方向则把语音、人设、记忆、表情和动作放进持续互动过程。角色要听懂当下的问题,也要保持前后身份一致,让回答与表演能够衔接起来。

World、Story、Character,构成了 PixVerse R2 当前最清晰的三个产品入口。

往更远处看,互动影视的观众可以进入剧情,实时生成游戏的内容会跟着玩家行动继续生长,虚拟角色也能从一段预制表演走向持续交流。

互动娱乐的内容形态,正在从固定成品变成一套持续运行、持续响应的系统。

回头看 PixVerse 这一年的演进,R1 证明了实时视频世界模型可以成立,R2 开始建立一条统一、可扩展、能够持续提升的训练路径。

一个模型可以继续吸收更多数据、更多任务、更多控制方式和更长时间尺度,再让这些能力进入实时交互。

空间、故事和角色,也由此拥有了共同的技术底座。

当世界能够持续接收输入并继续演化,AI 生成的内容也有了可参与、可延续的生命力。一个真正可以走进去的世界,开始出现了。

如果让你从空间探索、互动影游和实时数字人中选一个先体验,你会选哪一个?

评论区聊聊,点赞、在看,也欢迎关注我。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
还得是谷歌,Gemini 4 发布,猛的离谱。。。

还得是谷歌,Gemini 4 发布,猛的离谱。。。

苍何
2026-10-01 07:14:23
活塞再次让步!再不签真成傻子了!

活塞再次让步!再不签真成傻子了!

柚子说球
2026-10-01 13:47:06
成本仅3000万,票房破5亿?陈思诚都压不住,这才是国庆档大黑马

成本仅3000万,票房破5亿?陈思诚都压不住,这才是国庆档大黑马

靠谱电影君
2026-09-29 17:18:16
张继科回怼“银牌比金牌有含金量”发言:笑话、胡说八道,就是胜者为王!

张继科回怼“银牌比金牌有含金量”发言:笑话、胡说八道,就是胜者为王!

烟浔渺渺
2026-10-01 14:08:32
U23国足遭吐槽!徐亮:不用太指望,只看上王钰栋,徐彬太一般

U23国足遭吐槽!徐亮:不用太指望,只看上王钰栋,徐彬太一般

奥拜尔
2026-10-01 16:52:12
一动不动,高速“沦陷”  ,聪明人都堵在了路上

一动不动,高速“沦陷” ,聪明人都堵在了路上

楼主说楼市
2026-10-01 14:12:20
农业农村部:在充分尊重农民意愿基础上盘活利用闲置农房,让农民多一份财产性收入!

农业农村部:在充分尊重农民意愿基础上盘活利用闲置农房,让农民多一份财产性收入!

极目新闻
2026-09-29 13:50:07
触目惊心!沪昆高速怀化段车祸残骸曝光,6死4伤,57岁老司机涉嫌疲劳驾驶

触目惊心!沪昆高速怀化段车祸残骸曝光,6死4伤,57岁老司机涉嫌疲劳驾驶

火山詩话
2026-10-01 12:14:04
此案例完美解释了国企亏损的原因,令人震惊…

此案例完美解释了国企亏损的原因,令人震惊…

慧翔百科
2026-09-30 08:28:46
湖南一孕妇马路中间骑车压速并别车,后车司机怒而下车一脚将车踹翻,司机:赔了800元,交警队已获取完整视频,将处理

湖南一孕妇马路中间骑车压速并别车,后车司机怒而下车一脚将车踹翻,司机:赔了800元,交警队已获取完整视频,将处理

台州交通广播
2026-10-01 12:47:18
江西小伙内蒙旅游误入蒙族婚宴,随礼2888,走前被新娘妹妹拦住

江西小伙内蒙旅游误入蒙族婚宴,随礼2888,走前被新娘妹妹拦住

故事秘栈
2025-06-21 18:56:16
公路车骑行服,熟女骑行穿搭,利落面料勾勒饱满曲线

公路车骑行服,熟女骑行穿搭,利落面料勾勒饱满曲线

只要高兴就好
2026-09-24 11:58:50
热苏斯:我和C罗约好首战后休两场,热身太久没上他生我气了

热苏斯:我和C罗约好首战后休两场,热身太久没上他生我气了

懂球帝
2026-10-01 03:04:06
“吕布跳大”候车厅火了!武汉汉口站被国庆人流填满,网友实拍:两公里堵到步行进站

“吕布跳大”候车厅火了!武汉汉口站被国庆人流填满,网友实拍:两公里堵到步行进站

火山詩话
2026-10-01 08:38:44
139票赞成,0票反对,匈牙利传来新消息!

139票赞成,0票反对,匈牙利传来新消息!

故事终将光明磊落
2026-09-30 16:26:44
金牌甩日本3倍!10月1日奖牌榜早报:排名再洗牌,三队奖牌数破百

金牌甩日本3倍!10月1日奖牌榜早报:排名再洗牌,三队奖牌数破百

大秦壁虎白话体育
2026-10-01 07:22:52
大批历史博主集体阵亡?百万账号封禁?不是限流,是断流清退!

大批历史博主集体阵亡?百万账号封禁?不是限流,是断流清退!

升子山的她视界
2026-10-01 16:19:35
几乎全假货!利润高达2400%,为何消费者还一头扎进去争相购买?

几乎全假货!利润高达2400%,为何消费者还一头扎进去争相购买?

兵卒史
2026-10-01 14:07:08
亚运最快一金!储守宏4.714秒破亚运纪录 夺攀岩男子速度赛金牌

亚运最快一金!储守宏4.714秒破亚运纪录 夺攀岩男子速度赛金牌

醉卧浮生
2026-10-01 19:52:33
热苏斯发布会语出惊人!巨星好合作,难管的是自视高手

热苏斯发布会语出惊人!巨星好合作,难管的是自视高手

圣西罗的太阳
2026-10-01 12:35:12
2026-10-01 20:55:00
苍何
苍何
前大厂工程师,努力分享AI干货知识
183文章数 173关注度
往期回顾 全部

游戏要闻

新《神秘海域》爆料引爆!德雷克女儿回归会很棒

头条要闻

足够先进可以展示 191式自动步枪硬核开箱视频首次披露

头条要闻

足够先进可以展示 191式自动步枪硬核开箱视频首次披露

体育要闻

“今天的表现,我们可以昂首离开球场”

娱乐要闻

奚梦瑶晒四太豪礼!22只龙凤镯近300万

财经要闻

智谱发上亿Token 能挽回开发者信任吗?

科技要闻

5999元起!华为Mate 90系列发布

汽车要闻

2027款极氪001将于明年一季度上市 现款猎装同步推新配色

态度原创

时尚
亲子
家居
旅游
军事航空

在米兰,用时装唤醒内心的自我

亲子要闻

开学一个月“学习困难门诊”迎就诊高峰,医生:就诊诉求几乎只有“提分”

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

长风公园焕新开园,长风海洋世界明星企鹅茂茂迎来一岁派对

军事要闻

美防长宣布组建“自主作战司令部”

无障碍浏览 进入关怀版