网易首页 > 网易号 > 正文 申请入驻

Kandinsky 6.0:5秒视频要跑45分钟?

0
分享至

Kandinsky 6.0:5秒视频要跑45分钟?

产品经理说要在应用里加个"带声音的短视频生成"。Kandinsky 6.0 是个候选:文本输入,或者文本加一张图,输出一段 5 秒、带匹配音轨的短片。Kandinsky Lab 在 10 月 6 日把它放上 GitHub,代码和权重都是 MIT 协议。

它有两个尺寸,Lite 是 3B 参数,Pro 是 29B。参数就是模型内部那些学出来的数字,粗略衡量模型大小。麻烦的地方不在模型本身,在调度、硬件,还有一项没人测过的数据。

下面这些数字全部来自 Kandinsky Lab 的仓库和模型卡。模型没跑过,输出也没看过,所以这里不评价画质。

当成批处理任务来用

Kandinsky Lab 的计时表测的是标准模型——用 50 次迭代把随机噪声清理成一张图,跑之前先热身一次,模型加载和文件写入的时间不算在内。结果是每段视频 5 到 45 分钟。

这个时长不可能是同步 API 调用。仓库里用 vLLM-Omni 部署 Pro 的指南(vLLM-Omni 是个把模型暴露成 HTTP 接口的服务)已经是批处理套路:提交视频任务,拿到一个 ID,轮询,下载结果。照着这个形状做,按"每小时能出几段"来规划容量,而且实际会比表里更慢——被排除掉的那部分时间,从来没有被量化过。

显存更大,出片更慢

RTX PRO 6000 有 96 GB 显存,比 H100 多 16 GB,跑同一段 Pro HD 视频却要 561 秒。

下载体积能解释这件事。Pro 在磁盘上大约 90 GB,其中约 70 GB 在生成画面的那个组件里。所以官方发布的每一个 GPU 预设都在做 offload:权重留在主机内存里,生成过程中分块拷到 GPU 上。

H100、A100 和 RTX PRO 6000 的预设用模块模式,一次搬一整个组件;游戏卡用块模式,画面生成器留两块切片在 GPU 上,同时把下一块拷进来。--offload none 这个命令行开关确实存在,但没有一个预设用它,vLLM-Omni 的指南在 80 GB 卡上直接把 offload 称为"必需"。

这对选机器有两个影响。主机内存变成硬性要求,而官方没有公布最低值。计时表也没法把 GPU 速度和拷贝开销分开:每一行都在 offload,没有一行是模型完整放在卡上跑的,而且只有 H100 用了 FlashAttention 3,其余用的是 SageAttention——这是两种注意力库,注意力是模型把视频各部分互相关联的那一步。作者推测 H100 赢在芯片原始速度上,但表里没有任何数据测到这一点。

你默认加载的模型,没有计时数据

所有预设,以及 Hugging Face 上的公开 demo,加载的都是蒸馏版 Pro:训练成 10 次迭代就出成片,而不是 50 次,体积约 81 GB 而不是 90 GB。计时表从来没覆盖它。

迭代次数只有五分之一,很容易顺手写个"快五倍"。这一格先空着,等有人真测了再说。

性能分析默认关闭,复制一份预设再加一段配置就能打开:

  • cp kandinsky/configs/devices/rtx-5090.yaml my-5090.yaml
  • printf 'profile:\n mode: time_mem_module\n' >> my-5090.yaml
  • just generate "a cat on a mat" --config my-5090.yaml --warmup --out clip.mp4

加上 --warmup,第一次生成会被丢掉,只计第二次的时间,大致就是计时表的产出方式。性能分析包住的是整个流水线调用,所以 total_time 里还包括 MP4 编码、把音轨合进去,以及 Qwen2.5-VL 编码器默认做的提示词改写。计时表把这些都排除在外。要对比就看各组件的时间:DiT(画面生成器)、视频 VAE 和音频 VAE(把结果解码成画面和声音)、声码器(把它变成波形)。

Full HD 会丢掉音轨

生成发生在 864×480。另有一个超分模型逐块重绘细节,把画面放大到 Full HD。跟生成比起来它很便宜:在 H100 上,2 步版本做 2 倍放大要 41 秒,4 倍要 118 秒,测的输入比基础片段略小。

它只处理画面,所以任务里必须把原始生成的声音重新接回去。游戏卡上没有任何它的计时数据。

动手之前的三项检查

  1. 拿同一组提示词分别跑 Lite 和 Pro 做对比。Pro 需要 1.4 到 2.8 倍的 GPU 时间,而读过的所有资料都没说这多出来的时间买到了什么。
  2. 在自己的 GPU 上,把蒸馏版默认模型按组件逐个做性能分析。
  3. 检查非蒸馏版 Pro 在 Hugging Face 上的访问门槛:审批是自动的,条款要登录后才看得到,这些条款还没人读过。

模型、超分器、预设和计时表都是 Kandinsky Lab 做的,背后有一份技术报告。它们建立在阿里 Qwen2.5-VL、OpenAI CLIP、腾讯混元视频解码器设计、MMAudio、英伟达 BigVGAN、π-Flow 蒸馏方法、FlashAttention 3(Tri Dao 等人)和 SageAttention(清华 thu-ml 团队)之上。Diffusers、ComfyUI、vLLM-Omni、SGLang 和 FastVideo 在发布当天就支持了,社区账号 realrebelai 还发布了给小卡用的实验性压缩版 Pro。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
男子是AB型血,老婆是A型血,刚出生的女儿却是O型血?医生:别急,这事真有可能

男子是AB型血,老婆是A型血,刚出生的女儿却是O型血?医生:别急,这事真有可能

观察者网
2026-10-18 07:40:09
一人毁了整部剧!央视《嫁金钗》遭恶评,这个'戏混子'担大责任!

一人毁了整部剧!央视《嫁金钗》遭恶评,这个'戏混子'担大责任!

仙味少女心
2026-10-17 21:32:00
太离谱!皇马奇兵打脸穆里尼奥!38 分钟狂轰 3 球

太离谱!皇马奇兵打脸穆里尼奥!38 分钟狂轰 3 球

奶盖熊本熊
2026-10-18 07:55:31
薄一波究竟属于哪一级别?是正国级,还是副国级?

薄一波究竟属于哪一级别?是正国级,还是副国级?

人生录
2026-10-15 05:18:24
秦主任跳舞为什么会爆火?

秦主任跳舞为什么会爆火?

廖保平
2026-10-16 08:40:35
个人养老,山东打响第一枪!

个人养老,山东打响第一枪!

A活着
2026-10-17 20:09:06
养老会议落幕,企退养老金新信号,对你的养老钱袋子影响多大?

养老会议落幕,企退养老金新信号,对你的养老钱袋子影响多大?

白昼说故事
2026-10-18 09:04:31
不出意外的话,2027年中国或将迎来4大降价潮,大家提前做好准备

不出意外的话,2027年中国或将迎来4大降价潮,大家提前做好准备

北海史记
2026-10-17 17:01:28
活久见!哈登说退役后打算把大胡子剃掉,没胡子还认得出来吗?

活久见!哈登说退役后打算把大胡子剃掉,没胡子还认得出来吗?

安欲喜欢
2026-10-16 18:53:20
玥儿和筱梅逛街同框!背影神似年轻大S,一家人团聚画面太暖心

玥儿和筱梅逛街同框!背影神似年轻大S,一家人团聚画面太暖心

悠悠说世界
2026-10-18 04:50:44
APEC那9天,深圳人能白拿的福利我算清了

APEC那9天,深圳人能白拿的福利我算清了

辉哥说动漫
2026-10-18 04:15:20
A股:股民坐稳扶好了,信号很强烈,明天周一10.19或迎暴风雨行情?

A股:股民坐稳扶好了,信号很强烈,明天周一10.19或迎暴风雨行情?

趋势清风侠
2026-10-18 10:00:03
最新消息:景甜露面被拍,评论区:强撑着体面!

最新消息:景甜露面被拍,评论区:强撑着体面!

默默有话说
2026-10-17 12:31:21
梅西2球获评10分!美职联27场造38球+领跑射手榜,生涯936球追C罗

梅西2球获评10分!美职联27场造38球+领跑射手榜,生涯936球追C罗

球场没跑道
2026-10-18 09:55:30
外蒙古面积缩水30万平方公里?从180万到150万,原因你绝对想不到

外蒙古面积缩水30万平方公里?从180万到150万,原因你绝对想不到

抽象派大师
2026-09-21 16:40:31
人不是慢慢老去的?哈佛大学:这3个年龄段,是衰老的加速期

人不是慢慢老去的?哈佛大学:这3个年龄段,是衰老的加速期

笑谈文史
2026-10-17 20:48:44
广州禁摩,张雪机车却把华南最大店开进白云:300台车卖给了谁?

广州禁摩,张雪机车却把华南最大店开进白云:300台车卖给了谁?

娱乐圈的笔娱君
2026-10-18 09:06:32
国外发现“饿两天定律”,体重从138斤降到108斤,稳稳瘦下30斤

国外发现“饿两天定律”,体重从138斤降到108斤,稳稳瘦下30斤

健身狂人
2026-10-11 00:58:32
巴萨11连胜最大功臣!2.2亿欧先生“不可阻挡”,9场19球横扫西甲

巴萨11连胜最大功臣!2.2亿欧先生“不可阻挡”,9场19球横扫西甲

汪星人哟
2026-10-18 11:11:02
随着山东5-0,云南1-1,辽宁4-0,大连3-1,中超最新积分榜出炉

随着山东5-0,云南1-1,辽宁4-0,大连3-1,中超最新积分榜出炉

侧身凌空斩
2026-10-17 22:03:14
2026-10-18 11:55:00
摸鱼算法
摸鱼算法
致力于用最前沿的AI技术,换取更多发呆时间的三十岁青年。
218文章数 74关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

00后女演员被传与郭麒麟结婚 曾出演电视剧《赘婿》

头条要闻

00后女演员被传与郭麒麟结婚 曾出演电视剧《赘婿》

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

曝郭麒麟与25岁知名女星已经结婚,女方回应关系

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

本地
旅游
艺术
亲子
公开课

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

旅游要闻

跨境游客数量超去年全年!这处美景游玩新体验再升级

艺术要闻

14位国外画家的风景油画

亲子要闻

香港一幼儿园招不到娃,老师扮王子公主走秀拍片拉生源!网友:看着心酸又想笑

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版