Kandinsky 6.0:5秒视频要跑45分钟?
产品经理说要在应用里加个"带声音的短视频生成"。Kandinsky 6.0 是个候选:文本输入,或者文本加一张图,输出一段 5 秒、带匹配音轨的短片。Kandinsky Lab 在 10 月 6 日把它放上 GitHub,代码和权重都是 MIT 协议。
它有两个尺寸,Lite 是 3B 参数,Pro 是 29B。参数就是模型内部那些学出来的数字,粗略衡量模型大小。麻烦的地方不在模型本身,在调度、硬件,还有一项没人测过的数据。
下面这些数字全部来自 Kandinsky Lab 的仓库和模型卡。模型没跑过,输出也没看过,所以这里不评价画质。
当成批处理任务来用
Kandinsky Lab 的计时表测的是标准模型——用 50 次迭代把随机噪声清理成一张图,跑之前先热身一次,模型加载和文件写入的时间不算在内。结果是每段视频 5 到 45 分钟。
这个时长不可能是同步 API 调用。仓库里用 vLLM-Omni 部署 Pro 的指南(vLLM-Omni 是个把模型暴露成 HTTP 接口的服务)已经是批处理套路:提交视频任务,拿到一个 ID,轮询,下载结果。照着这个形状做,按"每小时能出几段"来规划容量,而且实际会比表里更慢——被排除掉的那部分时间,从来没有被量化过。
显存更大,出片更慢
RTX PRO 6000 有 96 GB 显存,比 H100 多 16 GB,跑同一段 Pro HD 视频却要 561 秒。
下载体积能解释这件事。Pro 在磁盘上大约 90 GB,其中约 70 GB 在生成画面的那个组件里。所以官方发布的每一个 GPU 预设都在做 offload:权重留在主机内存里,生成过程中分块拷到 GPU 上。
H100、A100 和 RTX PRO 6000 的预设用模块模式,一次搬一整个组件;游戏卡用块模式,画面生成器留两块切片在 GPU 上,同时把下一块拷进来。--offload none 这个命令行开关确实存在,但没有一个预设用它,vLLM-Omni 的指南在 80 GB 卡上直接把 offload 称为"必需"。
这对选机器有两个影响。主机内存变成硬性要求,而官方没有公布最低值。计时表也没法把 GPU 速度和拷贝开销分开:每一行都在 offload,没有一行是模型完整放在卡上跑的,而且只有 H100 用了 FlashAttention 3,其余用的是 SageAttention——这是两种注意力库,注意力是模型把视频各部分互相关联的那一步。作者推测 H100 赢在芯片原始速度上,但表里没有任何数据测到这一点。
你默认加载的模型,没有计时数据
所有预设,以及 Hugging Face 上的公开 demo,加载的都是蒸馏版 Pro:训练成 10 次迭代就出成片,而不是 50 次,体积约 81 GB 而不是 90 GB。计时表从来没覆盖它。
迭代次数只有五分之一,很容易顺手写个"快五倍"。这一格先空着,等有人真测了再说。
性能分析默认关闭,复制一份预设再加一段配置就能打开:
cp kandinsky/configs/devices/rtx-5090.yaml my-5090.yamlprintf 'profile:\n mode: time_mem_module\n' >> my-5090.yamljust generate "a cat on a mat" --config my-5090.yaml --warmup --out clip.mp4
加上 --warmup,第一次生成会被丢掉,只计第二次的时间,大致就是计时表的产出方式。性能分析包住的是整个流水线调用,所以 total_time 里还包括 MP4 编码、把音轨合进去,以及 Qwen2.5-VL 编码器默认做的提示词改写。计时表把这些都排除在外。要对比就看各组件的时间:DiT(画面生成器)、视频 VAE 和音频 VAE(把结果解码成画面和声音)、声码器(把它变成波形)。
Full HD 会丢掉音轨
生成发生在 864×480。另有一个超分模型逐块重绘细节,把画面放大到 Full HD。跟生成比起来它很便宜:在 H100 上,2 步版本做 2 倍放大要 41 秒,4 倍要 118 秒,测的输入比基础片段略小。
它只处理画面,所以任务里必须把原始生成的声音重新接回去。游戏卡上没有任何它的计时数据。
动手之前的三项检查
- 拿同一组提示词分别跑 Lite 和 Pro 做对比。Pro 需要 1.4 到 2.8 倍的 GPU 时间,而读过的所有资料都没说这多出来的时间买到了什么。
- 在自己的 GPU 上,把蒸馏版默认模型按组件逐个做性能分析。
- 检查非蒸馏版 Pro 在 Hugging Face 上的访问门槛:审批是自动的,条款要登录后才看得到,这些条款还没人读过。
模型、超分器、预设和计时表都是 Kandinsky Lab 做的,背后有一份技术报告。它们建立在阿里 Qwen2.5-VL、OpenAI CLIP、腾讯混元视频解码器设计、MMAudio、英伟达 BigVGAN、π-Flow 蒸馏方法、FlashAttention 3(Tri Dao 等人)和 SageAttention(清华 thu-ml 团队)之上。Diffusers、ComfyUI、vLLM-Omni、SGLang 和 FastVideo 在发布当天就支持了,社区账号 realrebelai 还发布了给小卡用的实验性压缩版 Pro。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.