网易首页 > 网易号 > 正文 申请入驻

京东又放大招!开源长视频AI神器,彻底解决“角色变脸”难题!

0
分享至


京东又放大招!开源长视频AI神器,彻底解决“角色变脸”难题!

兄弟们好,我是星哥。自从 Sora 关停之后,这 AI 视频赛道可是卷出了天际。国产的可灵、即梦、海艺都在疯狂发力,短视频确实惊艳,但一拉长视频,大家肯定都遇到了一个让人抓狂的痛点——角色一致性

拍着拍着主角就换脸了,声音也变了,简直没法看。

就在最近,京东悄悄扔出了一个“王炸”开源项目:JoyAI-Echo。据说能完美解决长视频角色一致性的问题,上线才两周,GitHub 上就狂揽了 1600+ Star。

今天星哥就带大家盘一盘,这个京东 JoyFutureAcademy 团队搞出来的神器,到底有几把刷子?咱们普通玩家又该怎么上手?


JoyAI-Echo的6大功能

JoyAI-Echo 的核心定位是一个长音频和视频生成框架。简单来说,就是让 AI 视频里的角色在几分钟的长镜头里,脸不变、声不变、衣服也不变。

它是怎么做到的?官方总结了 6 大绝技,星哥给大家翻译成“人话”:

1. 跨模态记忆库(告别“角色失忆”)

以前 AI 生成视频是“金鱼记忆”,换个镜头就重新捏脸。JoyAI-Echo 给 AI 塞了个“记忆库”,主角第一次出场时,把脸型、声音、穿搭全存下来。后续生成直接调用,而且视听结合,不仅脸是对的,声音也是同一个人。


2. 音视频联合生成(告别“后期对口型”)

以前做视频,画面和配音是分开搞的,口型根本对不上。现在它在一个管道里同时输出视频和声音。对白、环境音、BGM 一次性搞定,连后期对口型的活儿都省了。

3. DMD 分布匹配蒸馏(天下武功唯快不破)

长视频生成慢?它用了 DMD 技术,把多步扩散压缩成少步推理。官方数据说提速了约 7.5 倍,关键是速度上去了,角色一致性还没掉。

4. 对话式编辑(导演助理)

想改第三个镜头里主角的衣服颜色?不用从头重跑!它有个 Director Agent 功能,指哪打哪,局部修改。(注:星哥看了下,这个功能目前还在画大饼阶段,代码还没放出来。)

5. 显存优化方案(给平民玩家留条活路)

这玩意儿默认配置要 46~50G 显存,起步就是 H100/A100 这种算力怪兽。但官方很良心,提供了降级方案:把 241 帧降到 121 帧,显存占用直接打骨折。还集成了 ComfyUI,支持 48G 显存热切换。

部署与配置指南

星哥必须给大家泼点冷水,聊聊部署和使用的真实门槛。

1. 硬件门槛不低 虽然官方给了降级方案,但如果你想跑得爽,48G 显存基本是底线。本地没有 A100/4090(24G*2) 的兄弟,建议直接去云上租个带大显存的实例来折腾。

2. 模型下载是个体力活 跑起来之前,你得先从 HuggingFace 下载约 46GB 的模型文件,外加一个 24GBgemma-3-12b 文本编码器。网络不好的兄弟,记得提前挂好梯子或者用国内镜像。

3. 极简启动流程

                                                                 # 克隆仓库
git clone https://github.com/jd-opensource/JoyAI-Echo.git
# 创建并激活环境
conda env create -f environment.yml
conda activate echo-long
# 运行推理
python inference.py

星哥提示:项目自带了 Prompt Enhancer,能把你的大白话故事,自动扩写成包含角色、动作、镜头、音效的专业提示词,非常省心。


目前的局限性

开源项目没有完美的,JoyAI-Echo 也有几个让星哥觉得“还不够爽”的地方:

  1. 1. 不支持图生视频(I2V) :目前只能纯靠文字生成,不能传张图片当起始帧,玩法受限。

  2. 2. 商用限制 :基于 LTX-2 Community License 协议, 仅限学术研究和非商业用途 。想拿去接商单赚钱的兄弟,得去联系 Lightricks 授权。

  3. 3. 只开源了推理 :训练代码没放出来,想自己微调模型的极客们还得再等等。

  4. 4. 部分功能未上线 :前面提到的“导演助理”和 Echo-SR 超分模块,目前都还是“敬请期待”状态。

总结

总的来说,京东这次开源的 JoyAI-Echo 绝对是目前长视频 AI 赛道的一剂强心针。

如果你是一个经常需要制作长视频、对角色一致性要求极高、且有一定硬件基础(或愿意租用云服务器) 的创作者,它绝对值得你花个周末去本地部署折腾一下。毕竟,数据全在本地,隐私安全拉满,还不用每个月交昂贵的订阅费。

开源仓库地址https://github.com/jd-opensource/JoyAI-Echo

如果觉得这篇文章对你有帮助,别忘了点个 “赞”“在看”,顺手星标一下【星哥玩云】,咱们下期干货再见!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
随着广州豹1-1,长春亚泰1-0,宁波1-0,中甲最新积分榜出炉

随着广州豹1-1,长春亚泰1-0,宁波1-0,中甲最新积分榜出炉

侧身凌空斩
2026-09-12 21:39:08
不是国事访问,更不是什么“破冰妥协”!中方时隔7年再赴印度,打的是一套“走亲戚看大局”的硬牌

不是国事访问,更不是什么“破冰妥协”!中方时隔7年再赴印度,打的是一套“走亲戚看大局”的硬牌

扶苏聊历史
2026-09-12 16:25:22
切尔西遭逆转!赫尔城让一追二,贝卢米6分钟2球,哈托遭炮轰

切尔西遭逆转!赫尔城让一追二,贝卢米6分钟2球,哈托遭炮轰

奥拜尔
2026-09-12 22:45:17
从莫斯科到世界第一:莱巴金娜在美网登顶

从莫斯科到世界第一:莱巴金娜在美网登顶

赛场速报局
2026-09-12 17:29:38
1-1,95分钟被绝杀,再见武汉三镇!球迷:有些人像带着任务来的

1-1,95分钟被绝杀,再见武汉三镇!球迷:有些人像带着任务来的

我就是一个说球的
2026-09-12 22:53:08
库克承认:是看到华为才决定做 iPhone Duo

库克承认:是看到华为才决定做 iPhone Duo

简科技
2026-09-11 18:02:46
山东菏泽一烧烤店老板举报元青花杯失踪,最新进展:接到文旅厅回复称调查接近尾声,但仍未立案;12345无法认定"一月接15次举报"为异常

山东菏泽一烧烤店老板举报元青花杯失踪,最新进展:接到文旅厅回复称调查接近尾声,但仍未立案;12345无法认定"一月接15次举报"为异常

大风新闻
2026-09-12 16:13:13
反转!长沙“摸腚姐”遭舆论审判,社交媒体被扒、警方二次介入!

反转!长沙“摸腚姐”遭舆论审判,社交媒体被扒、警方二次介入!

天天热点见闻
2026-09-12 06:43:45
不是胡金秋李悦洲,巴林主帅夸赞中国男篮一人,他击垮我们的努力

不是胡金秋李悦洲,巴林主帅夸赞中国男篮一人,他击垮我们的努力

生活新鲜市
2026-09-12 19:19:48
52岁知名女演员,直播卖韭菜盒子;此前曾自曝被前夫骗到破产、负债600万,现在其名下财产全部清零,称“我的字典里面没有崩溃这两个字”

52岁知名女演员,直播卖韭菜盒子;此前曾自曝被前夫骗到破产、负债600万,现在其名下财产全部清零,称“我的字典里面没有崩溃这两个字”

扬子晚报
2026-09-12 10:16:19
1-2!88分钟惨遭绝杀!5.7亿战舰4轮1分仅进1球 夏窗卖人收入全球第二

1-2!88分钟惨遭绝杀!5.7亿战舰4轮1分仅进1球 夏窗卖人收入全球第二

狍子歪解体坛
2026-09-13 00:18:20
复旦女硕士遭蜱虫叮咬重症,生活已不能自理。家属全网求助:没有特效药!

复旦女硕士遭蜱虫叮咬重症,生活已不能自理。家属全网求助:没有特效药!

听心堂
2026-09-11 07:34:55
港媒曝钟丽淇患渐冻症,钟丽淇发文回应:恳请大家给予足够空间!

港媒曝钟丽淇患渐冻症,钟丽淇发文回应:恳请大家给予足够空间!

天马幸福的人生
2026-09-12 04:49:39
哈尔滨姑娘带19车亲友远嫁南京撑场面,结果婆家只给娘家人付一晚房费,新娘当场掀了婚宴桌子带人就走

哈尔滨姑娘带19车亲友远嫁南京撑场面,结果婆家只给娘家人付一晚房费,新娘当场掀了婚宴桌子带人就走

LULU生活家
2026-09-12 18:00:41
0-1!西甲6冠豪门81分钟被绝杀 5轮不胜净输9球+垫底 队史最差开局

0-1!西甲6冠豪门81分钟被绝杀 5轮不胜净输9球+垫底 队史最差开局

我爱英超
2026-09-12 06:18:59
WTT澳门冠军赛:大爆冷!国乒男单全军覆没,独苗1:4不敌张本智和

WTT澳门冠军赛:大爆冷!国乒男单全军覆没,独苗1:4不敌张本智和

国乒二三事
2026-09-12 12:44:29
重磅:乌克兰火烈鸟导弹击中俄罗斯洲际导弹的生产核心!

重磅:乌克兰火烈鸟导弹击中俄罗斯洲际导弹的生产核心!

项鹏飞
2026-09-12 20:47:59
广州一男子联系“急开锁”,上门前说只要200元,之后暴力开锁换新锁要1730;消费者:师傅大高个拿扳手有纹身,不敢不给;开锁平台回应

广州一男子联系“急开锁”,上门前说只要200元,之后暴力开锁换新锁要1730;消费者:师傅大高个拿扳手有纹身,不敢不给;开锁平台回应

大风新闻
2026-09-12 20:33:04
亚运两连胜!中国男篮46分狂胜巴林 廖三宁23+6李悦洲18分

亚运两连胜!中国男篮46分狂胜巴林 廖三宁23+6李悦洲18分

醉卧浮生
2026-09-12 16:51:09
iPhone 18 Pro跌破首发价:9月12日,降至9099元

iPhone 18 Pro跌破首发价:9月12日,降至9099元

搞机小帝
2026-09-12 21:34:01
2026-09-13 00:51:00
星哥玩云 incentive-icons
星哥玩云
星哥跟你说说工作生活的那些事
466文章数 283关注度
往期回顾 全部

科技要闻

苹果折叠屏比小米华为贵5000元,该怎么选

头条要闻

男生去年693分考上北大后放弃 今年又拼了一次考714分

头条要闻

男生去年693分考上北大后放弃 今年又拼了一次考714分

体育要闻

乔丹的得分统治力:如何违背篮球规律?

娱乐要闻

钟丽淇疑入ICU?聚会合照早露端倪

财经要闻

继房子茅台后 中产的第3个"神话"破灭了

汽车要闻

全新配色和新样式轮毂 乐道L80星光设计套装限时惊喜价10080元

态度原创

手机
艺术
健康
亲子
游戏

手机要闻

苹果iPhone 18 Pro系列开启预购,首批机型均已售罄!

艺术要闻

法国女画家勒梅尔,为什么她笔下的女人让人看一眼就沦陷?

手脚发麻口齿不清?也可能是中风!

亲子要闻

北京妇产学会助力“未来妈妈行动”,帮助重症女性保存生育力

《漫威金刚狼》遭批"宝宝游戏" 过度引导 QTE没意义

无障碍浏览 进入关怀版