网易首页 > 网易号 > 正文 申请入驻

京东又放大招!开源长视频AI神器,彻底解决“角色变脸”难题!

0
分享至


京东又放大招!开源长视频AI神器,彻底解决“角色变脸”难题!

兄弟们好,我是星哥。自从 Sora 关停之后,这 AI 视频赛道可是卷出了天际。国产的可灵、即梦、海艺都在疯狂发力,短视频确实惊艳,但一拉长视频,大家肯定都遇到了一个让人抓狂的痛点——角色一致性

拍着拍着主角就换脸了,声音也变了,简直没法看。

就在最近,京东悄悄扔出了一个“王炸”开源项目:JoyAI-Echo。据说能完美解决长视频角色一致性的问题,上线才两周,GitHub 上就狂揽了 1600+ Star。

今天星哥就带大家盘一盘,这个京东 JoyFutureAcademy 团队搞出来的神器,到底有几把刷子?咱们普通玩家又该怎么上手?


JoyAI-Echo的6大功能

JoyAI-Echo 的核心定位是一个长音频和视频生成框架。简单来说,就是让 AI 视频里的角色在几分钟的长镜头里,脸不变、声不变、衣服也不变。

它是怎么做到的?官方总结了 6 大绝技,星哥给大家翻译成“人话”:

1. 跨模态记忆库(告别“角色失忆”)

以前 AI 生成视频是“金鱼记忆”,换个镜头就重新捏脸。JoyAI-Echo 给 AI 塞了个“记忆库”,主角第一次出场时,把脸型、声音、穿搭全存下来。后续生成直接调用,而且视听结合,不仅脸是对的,声音也是同一个人。


2. 音视频联合生成(告别“后期对口型”)

以前做视频,画面和配音是分开搞的,口型根本对不上。现在它在一个管道里同时输出视频和声音。对白、环境音、BGM 一次性搞定,连后期对口型的活儿都省了。

3. DMD 分布匹配蒸馏(天下武功唯快不破)

长视频生成慢?它用了 DMD 技术,把多步扩散压缩成少步推理。官方数据说提速了约 7.5 倍,关键是速度上去了,角色一致性还没掉。

4. 对话式编辑(导演助理)

想改第三个镜头里主角的衣服颜色?不用从头重跑!它有个 Director Agent 功能,指哪打哪,局部修改。(注:星哥看了下,这个功能目前还在画大饼阶段,代码还没放出来。)

5. 显存优化方案(给平民玩家留条活路)

这玩意儿默认配置要 46~50G 显存,起步就是 H100/A100 这种算力怪兽。但官方很良心,提供了降级方案:把 241 帧降到 121 帧,显存占用直接打骨折。还集成了 ComfyUI,支持 48G 显存热切换。

部署与配置指南

星哥必须给大家泼点冷水,聊聊部署和使用的真实门槛。

1. 硬件门槛不低 虽然官方给了降级方案,但如果你想跑得爽,48G 显存基本是底线。本地没有 A100/4090(24G*2) 的兄弟,建议直接去云上租个带大显存的实例来折腾。

2. 模型下载是个体力活 跑起来之前,你得先从 HuggingFace 下载约 46GB 的模型文件,外加一个 24GBgemma-3-12b 文本编码器。网络不好的兄弟,记得提前挂好梯子或者用国内镜像。

3. 极简启动流程

                                                                 # 克隆仓库
git clone https://github.com/jd-opensource/JoyAI-Echo.git
# 创建并激活环境
conda env create -f environment.yml
conda activate echo-long
# 运行推理
python inference.py

星哥提示:项目自带了 Prompt Enhancer,能把你的大白话故事,自动扩写成包含角色、动作、镜头、音效的专业提示词,非常省心。


目前的局限性

开源项目没有完美的,JoyAI-Echo 也有几个让星哥觉得“还不够爽”的地方:

  1. 1. 不支持图生视频(I2V) :目前只能纯靠文字生成,不能传张图片当起始帧,玩法受限。

  2. 2. 商用限制 :基于 LTX-2 Community License 协议, 仅限学术研究和非商业用途 。想拿去接商单赚钱的兄弟,得去联系 Lightricks 授权。

  3. 3. 只开源了推理 :训练代码没放出来,想自己微调模型的极客们还得再等等。

  4. 4. 部分功能未上线 :前面提到的“导演助理”和 Echo-SR 超分模块,目前都还是“敬请期待”状态。

总结

总的来说,京东这次开源的 JoyAI-Echo 绝对是目前长视频 AI 赛道的一剂强心针。

如果你是一个经常需要制作长视频、对角色一致性要求极高、且有一定硬件基础(或愿意租用云服务器) 的创作者,它绝对值得你花个周末去本地部署折腾一下。毕竟,数据全在本地,隐私安全拉满,还不用每个月交昂贵的订阅费。

开源仓库地址https://github.com/jd-opensource/JoyAI-Echo

如果觉得这篇文章对你有帮助,别忘了点个 “赞”“在看”,顺手星标一下【星哥玩云】,咱们下期干货再见!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
2.33亿人被“终身控糖”困住:糖尿病逆转正在撕开传统诊疗的口子

2.33亿人被“终身控糖”困住:糖尿病逆转正在撕开传统诊疗的口子

荷兰豆爱健康
2026-09-13 06:31:55
胡立杰任江苏省委常委、省委组织部部长

胡立杰任江苏省委常委、省委组织部部长

政知新媒体
2026-09-13 07:28:52
明年起正式落地!60、70岁老人将迎来3大难题,谁也躲不开

明年起正式落地!60、70岁老人将迎来3大难题,谁也躲不开

白昼说故事
2026-09-12 09:15:50
全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

扶苏聊历史
2026-08-27 16:15:02
半年净赚超千亿!销量是比亚迪的近3倍,“日系神车”闷声发大财

半年净赚超千亿!销量是比亚迪的近3倍,“日系神车”闷声发大财

李砍柴
2026-09-11 00:09:24
全家移民传闻水落石出后,刘翔突然传来新消息,确实令人意外

全家移民传闻水落石出后,刘翔突然传来新消息,确实令人意外

史之韵
2026-09-12 19:45:46
随着宿迁0-1、盐城0-1、南京2-1、无锡2-0,苏超最新积分榜出炉

随着宿迁0-1、盐城0-1、南京2-1、无锡2-0,苏超最新积分榜出炉

侧身凌空斩
2026-09-12 21:48:16
完全出乎意料!伊朗发射的导弹并未直接命中F-35战机,却精准击中了美军最核心的软肋:整场军事行动的战争成本已经彻底失控

完全出乎意料!伊朗发射的导弹并未直接命中F-35战机,却精准击中了美军最核心的软肋:整场军事行动的战争成本已经彻底失控

人生录
2026-09-12 00:05:19
八万狂跌至三万五!深圳沙井神话破灭,刚需人群惨遭“绞杀”?

八万狂跌至三万五!深圳沙井神话破灭,刚需人群惨遭“绞杀”?

林子说事
2026-09-13 01:54:22
马斯克开打价格战,特斯拉全国门店大爆单

马斯克开打价格战,特斯拉全国门店大爆单

新行情
2026-09-10 14:06:56
“债都是前面欠的,凭什么让我还”,毕节市委原书记吴胜华化债不力被通报

“债都是前面欠的,凭什么让我还”,毕节市委原书记吴胜华化债不力被通报

界面新闻
2026-09-11 16:44:45
“身材高挑匀称就是不体面!”接娃宝妈被拍,网友:给自己贴个膜就出门了?

“身材高挑匀称就是不体面!”接娃宝妈被拍,网友:给自己贴个膜就出门了?

林林先生
2026-09-08 10:48:39
姚某某(男,37岁)虚构伪造“停止资助后遭威胁”,嘉峪关警方发布通报

姚某某(男,37岁)虚构伪造“停止资助后遭威胁”,嘉峪关警方发布通报

封面新闻
2026-09-11 20:00:03
一个国家能蠢到什么程度?看看法国就明白了:法国黑人接近800万,巴黎新生儿里70%是黑人

一个国家能蠢到什么程度?看看法国就明白了:法国黑人接近800万,巴黎新生儿里70%是黑人

怪味历史连连看
2026-09-08 01:55:32
付航上海脱口秀1000张黄牛票因信息不符被拦,僵持20分钟后主办方放弃核验

付航上海脱口秀1000张黄牛票因信息不符被拦,僵持20分钟后主办方放弃核验

韩小娱
2026-09-12 15:44:45
i茅台现状太扎心:飞天秒罄抢不到,万元陈年随便买,普通人只能干瞪眼

i茅台现状太扎心:飞天秒罄抢不到,万元陈年随便买,普通人只能干瞪眼

阿天爱旅行
2026-09-12 20:29:18
殷桃生图火了,成熟的美不该和生育挂钩

殷桃生图火了,成熟的美不该和生育挂钩

陈意小可爱
2026-09-13 07:54:38
天坑!利物浦老臣坑惨伊劳拉:半场17次丢失球权被换下

天坑!利物浦老臣坑惨伊劳拉:半场17次丢失球权被换下

球事百科吖
2026-09-13 04:49:17
检察长陈平杀妻案疑云重重,申诉无果被枪决,保密行刑后迅速火化

检察长陈平杀妻案疑云重重,申诉无果被枪决,保密行刑后迅速火化

易玄
2026-09-12 17:08:47
内蒙包头帅哥李耀宗去世,年仅37岁,别墅刚装修完,知情人曝死因

内蒙包头帅哥李耀宗去世,年仅37岁,别墅刚装修完,知情人曝死因

广西辉哥
2026-09-13 02:10:05
2026-09-13 08:32:49
星哥玩云 incentive-icons
星哥玩云
星哥跟你说说工作生活的那些事
466文章数 283关注度
往期回顾 全部

科技要闻

苹果折叠屏比小米华为贵5000元,该怎么选

头条要闻

12345接线员:一开始挨骂睡不着 现在特希望有人骂我

头条要闻

12345接线员:一开始挨骂睡不着 现在特希望有人骂我

体育要闻

乔丹的得分统治力:如何违背篮球规律?

娱乐要闻

钟丽淇疑入ICU?聚会合照早露端倪

财经要闻

继房子茅台后 中产的第3个"神话"破灭了

汽车要闻

全新配色和新样式轮毂 乐道L80星光设计套装限时惊喜价10080元

态度原创

本地
健康
旅游
教育
军事航空

本地新闻

Onestage x 乐华娱乐暑期巡回选拔2026

手脚发麻口齿不清?也可能是中风!

旅游要闻

全国各地古镇相似度高达99%?连“特色小吃”都一模一样

教育要闻

连立二元一次方程组,立马出答案!

军事要闻

胡塞武装:9天攻占5400平方公里

无障碍浏览 进入关怀版