网易首页 > 网易号 > 正文 申请入驻

为了告别视频抽卡,我决定公开我过滤参考视频里无用信息的新技巧

0
分享至

大家做 AI 视频的时候,有没有遇到过这样的情况?

给了一段参考视频,本来只是想让 AI 学里面的动作和运镜,结果生成出来一看,

原视频角色发型或者脸部五官什么的都被一起带过来了,动作倒是参考到了,但片子也废了。。。


几秒钟的视频还好,大不了重新抽一次。到了二三十秒,事情就开始变得难受。视频越长,前后越要稳,中间只要突然冒出原人物的脸,或者服装、背景开始乱窜,前面好不容易做好的内容也很难接着用。

我最近看到了一个挺好用的邪修玩法。

先把原视频转成深度视频,再把深度视频交给模型生成新的视频。


这样处理以后,原片中的动作、运镜、人物站位和空间关系还能留下来,人脸、衣服、背景和画风的干扰会少很多。我们给模型的参考变干净了,新视频也更容易做成自己设定的角色和场景。

就比如刚刚的视频,我做了深度视频,再参考这个深度视频去生成之后,明显人脸都更稳定了。

深度视频这个东西,我以前一般是把原视频丢到 Codex 里处理,等深度视频生成以后再传到其他平台继续做后面的内容。

每一步单独看都不难,但也确实有点麻烦。

然后前两天做素材的素材的时候,突然发现LibTV 悄悄更新了深度提取的功能,可以直接用了,


非常简单,把原始视频放到画布里选中,然后一键转成深度视频,


深度视频的画面会变成灰阶。人物和环境按远近与轮廓分层,谁站在前面,谁在后面,人物怎么移动,镜头怎样跟,这些信息还都能透过颜色的深浅轮廓呈现出来。但原人物的五官、服装纹理和场景色彩已经看不到了。

然后,再把新生成的深度节点接到后面的视频生成节点,再把需要做的人物或者场景连到新节点上,写好提示语,生成就完事了。

一次就得到了我想要的效果。

其实,我们平时说让 AI 参考一段视频,里面一般混着两类信息。

一类是想留下的,动作怎么发生,人物站在哪里,镜头朝哪边走,前后景怎样变化。

另一类信息反而会限制新视频,比如原视频中的人物是谁,穿了什么,身后的环境长什么样,整段片子的颜色和质感又是什么。

之前直接参考原视频生成是把这些东西装在一起交给模型,模型通过提示语只能自己猜该学多少。

但深度视频先做了一次筛选,让动态与空间信息更突出,也把人物身份和画面风格这些干扰信息去掉,出来的画面就会更准确。

我自己的感受也是这样,

视频生成的可控性,很多时候就是这样一点点抠出来的,我现在更倾向先让输入材料更明确,再去看模型能不能把后面的内容做好,比反复增加提示词省心。

毕竟,复杂动作和运镜也确实很难用文字说准。

一个人怎样转身,转到哪个位置停,镜头跟着他走还是留在原地,主体靠近镜头时前后景怎样变化。把这些全写进提示词,字会越来越多,模型读到的也未必和我们脑子里的画面一样。

直接用一段真实视频表达,信息完整得多。深度处理又把其中容易污染角色和画风的部分减掉,这样组合才有实际价值。

后面我又测了几个 case,主要想看深度视频究竟能参考哪些东西。

首先测了少人的追逐打斗,

这种片段的麻烦在于变化特别快。人物一边移动,一边出招和闪避,身体重心也在不停地换。单看某一帧很容易觉得差不多,连起来以后,速度和节奏只要慢半拍,打斗感就会减弱很多。

实际上能看到所有的场景和人物替换做的都很好,人物的动作重心、场景变化、镜头机位以及追逐感都复刻出来了,中间人脸都没有出现迁移原视频的画面。

接着我又试了试经典运镜的电影镜头,

主要是看人物慢动作、以及环绕拍摄的运镜方式能不能保留下来,我还做了一个画风的转换,

那看效果就能感受到了,无论是人物慢动作、切镜节奏,还是整个大环绕运镜镜头都1:1的复刻下来了,得出结论——运镜复刻没问题,全程在线。

最后一组测空间运动,

主要想看主体大小有没有跟着空间变化,位置移动是否一致,整个空间展开和收缩的过程能不能接住。

这组测试选用了我几年前很喜欢玩的纪念碑谷,那从结果来说也是基本复刻了这整个游戏的精髓,空间的开合基本没啥问题,暗黑金属的风格还挺酷的。

测到这儿时,我设想了一下,如果不用深度视频,我该怎么去描述画面右下角那个回型体快在每次移动时出现的回弹效果?

我想了10秒,就懒得想了,因为现在一个深度视频就解决了。

所以深度视频的使用,动作只是其中一部分,人物关系、镜头运动和空间变化,也能放进深度视频的测试范围里。

当然,深度参考也有自己的边界。

空间感明显、动作幅度比较大的真人视频更适合拿来做,因为远近层次和位移足够清楚,深度信息才有东西可以展现。如果是动作太小、人物几乎没有移动,或者画面本身是很扁平的动漫表达,处理完未必能带来明显变化。

顺着 LibTV 的画布再聊一个我最近顺手测到的功能,它还上线了智能剪辑里的口播创作。


因为我平时也有在做短视频,经常会录一些口播,其实真实的拍摄素材里就会有水词、停顿、重复和卡壳。但其实之前如果全流程用AI去处理口播的话,是先用一个Skill可以帮我把比较大段的停顿和重复剪掉、拼接,等到剪完之后还要再找skill去做一些花字动画等等,但现在LibTV里可以直接处理全流程了。

我把一段平时拍的原始口播视频放到LibTV的画布里,LibTV 会先理解素材,标出并去掉这些多余片段,给出一版粗剪。效果是这样的,基本上一些卡壳、重复、停顿都处理干净了。

然后我们确认内容和结构以后,画布里加入「智能剪辑」节点,选择「口播视频」,上传素材,写清楚希望怎样剪,再设置目标时长,系统就会唤起剪辑子 Agent 开始处理,接着做文字动画和动态花字,

然后继续审片。哪里不合适,也可以用自然语言让它改字体、调整元素上屏时间或修改剪辑起点。




我很喜欢中间流程中粗剪确认和自动审片,

口播里的某句话听着有点磕巴,其实我们可能想保留下来,想留出一些人感。或者另一句话语法完整,放进整条视频却拖节奏想要删掉,或者中间可能有些重复表达AI并没有删干净,所以我们最好在精剪包装前看一遍,确认没问题再进行下一步。

再就是自动审片可以帮我先处理掉一大部分一眼就能看出来的毛病,减少我挑低级错误的时间,确实很省事。

自动化先帮我做完重复劳动,内容判断还靠我们自己,这个分工就比较舒服。

写到这里,我突然发现,

这次最让我舒服的,其实是工具更一体化了,

以前做一条 AI 视频,我的桌面上经常躺着一排名字差不多的文件。原片、深度版、生成版、重做版、最终版、最终版 2……浏览器还开着好几个页面,

脑子里得一直记着,哪段素材在哪儿,下一步又该传去哪里。

这活干久了,人真麻了。

现在一个工具就能做视频的这些步骤串起来,

深度处理、生成、剪辑、审片,这些原本散在各处的步骤都在慢慢靠到一起。

以后我们大概还是会同时用很多模型,也还是会经历失败和返工,但平台之间跳来跳去的感觉会越来越少。

这个变化听着没那么惊天动地,

但是真的在改变我们做东西的感受。

我会更沉浸在一个创作思路里,

不用分神考虑我需要变换哪些工具。

只需要想用什么能把我这段表达的更精彩,

就够了。

@ 作者 / 卡尔 & 阿汤

最后,感谢你看到这里如果喜欢这篇文章,不妨顺手给我们点赞|在看|转发|评论

如果想要第一时间收到推送,不妨给我个星标

如果你有更有趣的玩法,欢迎在评论区聊聊

更多的内容正在不断填坑中……


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
大病最危险信号,不是消瘦,是排尿频繁出现5个表现,别不当回事

大病最危险信号,不是消瘦,是排尿频繁出现5个表现,别不当回事

芹姐说生活
2026-09-08 23:21:41
承认吧,如今很多家庭已经供不起一个大学生本科四年的全部开销了

承认吧,如今很多家庭已经供不起一个大学生本科四年的全部开销了

天天热点见闻
2026-09-07 06:10:14
总统和副总统,谁会杀了谁?

总统和副总统,谁会杀了谁?

中国新闻周刊
2026-09-09 08:38:08
中原粮仓换上“数智引擎”丨活力中国调研行

中原粮仓换上“数智引擎”丨活力中国调研行

经济日报
2026-09-09 20:55:14
1949年划江而治险成真!幸亏没听美苏的,不然中国多惨

1949年划江而治险成真!幸亏没听美苏的,不然中国多惨

小豫讲故事
2026-09-08 06:00:10
实体店为啥越来越难干了?网友:很多东西比线上贵一半

实体店为啥越来越难干了?网友:很多东西比线上贵一半

康富贵碎碎念
2026-09-09 11:47:46
“这走路姿势,上医院看看吧!”10岁女孩178厘米!上学人潮里鹤立鸡群!

“这走路姿势,上医院看看吧!”10岁女孩178厘米!上学人潮里鹤立鸡群!

林林先生
2026-09-09 13:38:29
广西检察机关依法对罗伟雄涉嫌受贿案提起公诉

广西检察机关依法对罗伟雄涉嫌受贿案提起公诉

环球网资讯
2026-09-09 16:09:48
疑现乌龙指!300943,一度20%跌停

疑现乌龙指!300943,一度20%跌停

证券时报
2026-09-09 14:15:04
周涛与前夫姚科未离婚之前的一张合影照,儒雅的姚科,终究留不住周涛

周涛与前夫姚科未离婚之前的一张合影照,儒雅的姚科,终究留不住周涛

南万说娱26
2026-08-22 08:56:48
拉夫罗夫:莫斯科将把所有历史上的俄罗斯土地归还其合法家园

拉夫罗夫:莫斯科将把所有历史上的俄罗斯土地归还其合法家园

旧窗老街
2026-02-23 01:50:19
决裂41年后李政道公开表示:我和杨振宁分裂,是中华民族一大悲剧

决裂41年后李政道公开表示:我和杨振宁分裂,是中华民族一大悲剧

浩渺青史
2026-09-08 01:16:10
官方定性郭德纲歪曲经典!德云社演出被全国叫停,没罚钱却断了生路,再看曹云金于谦郭麒麟,三人早已赢麻了

官方定性郭德纲歪曲经典!德云社演出被全国叫停,没罚钱却断了生路,再看曹云金于谦郭麒麟,三人早已赢麻了

子芫伴你成长
2026-09-09 21:36:32
内部员工曝光:别买中国轮胎?

内部员工曝光:别买中国轮胎?

新浪财经
2026-09-07 20:58:55
紧急送医才几天,38岁赵丽颖传来“喜讯”,原来冯绍峰真没说错

紧急送医才几天,38岁赵丽颖传来“喜讯”,原来冯绍峰真没说错

乡野小珥
2026-09-09 08:20:59
改打中锋彻底爆发,弗里克保护拉菲尼亚的四步棋

改打中锋彻底爆发,弗里克保护拉菲尼亚的四步棋

王衜晓
2026-09-08 20:14:02
“这么长时间救援人员都没来,让人愤怒”,CHINA GT车手还原事故现场:被救车手还在ICU,“英雄车手”吸入大量浓烟,手部被烫伤

“这么长时间救援人员都没来,让人愤怒”,CHINA GT车手还原事故现场:被救车手还在ICU,“英雄车手”吸入大量浓烟,手部被烫伤

每日经济新闻
2026-09-09 16:35:04
42岁前阿里高管命丧美国:他不是被收割,是被自己的美国梦坑死

42岁前阿里高管命丧美国:他不是被收割,是被自己的美国梦坑死

说故事的阿袭
2026-09-08 13:33:23
悲催!浙江一男子8000元创业,半年狂赚130万,终陷千万负债,网友:普通人要明白一个道理,发财了不是你牛逼,是你站在风口上

悲催!浙江一男子8000元创业,半年狂赚130万,终陷千万负债,网友:普通人要明白一个道理,发财了不是你牛逼,是你站在风口上

火山詩话
2026-09-04 06:12:16
全员灾难!利物浦两大旧将集体崩盘!欧冠一战沦为足坛笑柄

全员灾难!利物浦两大旧将集体崩盘!欧冠一战沦为足坛笑柄

一隅非生
2026-09-09 10:44:03
2026-09-09 22:59:00
卡尔的AI沃茨 incentive-icons
卡尔的AI沃茨
前大厂算法工程师,3家科技公司技术总监|致力打造最系统的Al学习体系,让1万人通过Al提高生产力
330文章数 146关注度
往期回顾 全部

科技要闻

AI重大突破!OpenAI称解开近百年数学难题

头条要闻

男子资助女生5年后停止 遭质问"快打过来 不然曝光你"

头条要闻

男子资助女生5年后停止 遭质问"快打过来 不然曝光你"

体育要闻

16年后再破门,被皇马放弃的少年没认输

娱乐要闻

郭德纲的商业版图,藏着不知道的真相

财经要闻

知情人士证实DeepSeek备战科创板IPO

汽车要闻

红旗HS7 PHEV申报图曝光 尺寸升级/搭载激光雷达

态度原创

时尚
家居
房产
游戏
数码

和童年顶流做邻居,这事我藏了很多年

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

设计之都、中央法务区、均禾大道南侧……白云甩出3宗硬核宅地!

《塞尔达时之笛RE》获玩家力挺:差评的人只为博眼球

数码要闻

OWC推出USB4 Hub扩展坞:配HDMI 2.1接口,130美元

无障碍浏览 进入关怀版