网易首页 > 网易号 > 正文 申请入驻

视频喂给AI,为什么按时间抽帧会漏掉关键画面?

0
分享至

把一段视频交给大语言模型处理,第一步通常是抽帧。大多数工具的做法很简单:每隔固定时间截一张图。但这样做有个隐患——镜头切换的瞬间可能刚好落在两次采样之间,模型就永远看不到那个画面了。

开发者 Seth Wheeler 最近发布了一个叫 VTL(视频时间线) 的开源工具,思路是反过来:不按时钟走,而是按内容变化走。它先测量视频里实际发生了多少视觉变化,再决定在哪些位置取帧,确保每个镜头都被覆盖到,同时避免在静止画面上浪费帧数。


均匀采样的两个盲区

固定间隔抽帧的问题,作者总结得很直白:要么漏掉关键变化,要么在无用画面上重复拍摄。比如一段会议录像,演讲者翻页的瞬间可能只持续零点几秒,均匀采样很可能正好错过;而镜头对准白板静止不动时,每隔一秒截一张图,得到的几乎全是重复内容。

VTL 的做法是给帧选择加一个“覆盖下限”——每个镜头都必须有帧被选中,帧与帧之间的间隔会被明确测量并记录。这样既不会漏掉任何场景,也能把冗余数据压到最低。

用合成装置验证算法,而不是靠猜

为了保证测量真的准确,作者没有直接拿真实视频测试——因为真实视频的“正确答案”没人知道。他搭了一套合成测试装置,用已知的平移、倾斜、缩放参数生成视频,相当于给算法出了一套有标准答案的考题。

这个验证过程还揪出了一个隐蔽的 bug:算法对亮度变化过于敏感,环境光一闪就可能误判为内容变化。这类错误在真实视频里很难发现,但在合成数据下无所遁形。

AI 写代码,人负责问“这真的对吗”

项目开发过程中,作者用了 Claude Code 辅助写代码,但他强调人类监督不可替代。核心不是让 AI 把功能跑通,而是设计一套测试循环,不断追问“这个测量结果真的正确吗”。

作者在文章里留下一句话:“错误从来不在帧中,而是在它们之间的空间里。”均匀采样拍的是静止的幻灯片,VTL 拍的是均匀采样从未到达的镜头。这个工具目前已在开源社区发布,适合做视频检索、内容摘要这类需要“看懂”视频的 AI 应用。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
开始收网了,尼日利亚没料到,中方出手第一招,就是釜底抽薪?

开始收网了,尼日利亚没料到,中方出手第一招,就是釜底抽薪?

安安说
2026-09-02 12:18:45
广东排查椰子水生产企业:23家存在问题,5家被立案查处

广东排查椰子水生产企业:23家存在问题,5家被立案查处

21世纪经济报道
2026-09-02 18:40:21
景甜背后纹身图片被疯传,张继科直播一番话,被指保护了景甜!

景甜背后纹身图片被疯传,张继科直播一番话,被指保护了景甜!

背包旅行
2026-08-31 10:01:31
A股“大肉签”来了,中一签或赚超28万

A股“大肉签”来了,中一签或赚超28万

第一财经资讯
2026-09-02 09:12:13
红利曼激战:乌军6个旅四面包夹,俄军只剩10.7公里走廊

红利曼激战:乌军6个旅四面包夹,俄军只剩10.7公里走廊

追星雷达站
2026-08-31 12:05:37
民众呼吁“取消养老特权”!71岁专家引发争议,养老差距真相大白

民众呼吁“取消养老特权”!71岁专家引发争议,养老差距真相大白

百科密码
2026-08-31 10:02:15
华为,谁允许你这么折叠的

华为,谁允许你这么折叠的

机智猫
2026-08-31 16:40:11
美国专等伊朗建好雷达站后再炸,伊朗学哈马斯喊白左相助

美国专等伊朗建好雷达站后再炸,伊朗学哈马斯喊白左相助

移光幻影
2026-09-02 16:49:26
私密录音流出!中国企业压榨学生竟要靠奔驰大众等洋企帮忙维权?!

私密录音流出!中国企业压榨学生竟要靠奔驰大众等洋企帮忙维权?!

魔都囡
2026-09-02 10:32:10
3秒取出鱼刺,竟收费63元,家属并未缴费,却投诉收费过高!医生气得网上吐槽,评论区一片同情

3秒取出鱼刺,竟收费63元,家属并未缴费,却投诉收费过高!医生气得网上吐槽,评论区一片同情

谭谈社会
2026-09-02 18:22:06
你以为日本怕朝鲜,怕的是那几枚导弹?错了。日本真正睡不好觉的,不是射程,而是平壤压根不跟你玩

你以为日本怕朝鲜,怕的是那几枚导弹?错了。日本真正睡不好觉的,不是射程,而是平壤压根不跟你玩

人生录
2026-08-31 00:05:12
不查不知道,一查吓一跳!43岁王鸥在北京的花园豪宅,私下有多壕

不查不知道,一查吓一跳!43岁王鸥在北京的花园豪宅,私下有多壕

揽星河的笔记
2026-09-02 18:57:52
女子捡了只流浪猫带公司养,老板买了猫窝却没看尺寸,网友:咪总每天在800平的卧室醒来...

女子捡了只流浪猫带公司养,老板买了猫窝却没看尺寸,网友:咪总每天在800平的卧室醒来...

爱宠物
2026-09-02 23:14:43
特朗普离不开她! 哈普凭啥混成白宫第一红人?

特朗普离不开她! 哈普凭啥混成白宫第一红人?

看看新闻Knews
2026-09-02 20:42:09
胡锡进喊话星宇股份:承诺未来优先把107名被辞应届生招回来

胡锡进喊话星宇股份:承诺未来优先把107名被辞应届生招回来

赴一场山海啊
2026-09-02 22:15:09
外籍员工靠工会讨回47万欠款

外籍员工靠工会讨回47万欠款

城事堂
2026-09-01 21:38:54
G20财长会上!日本财长喊话中国:把稀土管制给我撤了

G20财长会上!日本财长喊话中国:把稀土管制给我撤了

果妈聊娱乐
2026-09-02 08:28:20
电视都是谁造的?揭秘各大品牌代工源头,国产供应链实力有多恐怖

电视都是谁造的?揭秘各大品牌代工源头,国产供应链实力有多恐怖

小柱解说游戏
2026-09-02 05:44:37
理想新车官宣:9月2日,正式上市

理想新车官宣:9月2日,正式上市

科技堡垒
2026-09-02 11:40:58
被杨瀚森打爆的黎巴嫩归化中锋芬德伯格到底是什么水平?

被杨瀚森打爆的黎巴嫩归化中锋芬德伯格到底是什么水平?

我们的美学
2026-09-02 09:08:36
2026-09-03 01:28:49
Ping值焦虑
Ping值焦虑
有态度网友ytd
185文章数 90关注度
往期回顾 全部

科技要闻

凌晨最强模型上新,Claude Fable 5.1发布

头条要闻

乌安全局与乌国防部情报总局在基辅交火 泽连斯基发声

头条要闻

乌安全局与乌国防部情报总局在基辅交火 泽连斯基发声

体育要闻

一次有奖问答,让他成为欧冠主帅

娱乐要闻

香港武打影星陈观泰离世,终年80岁

财经要闻

星宇股份的麻烦,才刚开始

汽车要闻

配双腔空悬+机械差速锁 传祺越7预售权益价17.18万起

态度原创

房产
亲子
教育
公开课
军事航空

房产要闻

新四代住宅 新样板间开放丨以艺术之名 赴一场迭代之约

亲子要闻

别再炫耀你家孩子不吃零食了!看看评论区那些“报复性”的成年人

教育要闻

南京市“七校联合体”工作研讨暨盟主校交接会顺利召开

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

特朗普威胁伊朗终极打击蓄势待发

无障碍浏览 进入关怀版