网易首页 > 网易号 > 正文 申请入驻

上下文窗口涨了120倍,英伟达研究员却说这是死路

0
分享至

语言模型现在能一口气读完一整本小说。英伟达的一个研究团队认为,这往往是杀鸡用牛刀,而且很贵。


先解释一下上下文窗口是什么。它是模型的工作记忆,覆盖生成回复时它能"看见"的全部内容。过去几年,这个窗口膨胀得很快。

GPT-4 在2023年3月发布时是 8,192 个token。如今 GPT 5.6 Sol 能处理约 100万 个token,约为前者的 120倍,足够装下托尔斯泰的《战争与和平》。

但英伟达研究团队的观点是:窗口大不等于好用。在多项测试中,定期摘要加上定向查找,效果和塞满整个窗口差不多。

对天天和模型打交道的打工人来说,这个结论有点扎心。大家默认的升级路径是"上下文越长越强",可如果摘要加检索就能达到相近效果,那把整本书硬塞进去,付出的成本换回来的可能只是心理安慰。

窗口该开多大,或许得看任务,而不是看参数表上的数字。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
普林斯顿大学华人女博士被ICE逮捕!刚参加完神经科学学会年会

普林斯顿大学华人女博士被ICE逮捕!刚参加完神经科学学会年会

大洛杉矶LA
2026-11-21 03:45:31
历史不会重演,但会惊人相似:中国黄金价格极可能重走2015年老路

历史不会重演,但会惊人相似:中国黄金价格极可能重走2015年老路

浩渺青史
2026-10-17 01:48:48
西部排名又乱了:国王创NBA奇迹,掘金收大礼,8队排名互换

西部排名又乱了:国王创NBA奇迹,掘金收大礼,8队排名互换

篮球大视野
2026-11-22 15:20:11
新一届江西省委领导班子亮相

新一届江西省委领导班子亮相

农民日报
2026-11-22 18:27:58
这一届年轻人,很多都没有下一代了,他们自己就是“最后一代”

这一届年轻人,很多都没有下一代了,他们自己就是“最后一代”

舒山有鹿
2026-11-04 22:09:48
高阶数据联盟第一,甩开所有超巨!MVP快失去悬念,马刺却藏隐忧

高阶数据联盟第一,甩开所有超巨!MVP快失去悬念,马刺却藏隐忧

老梁体育漫谈
2026-11-23 00:17:47
特朗普有麻烦了,总统赦免权可能不好使了!

特朗普有麻烦了,总统赦免权可能不好使了!

山河路口
2026-11-22 17:17:59
曹洪:伊朗战争让中国措手不及!中国根本没见识过这等打法!

曹洪:伊朗战争让中国措手不及!中国根本没见识过这等打法!

揽星戈
2026-11-21 02:54:51
伺候宋美龄大半辈子的老佣人,临死之际才肯吐露:她能活到106岁,凭借的哪里是那些补品,真正见效莫过于这件事!

伺候宋美龄大半辈子的老佣人,临死之际才肯吐露:她能活到106岁,凭借的哪里是那些补品,真正见效莫过于这件事!

扶苏聊历史
2026-11-21 17:42:04
杨瀚森又被DNP!一场97-96绝杀,验出开拓者头号庸才:8中1得3分

杨瀚森又被DNP!一场97-96绝杀,验出开拓者头号庸才:8中1得3分

球场没跑道
2026-11-22 11:38:22
600759、300872,被立案

600759、300872,被立案

中国基金报
2026-11-22 16:46:55
向太陈岚自曝:现在我多想郭碧婷再多生一两个,我都不敢开口

向太陈岚自曝:现在我多想郭碧婷再多生一两个,我都不敢开口

韩小娱
2026-11-22 13:34:14
700MB的CD和4.7GB的DVD,2026年正式出局

700MB的CD和4.7GB的DVD,2026年正式出局

报错免疫体
2026-11-22 22:40:31
反转!利物浦球星巴尔科拉约会跑路真相曝光:根本不是小气,是被精准套路?

反转!利物浦球星巴尔科拉约会跑路真相曝光:根本不是小气,是被精准套路?

手工制作阿歼
2026-11-22 01:36:11
“长不大的巨婴,及时分手”!四川女生因糖葫芦被男友吃了一个暴怒,扔掉肯德基躺人行道打滚,男生满脸通红苦劝

“长不大的巨婴,及时分手”!四川女生因糖葫芦被男友吃了一个暴怒,扔掉肯德基躺人行道打滚,男生满脸通红苦劝

王老师你还好吗
2026-11-21 13:25:53
特朗普突然对菲律宾开条件:100%买美国农产品

特朗普突然对菲律宾开条件:100%买美国农产品

看看新闻Knews
2026-11-22 20:53:45
官方:前比利时国脚穆萨-登贝莱出任广州粤虎联新闻官

官方:前比利时国脚穆萨-登贝莱出任广州粤虎联新闻官

懂球帝
2026-11-22 15:49:27
中共沈阳市委、沈阳市人民政府贺信!祝贺辽宁女足首夺女超冠军!

中共沈阳市委、沈阳市人民政府贺信!祝贺辽宁女足首夺女超冠军!

环球网资讯
2026-11-22 18:08:07
美媒突然意识到不对劲:马斯克一边赚中国钱,一边帮美军规划战争

美媒突然意识到不对劲:马斯克一边赚中国钱,一边帮美军规划战争

阿芒娱乐说
2026-11-22 18:39:53
韩国有多强?李在明:全世界能打赢我们的国家,只有4个!

韩国有多强?李在明:全世界能打赢我们的国家,只有4个!

理想闲谈
2026-11-22 10:18:33
2026-11-23 02:20:49
碳基打工人
碳基打工人
坐标北京,靠咖啡续命,靠小红书下饭的普通人类。
240文章数 91关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

教育
房产
手机
时尚
公开课

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

手机要闻

星芒OSTA O1 Pro新机确认支持华为自研Wi-Fi 7+芯片级协同技术

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版