网易首页 > 网易号 > 正文 申请入驻

NeurIPS 2026 | 如何让LLM在推理中不断进化

0
分享至



随着人工智能(AI)系统的大规模部署,AI 服务正成为能源消耗增长的关键驱动因素,尤其是在大型语言模型(LLM)推理服务方面。LLM 服务过程中,基于真实用户交互生成的大规模 LLM 推理促使我们重新思考如何利用推理过程本身来改进服务系统,特别是实现高效的特定任务 LLM 自适应。

主流的 LLM 自适应方法基于调优技术(例如,参数高效微调(PEFT)、提示调优等)和知识增强技术(例如,检索增强生成(RAG)、提示工程等)。知识增强技术主要通过注入知识来实现,并且与 LLM 推理过程中修改内部权重无关。调优技术通常依赖于反向传播,与推理本身相比会产生额外的资源开销。相反,新兴的仅前向学习方法[1],仅依赖于前向传播,正成为 LLM 推理中一种很有前景的自适应方法。

一句话概括:LLM 在推理的过程中不断进化, 在仅前向(无后向传播)中实现对下游任务的自适应。



  • 论文标题:Efficient LLM Adaptation with Forward-Only Passes
  • 研究团队:隆德大学(瑞典), Google DeepMind (纽约)
  • 论文链接:https://arxiv.org/abs/2611.10610
  • NeurIPS 官方页面:https://neurips.cc/virtual/2026/loc/atlanta/poster/148809

核心贡献:

利用 LLM 前向传播中激活值的角度集中度来衡量参数 SVD 中不同 rank 对激活值的贡献并对相应的 ranks 进行裁剪

本文旨在实现LLM 推理服务过程中仅通过前向传播即可高效自适应 LLM。我们提出仅前向搜索来加速所选权重矩阵的识别,其方法是利用奇异值分解(SVD)分量引起的激活与隐藏状态之间的角度集中度差异。每个 SVD 分量引起的激活的角度集中度用于衡量其对隐藏状态角度集中度的贡献——分散或集中。我们的前向搜索包含以下步骤:

第一,具有多个 SVD 分量的 SVD 分解



第二,所有 SVD 分量的激活值之和可恢复标准的前向传播



第三,角度集中度计算

前向传播测量角度集中度,以确定哪个权重矩阵具有最高的离散度,该权重矩阵随后用于降秩运算。



结果

结果表明,与基于梯度的方法(LASER-Grad)相比,我们的前向方法具有更低的峰值内存和更高的加速比;与穷举搜索方法(LASER)相比,我们也具有更高的加速比和相当的精度。



我们证明,与基于梯度的方法相比,我们的前向搜索方法在各种数据集(包括知识推理、知识干预、多跳推理、事实验证、公平性和偏见评估、幻觉检测和信息检索)上实现了更低的峰值内存占用和更高的加速比;与穷举搜索方法相比,该方法也具有更高的加速比和相当的准确率。



GPT-J 评估报告准确率(Acc,%)、加速比和峰值内存(Mem)



Roberta 评估报告准确率(Acc,%)、加速比和峰值内存(Mem)

扩展实验进一步证明了我们前向搜索方法的有效性和鲁棒性,以及其增强微调过程的能力。



GPT-J




Roberta on Bios Gender

此外,我们还对各种参数量高达 570 亿的 LLM 进行了广泛的实验,包括 LLaMA2 DeepSeekV1、Mistral、Qwen2 及其专家混合模型(MoE)版本,以及多模态 Gemma 4。结果表明,我们的前向搜索方法具有很强的泛化能力。



我们在消融实验中展示了我们提出的高效分层搜索算法能够有效且鲁棒地加速计算,同时保持下游精度。此外,与 LASER-Grad 相比,我们的仅前向方法在不同的序列长度下,峰值内存显著降低,加速比更高。





我们将 Key、Query、Value 等权重矩阵添加到默认的 FFN 输入/输出中。相应结果表明,我们的仅前向搜索可以得到与仅考虑默认 FFN 输入/输出时相同的 top-j 权重矩阵。换句话说,注意力模块中的权重矩阵可以忽略不计,从而加快计算速度。

相关工作:

LLM 压缩、LLM 自适应、仅前向学习

LLM 压缩:模型压缩技术通常旨在减少模型存储而不影响下游精度。迄今为止,包括量化、蒸馏、张量分解、剪枝和键值缓存压缩在内的 LLM 压缩方法,也旨在保持下游精度,但在一定程度上需要额外的步骤,例如微调和对齐,或者在压缩后通过推理来提高下游精度。值得注意的是,在奇异值分解(SVD)中选择性地去除权重矩阵的高阶分量可以提高下游精度。

LLM 自适应:将 LLM 适配到下游任务通常涉及调优技术和知识增强技术。调优技术包括监督式微调 (SFT) 、PEFT(例如低秩自适应 (LoRA)、适配器调优等)、提示调优、前缀调优、偏置高效微调 (BEFT) 、指令调优以及以下对齐技术,以及测试时训练。然而,这些调优技术通常依赖于反向传播。即使是无需训练的 LLM 对齐方法,与推理本身相比,仍然会产生额外的资源开销。此外,知识增强技术,包括 ICL、提示指令、检索增强生成、提示工程、激活控制以及基于工具的方法,主要通过增强提示或注入信息来运行,并且与在 LLM 推理过程中修改内部权重是正交的。

仅前向学习:新兴的仅前向学习算法展现了模型自适应的一个有前景的趋势,即从依赖反向传播转向更直接地依赖前向传播,这在当前 LLM 规模空前庞大的时代尤为重要。然而,仅前向学习扩展到更深层模型(例如 LLM)的可扩展性仍然是一个具有挑战性的问题。在仅前向传播技术中,前向梯度法可以通过对多个扰动进行平均或利用局部损失进行更好的梯度估计来扩展到更深的模型,而零阶优化可以扩展到更深的模型和 LLM。此外,扩展到 LLM 的进化策略要么需要调整输入提示/嵌入,要么需要多次迭代(调整)前向传播。

结语

新兴的仅前向学习方法,仅依赖于前向传播,无需任何后向传播,正逐步被应用到大模型领域,发挥更实际的作用。

总而言之,由于本文提出的方法完全摒弃了反向传播梯度计算,并且具备低内存占用和高加速比,它未来完全可以在真实的 LLM 推理服务过程中实现在线实时适应。系统可以利用来自用户交互的偏好数据或自标记验证数据,在服务期间动态地、低成本地调整模型,使其更贴合特定任务或用户群体,具有极高的商业价值。

[1] Baichuan Huang, Alexander Ororbia, Amir Aminifar. Backpropagation-Free Learning: On the Emergence of Forward-Only Algorithms. TechRxiv. 2026.

DOI: https://doi.org/10.36227/techrxiv.176739859.93468234/v1

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
AI复活电子垃圾之:压了十年泡面的 Kindle,终于翻身了

AI复活电子垃圾之:压了十年泡面的 Kindle,终于翻身了

果壳
2026-11-19 16:17:10
CBA杯积分榜:16强定2席!广东基本无缘直通,上海险些被爆冷

CBA杯积分榜:16强定2席!广东基本无缘直通,上海险些被爆冷

乒桢泳球
2026-11-19 22:05:33
宋美龄活到106岁,身边佣人晚年才说出实情:她从不靠那些进补的东西,真正起作用的是大家都忽视的小事

宋美龄活到106岁,身边佣人晚年才说出实情:她从不靠那些进补的东西,真正起作用的是大家都忽视的小事

磊子讲史
2026-11-19 18:11:34
“晚上强撑到家,痛到无法忍受”,知名网站创始人突发心梗,“寡妇血管”全堵死,送医几分钟后心脏骤停;本人发声:目前在家静养,勿扰

“晚上强撑到家,痛到无法忍受”,知名网站创始人突发心梗,“寡妇血管”全堵死,送医几分钟后心脏骤停;本人发声:目前在家静养,勿扰

南方都市报
2026-11-20 08:03:51
日本东京万人集会抗议高市政权政策

日本东京万人集会抗议高市政权政策

新华社
2026-11-20 00:29:26
秦基伟把24门喀秋莎封进山洞,严令半个月不准开一炮,后来如何?

秦基伟把24门喀秋莎封进山洞,严令半个月不准开一炮,后来如何?

云端小院
2026-11-20 08:19:03
晚旗报:波切蒂诺首秀迎利物浦,曼联预计4-2-3-1阵型

晚旗报:波切蒂诺首秀迎利物浦,曼联预计4-2-3-1阵型

懂球帝
2026-11-20 07:00:10
上海退休教授进敬老院5个月后去世,护工挺着大肚子含泪:这是遗书

上海退休教授进敬老院5个月后去世,护工挺着大肚子含泪:这是遗书

罪案洞察者
2025-08-08 11:40:08
21岁瘫痪时,霍金仍坚持迎娶爱人,婚后却先后育有3个子女;众人困惑孩子怎样出生,他亲自作出这样的科学答复

21岁瘫痪时,霍金仍坚持迎娶爱人,婚后却先后育有3个子女;众人困惑孩子怎样出生,他亲自作出这样的科学答复

LULU生活家
2026-11-19 16:59:58
就在大家都以为中国会坚决回应时,北京却选择了战略克制。

就在大家都以为中国会坚决回应时,北京却选择了战略克制。

回京历史梦
2026-08-22 18:23:43
CBA杯辽宁全华班狂送36助攻,赵继伟缺阵外援全休,今晚8点碰迪亚洛8投全中的山西,乌戈点破关键

CBA杯辽宁全华班狂送36助攻,赵继伟缺阵外援全休,今晚8点碰迪亚洛8投全中的山西,乌戈点破关键

篮球热嗖
2026-11-20 10:52:35
日本彻底撕破脸!中日关系不可能回头,日本明确表示:中国是日本“前所未有的最大战略挑战”!

日本彻底撕破脸!中日关系不可能回头,日本明确表示:中国是日本“前所未有的最大战略挑战”!

扶苏聊历史
2026-11-17 14:55:44
中国行只有24小时 马斯克仍专程飞上海:我要感谢中国团队

中国行只有24小时 马斯克仍专程飞上海:我要感谢中国团队

快科技
2026-11-19 22:03:28
方博:我干不过松岛辉空!连向鹏都赢不了,排名高的更厉害樊振东除外

方博:我干不过松岛辉空!连向鹏都赢不了,排名高的更厉害樊振东除外

念洲
2026-11-20 10:24:13
英国防长:若俄罗斯在乌克兰冲突中获胜,欧洲将面临灾难性代价

英国防长:若俄罗斯在乌克兰冲突中获胜,欧洲将面临灾难性代价

让心灵得以栖息
2026-11-20 06:20:34
女子借贷7万相亲,升级“重点会员”数月后婚介公司人去楼空,婚介陷阱曝光:宣称成功率98.63%,诱导顾客贷款消费

女子借贷7万相亲,升级“重点会员”数月后婚介公司人去楼空,婚介陷阱曝光:宣称成功率98.63%,诱导顾客贷款消费

大风新闻
2026-11-20 10:32:04
从5-4到3-0!曼城冲击1大纪录,21连胜貌似触手可及,2员大将伤退

从5-4到3-0!曼城冲击1大纪录,21连胜貌似触手可及,2员大将伤退

汪星人哟
2026-11-20 10:33:46
奢靡荒唐的白马会所:性交易泛滥,让无数富婆挥金如土

奢靡荒唐的白马会所:性交易泛滥,让无数富婆挥金如土

天启大世界
2026-10-13 17:17:54
欧洲:不能从中国买电池!中国:收到,那我把整个电池厂搬过来!

欧洲:不能从中国买电池!中国:收到,那我把整个电池厂搬过来!

影孖看世界
2026-10-27 23:14:31
宋喆出狱3年县城搬菜日结50块,前妻仓库2000平年营业额1200万,网友吵翻:谁更清醒

宋喆出狱3年县城搬菜日结50块,前妻仓库2000平年营业额1200万,网友吵翻:谁更清醒

迪迪的娱乐故事
2026-11-07 08:36:34
2026-11-20 22:08:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14524文章数 142761关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

交钱5年房子没盖女子要求退房退款被拒 当地称可换房

头条要闻

交钱5年房子没盖女子要求退房退款被拒 当地称可换房

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

手机
家居
数码
公开课
军事航空

手机要闻

华为全新子品牌星芒开山之作!OSTA O1 Pro正式开售:5499元起

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

银昕推出ITX机箱MILO 13:搭载整合安装支架,配备COM开孔

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

沙特首都第一高楼遭袭:炮弹从天而降

无障碍浏览 进入关怀版