网易首页 > 网易号 > 正文 申请入驻

Talk预告 | 上海交通大学吴建宇:DAPD - 如何消除策略自蒸馏中的信息不对称?

0
分享至

本期为TechBeat人工智能社区第793期线上Talk。

北京时间9月9日(周三) 20:00,上海交通大学博士生吴建宇的Talk将准时在TechBeat人工智能社区开播!

他与大家分享的主题是:DAPD - 如何消除策略自蒸馏中的信息不对称?届时他将从策略自蒸馏中的师生信息不对称出发,介绍 DAPD 的双路径锚定与双来源锚定,探讨如何缓解特权幻觉、匹配师生信息条件。

Talk·信息

主题:DAPD - 如何消除策略自蒸馏中的信息不对称?

嘉宾:上海交通大学·博士生- 吴建宇

时间:北京时间9月9日(周三) 20:00

地点:TechBeat人工智能社区

http://www.techbeat.net/


Talk·介绍

在策略自蒸馏中,教师常借助参考答案等特权信息提供更强监督,但学生在真实推理时无法访问这些信息,由此形成训练与部署之间的信息错位。本次分享将介绍 DAPD 如何通过双路径锚定与双来源锚定匹配师生信息条件,并展示该方法在多类任务和不同模型规模下的稳定增益。

Talk大纲

1. 背景

大模型后训练中的在策略蒸馏(OPD)与在策略自蒸馏(OPSD)

2. 现象与诊断

师生信息不对称及其引发的特权幻觉

3. 信息视图

None、Cross、Self 的逐步定义与 Self 桥接

4. DAPD 方法

双路径锚定(DPA)与双来源锚定(DSA)

5. 实验分析

跨任务、跨模型规模、消融实验与分布外迁移

6. 总结与未来

将信息匹配扩展到更多后训练场景

Talk·预习资料


[1] Self-Distilled Reasoner: On-Policy Self-Distillation for Large Language Models 论文链接:https://arxiv.org/abs/2601.18734 代码链接:https://github.com/siyan-zhao/OPSD


[2] DAPD: Dual-Anchored Policy Distillation 论文链接:https://arxiv.org/abs/2608.01735

Talk·提问交流

在Talk界面下的【交流区】参与互动!留下你的打call和问题,和更多小伙伴们共同讨论,被讲者直接翻牌解答!


你的每一次贡献,我们都会给予你相应的i豆积分,还会有惊喜奖励哦!

Talk·嘉宾介绍


吴建宇

上海交通大学·博士生

吴建宇,上海交通大学人工智能学院博士生,师从欧阳万里教授,并在上海人工智能实验室开展研究。本科毕业于北京航空航天大学人工智能专业,曾获北京市优秀毕业生。研究聚焦大语言模型训练与生成式建模,主要关注模型高效化、科学推理与后训练,以及面向科学与工程问题的结构化生成。相关成果发表于ICML、NeurIPS、ICCV等国际会议。


5 位不同来路的具身创业研究者闭门聊天局

北京时间9月8日(周二) 晚20:00截止报名

详情点击图片跳转

9月28日晚@美国匹兹堡

「IROS 2026 群星闪耀 精英晚宴」

免费报名,期待线下见面!

北京时间9月25日(周五) 12:00截止报名

-The End-


如果你也想成为讲者

自荐 / 推荐

单人Talk | 团队专场 | 录播or直播 | 闭门交流
多种方式任你选择!
推荐讲者成功也有奖励哦~

关于TechBeat人工智能社区

TechBeat(www.techbeat.net)隶属于将门创投,是一个荟聚全球华人AI精英的成长社区。

我们希望为AI人才打造更专业的服务和体验,加速并陪伴其学习成长。

期待这里可以成为你学习AI前沿知识的高地,分享自己最新工作的沃土,在AI进阶之路上的升级打怪的根据地!

更多详细介绍>>

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
杭州临平发生刑案致2死,嫌犯畏罪自杀,涉事别墅区物业:推测嫌疑人跟随业主进入小区;周边商户:一名死者30岁左右,平时对人很客气

杭州临平发生刑案致2死,嫌犯畏罪自杀,涉事别墅区物业:推测嫌疑人跟随业主进入小区;周边商户:一名死者30岁左右,平时对人很客气

台州交通广播
2026-11-10 02:09:01
两人已拍拖多年,早被监听发现,事发后黄仁勋很果断,黄乐很聪明

两人已拍拖多年,早被监听发现,事发后黄仁勋很果断,黄乐很聪明

朗威谈星座
2026-11-09 20:50:54
黄仁勋为了业绩都跟客户睡觉了,我们为什么不可以?

黄仁勋为了业绩都跟客户睡觉了,我们为什么不可以?

News脑洞
2026-11-09 15:22:46
蓉城回成都!大巴接机+红毯铺地,球员有说有笑,球迷:欢迎亚军

蓉城回成都!大巴接机+红毯铺地,球员有说有笑,球迷:欢迎亚军

二疯说球
2026-11-09 22:18:35
再见了,陈坤,再见了,黄晓明,中国演艺圈迎“新四大小生”时代

再见了,陈坤,再见了,黄晓明,中国演艺圈迎“新四大小生”时代

皮皮电影
2026-11-09 09:26:00
湖南湘潭一女子买早餐时余额不足,银行卡里近26万不翼而飞,当事人:短信提醒被取消,余额六天内分多笔被转走,银行:疑遭电诈,建议报案

湖南湘潭一女子买早餐时余额不足,银行卡里近26万不翼而飞,当事人:短信提醒被取消,余额六天内分多笔被转走,银行:疑遭电诈,建议报案

台州交通广播
2026-11-10 08:38:36
乒协公布混团世界杯参赛名单

乒协公布混团世界杯参赛名单

界面新闻
2026-11-10 09:38:12
莫斯科“中国城”等地数百年轻人被捕!还收到征兵传票

莫斯科“中国城”等地数百年轻人被捕!还收到征兵传票

项鹏飞
2026-11-09 19:20:37
一通电话叫来黄仁勋,黄乐到底是谁?

一通电话叫来黄仁勋,黄乐到底是谁?

凤凰网财经
2026-11-10 00:03:02
石破天惊的发现,中国汉字已正式推至7000年前,别再纠结夏朝了

石破天惊的发现,中国汉字已正式推至7000年前,别再纠结夏朝了

小豫讲故事
2026-11-09 12:10:25
特朗普质疑中期选举公正性:部分提前投票的批量票源规模大到离谱,无论多少人去现场投票,都根本不可能翻盘,问题全都出在投票机器上

特朗普质疑中期选举公正性:部分提前投票的批量票源规模大到离谱,无论多少人去现场投票,都根本不可能翻盘,问题全都出在投票机器上

极目新闻
2026-11-10 07:38:51
搬家公司9公里收费13900元,不给钱就扣货,威胁“你家就在这跑不掉”……警方打掉两个家族式“套路搬”团伙,近百人落网

搬家公司9公里收费13900元,不给钱就扣货,威胁“你家就在这跑不掉”……警方打掉两个家族式“套路搬”团伙,近百人落网

封面新闻
2026-11-09 16:20:46
黄乐是怎么被盯上的?从一箱没拆封的英伟达芯片说起

黄乐是怎么被盯上的?从一箱没拆封的英伟达芯片说起

迷世书童
2026-11-09 15:19:32
黄克诚带队转移,发现警卫员总走在最前,想起侦察员那句提醒

黄克诚带队转移,发现警卫员总走在最前,想起侦察员那句提醒

纪史行者
2026-11-08 08:10:16
女子和情夫山上发生关系,嫌情夫不肯开房太小气,两人吵起来,女子再次被发现身上盖满石块

女子和情夫山上发生关系,嫌情夫不肯开房太小气,两人吵起来,女子再次被发现身上盖满石块

丫头舫
2026-11-09 22:14:32
全球首个长内容AI流媒体「Glanze」,让一万个平行宇宙找到落点

全球首个长内容AI流媒体「Glanze」,让一万个平行宇宙找到落点

极客电影
2026-09-11 18:02:52
黄仁勋台北爱情故事

黄仁勋台北爱情故事

凤凰网财经
2026-11-09 16:36:34
性生活是不是人的刚需?网友说:男性性生活是刚需,女性不是!

性生活是不是人的刚需?网友说:男性性生活是刚需,女性不是!

黯泉
2026-11-09 17:39:59
妻子被迫后喜欢上偷情,情夫是邻居,2012年丈夫怒杀妻子情人

妻子被迫后喜欢上偷情,情夫是邻居,2012年丈夫怒杀妻子情人

汉史趣闻
2026-11-09 10:00:08
俄方长期将战损列为国家机密,黑客却泄露出记录:近40万俄罗斯人在俄乌冲突中丧生

俄方长期将战损列为国家机密,黑客却泄露出记录:近40万俄罗斯人在俄乌冲突中丧生

14号观星辰
2026-11-09 18:14:49
2026-11-10 11:04:49
将门创投 incentive-icons
将门创投
加速及投资技术驱动型初创企业
2538文章数 597关注度
往期回顾 全部

科技要闻

最强Claude来了!8天从零写出电脑系统

头条要闻

陕西一民办小学卖惨骗捐被查封 女校长等多人被抓

头条要闻

陕西一民办小学卖惨骗捐被查封 女校长等多人被抓

体育要闻

大连足球这些年的起落,都从他身边经过

娱乐要闻

整个内娱为了她俩“画地为牢”?

财经要闻

72岁王健林重回“一号位”

汽车要闻

雨中的埃安Ray7,有点上头

态度原创

健康
旅游
艺术
教育
公开课

痘痘长到25岁还没完?查查内分泌

旅游要闻

来红叶谷赏彩林、泛舟、做手工,更有精美小礼品等你拿

艺术要闻

点开前以为只是玫瑰,点开后:这画得也太美艳了!

教育要闻

中俄教育年独家专访|远东联邦大学副校长详解赴俄留学新趋势

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版