网易首页 > 网易号 > 正文 申请入驻

Talk预告 | 上海交通大学吴建宇:DAPD - 如何消除策略自蒸馏中的信息不对称?

0
分享至

本期为TechBeat人工智能社区第793期线上Talk。

北京时间9月9日(周三) 20:00,上海交通大学博士生吴建宇的Talk将准时在TechBeat人工智能社区开播!

他与大家分享的主题是:DAPD - 如何消除策略自蒸馏中的信息不对称?届时他将从策略自蒸馏中的师生信息不对称出发,介绍 DAPD 的双路径锚定与双来源锚定,探讨如何缓解特权幻觉、匹配师生信息条件。

Talk·信息

主题:DAPD - 如何消除策略自蒸馏中的信息不对称?

嘉宾:上海交通大学·博士生- 吴建宇

时间:北京时间9月9日(周三) 20:00

地点:TechBeat人工智能社区

http://www.techbeat.net/


Talk·介绍

在策略自蒸馏中,教师常借助参考答案等特权信息提供更强监督,但学生在真实推理时无法访问这些信息,由此形成训练与部署之间的信息错位。本次分享将介绍 DAPD 如何通过双路径锚定与双来源锚定匹配师生信息条件,并展示该方法在多类任务和不同模型规模下的稳定增益。

Talk大纲

1. 背景

大模型后训练中的在策略蒸馏(OPD)与在策略自蒸馏(OPSD)

2. 现象与诊断

师生信息不对称及其引发的特权幻觉

3. 信息视图

None、Cross、Self 的逐步定义与 Self 桥接

4. DAPD 方法

双路径锚定(DPA)与双来源锚定(DSA)

5. 实验分析

跨任务、跨模型规模、消融实验与分布外迁移

6. 总结与未来

将信息匹配扩展到更多后训练场景

Talk·预习资料


[1] Self-Distilled Reasoner: On-Policy Self-Distillation for Large Language Models 论文链接:https://arxiv.org/abs/2601.18734 代码链接:https://github.com/siyan-zhao/OPSD


[2] DAPD: Dual-Anchored Policy Distillation 论文链接:https://arxiv.org/abs/2608.01735

Talk·提问交流

在Talk界面下的【交流区】参与互动!留下你的打call和问题,和更多小伙伴们共同讨论,被讲者直接翻牌解答!


你的每一次贡献,我们都会给予你相应的i豆积分,还会有惊喜奖励哦!

Talk·嘉宾介绍


吴建宇

上海交通大学·博士生

吴建宇,上海交通大学人工智能学院博士生,师从欧阳万里教授,并在上海人工智能实验室开展研究。本科毕业于北京航空航天大学人工智能专业,曾获北京市优秀毕业生。研究聚焦大语言模型训练与生成式建模,主要关注模型高效化、科学推理与后训练,以及面向科学与工程问题的结构化生成。相关成果发表于ICML、NeurIPS、ICCV等国际会议。


5 位不同来路的具身创业研究者闭门聊天局

北京时间9月8日(周二) 晚20:00截止报名

详情点击图片跳转

9月28日晚@美国匹兹堡

「IROS 2026 群星闪耀 精英晚宴」

免费报名,期待线下见面!

北京时间9月25日(周五) 12:00截止报名

-The End-


如果你也想成为讲者

自荐 / 推荐

单人Talk | 团队专场 | 录播or直播 | 闭门交流
多种方式任你选择!
推荐讲者成功也有奖励哦~

关于TechBeat人工智能社区

TechBeat(www.techbeat.net)隶属于将门创投,是一个荟聚全球华人AI精英的成长社区。

我们希望为AI人才打造更专业的服务和体验,加速并陪伴其学习成长。

期待这里可以成为你学习AI前沿知识的高地,分享自己最新工作的沃土,在AI进阶之路上的升级打怪的根据地!

更多详细介绍>>

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
演员童瑶发文告别

演员童瑶发文告别

背包旅行
2026-10-16 11:55:16
央视除名、被大佬睡出位、靠肉体换资源?方琼秘闻多炸裂

央视除名、被大佬睡出位、靠肉体换资源?方琼秘闻多炸裂

地球记
2026-10-14 19:09:51
天王嫂方媛晒健身照,高马尾配健身装展露身材,哪里像仨孩子的妈

天王嫂方媛晒健身照,高马尾配健身装展露身材,哪里像仨孩子的妈

孤城落日
2026-11-07 23:18:46
“这楼道,能臭晕外卖员!”初中女孩上学一幕火了,家长被喷素质低下

“这楼道,能臭晕外卖员!”初中女孩上学一幕火了,家长被喷素质低下

妍妍教育日记
2026-11-04 22:48:23
跟子女相处:讲道理是下策,闭嘴是中策,上策你绝对想不到

跟子女相处:讲道理是下策,闭嘴是中策,上策你绝对想不到

小影的娱乐
2026-11-08 05:47:03
和戚薇分开15年后,他在上海开店卖生煎,如今欠债1210万成了老赖

和戚薇分开15年后,他在上海开店卖生煎,如今欠债1210万成了老赖

林轻吟
2026-11-10 10:02:11
视频会员看剧时突然出现巨大弹幕广告,“占满1/3屏幕,持续近10秒”;优酷回应:可以快进或自行关闭

视频会员看剧时突然出现巨大弹幕广告,“占满1/3屏幕,持续近10秒”;优酷回应:可以快进或自行关闭

大风新闻
2026-11-07 13:40:02
黄仁勋发文承认婚外情:没有任何借口!英伟达董事会已宣布启动独立调查,女儿此前突然取消韩国行称“家庭原因”

黄仁勋发文承认婚外情:没有任何借口!英伟达董事会已宣布启动独立调查,女儿此前突然取消韩国行称“家庭原因”

新民周刊
2026-11-09 11:16:26
王炸!武汉首座万象天地开业在即!

王炸!武汉首座万象天地开业在即!

越乔
2026-11-09 22:11:57
伊朗向美发出48小时最后通牒:要么结束战斗,要么全面开战

伊朗向美发出48小时最后通牒:要么结束战斗,要么全面开战

创微视角
2026-11-09 20:56:30
台湾2026县市长选举结果预测:国民党最好战绩17席,最差保住12席

台湾2026县市长选举结果预测:国民党最好战绩17席,最差保住12席

一路荒凉如歌a
2026-11-10 04:10:15
被骂最惨的上海枢纽!常年堵车像工地,如今将重磅升级,彻底翻盘

被骂最惨的上海枢纽!常年堵车像工地,如今将重磅升级,彻底翻盘

小蜜情感说
2026-11-10 02:24:14
回老家住了一个月才明白:为什么农村越来越多父母,宁愿儿子打光棍,也不负债娶媳妇

回老家住了一个月才明白:为什么农村越来越多父母,宁愿儿子打光棍,也不负债娶媳妇

小马达情感故事
2026-11-08 17:35:14
【反诈宣传】快递员发现到付包裹竟要收2万元,立马报警!他说:收件人是85岁独居老人,让他起了疑

【反诈宣传】快递员发现到付包裹竟要收2万元,立马报警!他说:收件人是85岁独居老人,让他起了疑

新浪财经
2026-11-09 18:53:02
国乒动手了!官方群全解散,莎莎五个“不”,饭圈一夜回到解放前

国乒动手了!官方群全解散,莎莎五个“不”,饭圈一夜回到解放前

郭蛹包工头
2026-10-21 11:03:22
利拉德和阿夫迪亚抢着给中国中锋杨瀚森喂球,他有什么特别?

利拉德和阿夫迪亚抢着给中国中锋杨瀚森喂球,他有什么特别?

主宰稳场
2026-11-10 04:04:53
中国“捡钱”时代或将来临:如果手中只有10万,试试死啃这两条线

中国“捡钱”时代或将来临:如果手中只有10万,试试死啃这两条线

米老鼠的世界
2026-08-26 14:20:23
支持率仅剩4.3%!自知提前出局后,郑丽文拟为两岸关系上一道锁

支持率仅剩4.3%!自知提前出局后,郑丽文拟为两岸关系上一道锁

青春染指红颜梦
2026-09-02 17:50:13
商鞅为什么害怕百姓太有钱?

商鞅为什么害怕百姓太有钱?

熊倌儿
2026-11-08 22:06:30
开拓者主帅公开表态,杨瀚森12+10两双只是起点

开拓者主帅公开表态,杨瀚森12+10两双只是起点

涵有话说
2026-11-10 09:17:26
2026-11-10 10:51:00
将门创投 incentive-icons
将门创投
加速及投资技术驱动型初创企业
2538文章数 597关注度
往期回顾 全部

科技要闻

最强Claude来了!8天从零写出电脑系统

头条要闻

陕西一民办小学卖惨骗捐被查封 女校长等多人被抓

头条要闻

陕西一民办小学卖惨骗捐被查封 女校长等多人被抓

体育要闻

大连足球这些年的起落,都从他身边经过

娱乐要闻

整个内娱为了她俩“画地为牢”?

财经要闻

72岁王健林重回“一号位”

汽车要闻

雨中的埃安Ray7,有点上头

态度原创

教育
游戏
手机
旅游
亲子

教育要闻

中俄教育年独家专访|远东联邦大学副校长详解赴俄留学新趋势

速通玩家用无限跳突破《塞尔达:时之笛 重制版》

手机要闻

iPhone Duo屏幕开裂原因确认 苹果不会进行召回

旅游要闻

来红叶谷赏彩林、泛舟、做手工,更有精美小礼品等你拿

亲子要闻

幼儿园3年减少5.73万所

无障碍浏览 进入关怀版