网易首页 > 网易号 > 正文 申请入驻

他是一位数学家,却成为AI训练最绕不开的人

0
分享至

设置星标★关注,从此你的世界多点科学~

何为“优化”?通俗来讲,优化就是让事物变得更好,而在数学领域,优化(optimization)作为一门有明确研究对象和理论体系的学科,其研究的是如何在给定约束下,从众多可能方案里找出使某个目标达到最小(或最大)的那个方案。

例如,“规划出成本最低的配送路线”就是一项优化目标,成本由行驶距离、能源消耗和所用时长等因素共同决定,约束条件则是道路通行规则,如单行道、夜间封路等。

当决策变量或约束条件的数量很多时,最小值求取通常只能依靠计算机:反复计算某组决策变量对应的成本,检验邻近的决策组合能否得到更低成本,并重复此过程,直到确定所有邻近决策对应的成本都更高为止。众多数学家都致力于加快优化计算,比如来自比利时的俄裔学者尤里·涅斯捷罗夫(Yurii Nesterov)。

涅斯捷罗夫在凸优化理论方面取得了开创性成果,其设计的加速梯度算法大幅加快优化计算,为数据科学、自动化和控制领域开辟全新可能,也催生出基于所谓“涅斯捷罗夫动量”的一系列新算法。因此获得了2023年世界顶尖科学家奖“智能科学或数学奖”。2026年7月,他获得了应用数学领域的最高荣誉——高斯奖。


阿尔卡迪・涅米罗夫斯基(Arkadi Nemirovski,左)和尤里·涅斯捷罗夫(右)共同获得2023年世界顶尖科学家奖“智能科学或数学奖”;2026年10月30日至11月1日,尤里·涅斯捷罗夫将出席世界顶尖科学家论坛

尤里·涅斯捷罗夫曾接受瑞士学术机构的专访,介绍了优化研究领域,也分享了自己对数学和AI时代数学研究的见解。

优化研究的成果切实可感

我从事优化研究已有近50年了,这是一段漫长旅程。我有过一些开窍、破局的时刻,但那些时刻无法令我感叹“这或许是我最厉害的成果”。

数值方法优化这门学科有它美妙之处,其中之一便是研究者能实实在在看到自己的工作进展和价值。开展研究之前,已有算法勉强够解决问题,但求解须花费一小时;经过改进,求解时间缩短至一分钟了!

进展源源不断,前路依旧漫漫

优化领域正处于一个非常特殊的转折阶段。

几年前,我们开始研究高阶方法,发现这些方法已无法通过标准优化理论来解释。大家意识到,标准优化理论仅仅完成了第一步,即发展出一阶方法,要让理论更上一层楼,要得到速度更快、效率更高的更高阶计算方法,从某种意义上说,我们必须建立一套全新、通用的理论,覆盖所有可能的场景和方法。

更高阶的计算不止于一阶导数。

导数可堪大用,能指出优化景观里下坡的方向和陡峭程度,但计算导数的开销巨大。所以,关键就在于如何保留导数优势,同时减少计算成本。针对这一目标,学界已取得不少振奋人心的成果,但前方仍有大量工作与未知等待我们。

这听起来挺出人意料的。通常来说,当一个研究方向经过长达50年的密集发展,它理应接近终点的。漫漫前路对下一代研究者而言当然是好事,只不过我们这代人多少对此感到遗憾!

优化领域的知识只迎新、不辞旧

过去几十年间,优化领域诞生了各式各样的计算方法,而且有大量“陈旧”的算法仍“宝刀不老”——极具价值,因此这门学科不适合“辞旧迎新”。你若想融会贯通、纵览全局,就要把新旧知识悉数掌握。

那问题就来了,从教学层面看,如此繁多且还在越积越多、远超现有教学体系负荷的内容,该怎样教给学生呢?我对此毫无头绪。

呼吁将优化作为一门独立学科予以更多重视

优化作为学科,需要专门的培养项目,让学生有多于大学标准的时间来学习知识。

在五六十年前,也就是数值数学发展之初,优化似乎被低估了。如今来看,它在整个科学体系中极具“补充”属性,常与其他学科并列出现,如“优化与统计”“优化与运筹学”“优化与最优控制”等;但我们清楚,优化本身的体量、能量绝非“补充者”所能形容的,而且它还在高速扩张,看不到停下来的迹象。

未来几十年会涌现越来越多有趣的问题,学界则需要越来越高效的算法。我期待看到专攻优化的学术机构,期待学生们在其中研究各式各样的优化应用场景——从人类理性行为模型、直觉优化,到机械结构的最优设计……

非凸性只是起点,凸优化方法会被用来解决更多问题

我刚从事优化研究时,到处都是非凸问题,人们几乎不考虑凸性,我当时所做的工作就是证明凸性非常重要。(非凸性可以理解成存在大量局部极小,但这些无法等同于全局极小值;凸性可以理解成局部最小值即可视为全局极小值。)

凸性是一个很自然的概念,保证了问题可解,也保证计算方法的效率。如今,在许多重要模型中,我们都能发现隐藏的凸性;虽不是一眼就看得出来,但只要引入合适的变量与坐标系,它就会转化为凸问题。

如果问题不具备凸性,我们最多只能求出一个局部极小值,无从得知还有多少其他的局部极小值,也不知它们是否更优。

从某种意义上说,这违背研究的内在目标。研究之前,我们不知最优解;做完研究,面对一个非凸问题依旧不确定最佳答案。那我们工作的意义何在?得到非凸问题很容易,但对我来说,只有非凸意味着思考不足,因为非凸性只是起点,而凸性才是解题终章。

以神经网络为例。此领域如今热度极高、论文不断,但模型本身是非凸的。人们把各类算法用在非凸问题上,却仍未搞懂算法在非凸问题上如何运作、为何有效。神经网络领域尚无凸模型。只有找到对应的凸模型,研究才算圆满。

优化是“数值数学的一种哲学”

各种事物都可用优化来解释,包括社会乃至自然界的诸多过程;这些过程运转得极为高效,只是身处其中的我们难以察觉其精妙。

数学对我的一大吸引力在于:数值建模能应用于现实世界,甚至预测未来;人类可将计算结果与真实事件对照,并据此调整模型。

计算机推动优化蓬勃发展,却也抑制人类思考

只要运用得当,计算机就是很棒的工具。但作为老师,我们必须告诉学生:不要盲目相信计算机给出的结果。如果计算机的数值计算过程不稳定,存在噪声等干扰,它完全可能输出错误答案。

举个例子,复杂性理论中或许会有结论这样说:在一定时间内,算法可以逼近函数的极小值。但这条结论凭什么可信呢?若没有对函数的附加条件、对参数的合理近似等,就根本无法保证可信性。

眼下,人类正过度信任机器的答案,也在不知不觉中放弃独立思考,而这正是AI时代的危险所在。我们必须保持批判性思维,要用多种不同方法交叉核验结果。

我也很担忧数字时代对学生思维模式的负面影响。

我发现,许多学生常常不肯自己动脑,遇到问题的第一反应是上网搜索;这种习惯是好是坏有待时间检验,但他们独立解题能力下降是显而易见的。(当然,即便人的能力变弱,在计算机强力辅助下,最终成果或许会更好。)

不同往昔的科研时代需要不同往昔的科研评价

如今的科研人正身处节奏飞快、压力巨大的科研环境。环顾四周,你会看到不计其数的同行扎堆同一方向;你在会议上报告一项工作,第二天就有成百上千的后来者试图改进此成果;你的论文发表不达标准,收入就可能大受影响……

40年前,我刚入行那会儿,大环境不是这样的,竞争远没今天这般激烈。你有充足时间思考、写论文、测试方案,也不必为没发够论文而犯愁……

说实话,我内心难以认同当前的大环境,同时也觉得,从业者数量过多会拉低科研整体效率——但这一切都是大势所趋。

或许,我们需要一套全新的评价方式,用以衡量科研成果的真实价值、分辨研究者的水平。

我个人认为,一篇论文的影响力应当除以其作者总人数。在我身处的优化领域,过去论文一般有两到三位作者,现在动辄五六十人共同署名,这已毫无意义。现有评价体系常常驱使从业者追求论文数量,而非质量,我很惊讶至今还没有新的评价方式出现。

资料来源:


《世界科学》杂志版在售中 欢迎订阅

月刊定价

15元/期

全年订阅价

180元

点击左侧图片或以下方订阅方式选购

方式一:

扫描二维码,“杂志铺”(第三方平台)订阅有折扣~

方式二:

全国各地邮局订阅 邮发代号:4-263

方式三:

机构订阅,请拨打

021-53300839;

021-53300838

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
欧洲最豪华政府专机来访我国

欧洲最豪华政府专机来访我国

窗帘拉开
2026-10-31 19:50:03
巴西绝杀球无效?VAR回放细节曝光 中国女足太冤 球迷呼吁上诉FIFA

巴西绝杀球无效?VAR回放细节曝光 中国女足太冤 球迷呼吁上诉FIFA

侃球熊弟
2026-11-03 00:55:05
关键时刻500枚防空导弹直发前线,敞开打,满足供应

关键时刻500枚防空导弹直发前线,敞开打,满足供应

聚峰军评
2026-10-31 10:02:31
注册1亿!刘强东游艇项目落子南通

注册1亿!刘强东游艇项目落子南通

南通楼市说说
2026-11-02 13:41:26
孙怡说李小冉“你这个年纪想找头婚的不容易”,李小冉笑称“这怎么就不能短剧照进现实呢?霸道总裁爱上我”

孙怡说李小冉“你这个年纪想找头婚的不容易”,李小冉笑称“这怎么就不能短剧照进现实呢?霸道总裁爱上我”

韩小娱
2026-10-23 20:48:57
给胖东来供货十七年的牟强说,这里一边是天堂,一边是地狱。天堂是账期短,货款七天左右就能到账,地狱则是...

给胖东来供货十七年的牟强说,这里一边是天堂,一边是地狱。天堂是账期短,货款七天左右就能到账,地狱则是...

背包旅行
2026-09-07 18:50:04
几个乡镇班子的人聊陈行甲:他要是没辞职,现在到什么位置了?

几个乡镇班子的人聊陈行甲:他要是没辞职,现在到什么位置了?

叮当当科技
2026-11-02 04:45:43
东契奇41+15+6+5无缘今日最佳!对不起,你碰到创纪录的11号秀了

东契奇41+15+6+5无缘今日最佳!对不起,你碰到创纪录的11号秀了

章民解说体育
2026-11-02 13:02:43
涉嫌绑架雅典娜等人的主谋刘瀚文的时间线

涉嫌绑架雅典娜等人的主谋刘瀚文的时间线

没药花园
2026-11-02 14:20:39
7500万美元成本换4亿全球票房,这部重启片创系列24年新高

7500万美元成本换4亿全球票房,这部重启片创系列24年新高

影视情报室
2026-11-02 02:56:22
非法收受财物1094万余元,退休后仍收钱370万余元!贵州师范大学原副校长黄开烈一审获刑十四年,并处罚金160万元

非法收受财物1094万余元,退休后仍收钱370万余元!贵州师范大学原副校长黄开烈一审获刑十四年,并处罚金160万元

大风新闻
2026-11-02 19:09:03
长征中唯一为掩护毛主席而牺牲的警卫员,毛主席在他的坟头洒下一瓶辣椒水,每年清明,都有一批“胡长保亲人”来看望他!

长征中唯一为掩护毛主席而牺牲的警卫员,毛主席在他的坟头洒下一瓶辣椒水,每年清明,都有一批“胡长保亲人”来看望他!

黑句本
2026-10-30 19:24:33
出轨率第一的亚洲小国,红灯区比日本还泛滥,号称“男人的天堂”

出轨率第一的亚洲小国,红灯区比日本还泛滥,号称“男人的天堂”

大鱼简科
2026-09-20 09:39:18
辩论会后最新民调,沈伯洋支持度52.6%领先蒋万安

辩论会后最新民调,沈伯洋支持度52.6%领先蒋万安

新时光点滴
2026-11-02 17:30:21
尘埃落定!大连英博出局,2026赛季中超、足协杯再无双冠争夺战

尘埃落定!大连英博出局,2026赛季中超、足协杯再无双冠争夺战

星Xin辰大海
2026-11-03 00:07:57
世界棋仙战选拔赛首轮柯洁抱憾出局,决胜轮四位世界冠军对冲

世界棋仙战选拔赛首轮柯洁抱憾出局,决胜轮四位世界冠军对冲

野狐围棋
2026-11-02 22:21:32
纳指、道琼斯指数涨幅扩大至1%

纳指、道琼斯指数涨幅扩大至1%

每日经济新闻
2026-11-02 23:31:09
陪玩陪睡仅皮毛!又一女星深夜爆猛料,4女共侍1夫,61岁也不放过

陪玩陪睡仅皮毛!又一女星深夜爆猛料,4女共侍1夫,61岁也不放过

往史过眼云烟
2026-07-29 14:27:07
兵败如山倒!国产新能源或已证明:我国压根不需要二线豪华品牌

兵败如山倒!国产新能源或已证明:我国压根不需要二线豪华品牌

云霄纪史观
2026-10-30 03:23:02
除了性生活,就是打麻将!2000多县城普通人的生活现状只能这样?

除了性生活,就是打麻将!2000多县城普通人的生活现状只能这样?

流史岁月
2026-07-06 18:00:06
2026-11-03 01:31:00
世界科学 incentive-icons
世界科学
《世界科学》编辑部运营账号
1982文章数 26971关注度
往期回顾 全部

科技要闻

连AI都有领导了!DeepSeek让它们自己抢活干

头条要闻

中国警察凌晨叫醒来华旅游外籍男子 原因引起关注

头条要闻

中国警察凌晨叫醒来华旅游外籍男子 原因引起关注

体育要闻

24岁老秀:说最狂的话,打最勇的球

娱乐要闻

宋慧乔首次公开离婚真相,原因心酸

财经要闻

央行:股票回购增持再贷款利率降至1%

汽车要闻

百万超跑同款悬架? 第二代海豹07野心不小

态度原创

家居
教育
本地
艺术
时尚

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

最适合国内985&211&英本申请的保底学校!

本地新闻

十月奔赴迪庆,解锁梅里日照金山

艺术要闻

17幅 日本当代写实油画家作品

帽子,撑起秋冬穿搭的风格与气韵

无障碍浏览 进入关怀版