网易首页 > 网易号 > 正文 申请入驻

他是一位数学家,却成为AI训练最绕不开的人

0
分享至

设置星标★关注,从此你的世界多点科学~

何为“优化”?通俗来讲,优化就是让事物变得更好,而在数学领域,优化(optimization)作为一门有明确研究对象和理论体系的学科,其研究的是如何在给定约束下,从众多可能方案里找出使某个目标达到最小(或最大)的那个方案。

例如,“规划出成本最低的配送路线”就是一项优化目标,成本由行驶距离、能源消耗和所用时长等因素共同决定,约束条件则是道路通行规则,如单行道、夜间封路等。

当决策变量或约束条件的数量很多时,最小值求取通常只能依靠计算机:反复计算某组决策变量对应的成本,检验邻近的决策组合能否得到更低成本,并重复此过程,直到确定所有邻近决策对应的成本都更高为止。众多数学家都致力于加快优化计算,比如来自比利时的俄裔学者尤里·涅斯捷罗夫(Yurii Nesterov)。

涅斯捷罗夫在凸优化理论方面取得了开创性成果,其设计的加速梯度算法大幅加快优化计算,为数据科学、自动化和控制领域开辟全新可能,也催生出基于所谓“涅斯捷罗夫动量”的一系列新算法。因此获得了2023年世界顶尖科学家奖“智能科学或数学奖”。2026年7月,他获得了应用数学领域的最高荣誉——高斯奖。


阿尔卡迪・涅米罗夫斯基(Arkadi Nemirovski,左)和尤里·涅斯捷罗夫(右)共同获得2023年世界顶尖科学家奖“智能科学或数学奖”;2026年10月30日至11月1日,尤里·涅斯捷罗夫将出席世界顶尖科学家论坛

尤里·涅斯捷罗夫曾接受瑞士学术机构的专访,介绍了优化研究领域,也分享了自己对数学和AI时代数学研究的见解。

优化研究的成果切实可感

我从事优化研究已有近50年了,这是一段漫长旅程。我有过一些开窍、破局的时刻,但那些时刻无法令我感叹“这或许是我最厉害的成果”。

数值方法优化这门学科有它美妙之处,其中之一便是研究者能实实在在看到自己的工作进展和价值。开展研究之前,已有算法勉强够解决问题,但求解须花费一小时;经过改进,求解时间缩短至一分钟了!

进展源源不断,前路依旧漫漫

优化领域正处于一个非常特殊的转折阶段。

几年前,我们开始研究高阶方法,发现这些方法已无法通过标准优化理论来解释。大家意识到,标准优化理论仅仅完成了第一步,即发展出一阶方法,要让理论更上一层楼,要得到速度更快、效率更高的更高阶计算方法,从某种意义上说,我们必须建立一套全新、通用的理论,覆盖所有可能的场景和方法。

更高阶的计算不止于一阶导数。

导数可堪大用,能指出优化景观里下坡的方向和陡峭程度,但计算导数的开销巨大。所以,关键就在于如何保留导数优势,同时减少计算成本。针对这一目标,学界已取得不少振奋人心的成果,但前方仍有大量工作与未知等待我们。

这听起来挺出人意料的。通常来说,当一个研究方向经过长达50年的密集发展,它理应接近终点的。漫漫前路对下一代研究者而言当然是好事,只不过我们这代人多少对此感到遗憾!

优化领域的知识只迎新、不辞旧

过去几十年间,优化领域诞生了各式各样的计算方法,而且有大量“陈旧”的算法仍“宝刀不老”——极具价值,因此这门学科不适合“辞旧迎新”。你若想融会贯通、纵览全局,就要把新旧知识悉数掌握。

那问题就来了,从教学层面看,如此繁多且还在越积越多、远超现有教学体系负荷的内容,该怎样教给学生呢?我对此毫无头绪。

呼吁将优化作为一门独立学科予以更多重视

优化作为学科,需要专门的培养项目,让学生有多于大学标准的时间来学习知识。

在五六十年前,也就是数值数学发展之初,优化似乎被低估了。如今来看,它在整个科学体系中极具“补充”属性,常与其他学科并列出现,如“优化与统计”“优化与运筹学”“优化与最优控制”等;但我们清楚,优化本身的体量、能量绝非“补充者”所能形容的,而且它还在高速扩张,看不到停下来的迹象。

未来几十年会涌现越来越多有趣的问题,学界则需要越来越高效的算法。我期待看到专攻优化的学术机构,期待学生们在其中研究各式各样的优化应用场景——从人类理性行为模型、直觉优化,到机械结构的最优设计……

非凸性只是起点,凸优化方法会被用来解决更多问题

我刚从事优化研究时,到处都是非凸问题,人们几乎不考虑凸性,我当时所做的工作就是证明凸性非常重要。(非凸性可以理解成存在大量局部极小,但这些无法等同于全局极小值;凸性可以理解成局部最小值即可视为全局极小值。)

凸性是一个很自然的概念,保证了问题可解,也保证计算方法的效率。如今,在许多重要模型中,我们都能发现隐藏的凸性;虽不是一眼就看得出来,但只要引入合适的变量与坐标系,它就会转化为凸问题。

如果问题不具备凸性,我们最多只能求出一个局部极小值,无从得知还有多少其他的局部极小值,也不知它们是否更优。

从某种意义上说,这违背研究的内在目标。研究之前,我们不知最优解;做完研究,面对一个非凸问题依旧不确定最佳答案。那我们工作的意义何在?得到非凸问题很容易,但对我来说,只有非凸意味着思考不足,因为非凸性只是起点,而凸性才是解题终章。

以神经网络为例。此领域如今热度极高、论文不断,但模型本身是非凸的。人们把各类算法用在非凸问题上,却仍未搞懂算法在非凸问题上如何运作、为何有效。神经网络领域尚无凸模型。只有找到对应的凸模型,研究才算圆满。

优化是“数值数学的一种哲学”

各种事物都可用优化来解释,包括社会乃至自然界的诸多过程;这些过程运转得极为高效,只是身处其中的我们难以察觉其精妙。

数学对我的一大吸引力在于:数值建模能应用于现实世界,甚至预测未来;人类可将计算结果与真实事件对照,并据此调整模型。

计算机推动优化蓬勃发展,却也抑制人类思考

只要运用得当,计算机就是很棒的工具。但作为老师,我们必须告诉学生:不要盲目相信计算机给出的结果。如果计算机的数值计算过程不稳定,存在噪声等干扰,它完全可能输出错误答案。

举个例子,复杂性理论中或许会有结论这样说:在一定时间内,算法可以逼近函数的极小值。但这条结论凭什么可信呢?若没有对函数的附加条件、对参数的合理近似等,就根本无法保证可信性。

眼下,人类正过度信任机器的答案,也在不知不觉中放弃独立思考,而这正是AI时代的危险所在。我们必须保持批判性思维,要用多种不同方法交叉核验结果。

我也很担忧数字时代对学生思维模式的负面影响。

我发现,许多学生常常不肯自己动脑,遇到问题的第一反应是上网搜索;这种习惯是好是坏有待时间检验,但他们独立解题能力下降是显而易见的。(当然,即便人的能力变弱,在计算机强力辅助下,最终成果或许会更好。)

不同往昔的科研时代需要不同往昔的科研评价

如今的科研人正身处节奏飞快、压力巨大的科研环境。环顾四周,你会看到不计其数的同行扎堆同一方向;你在会议上报告一项工作,第二天就有成百上千的后来者试图改进此成果;你的论文发表不达标准,收入就可能大受影响……

40年前,我刚入行那会儿,大环境不是这样的,竞争远没今天这般激烈。你有充足时间思考、写论文、测试方案,也不必为没发够论文而犯愁……

说实话,我内心难以认同当前的大环境,同时也觉得,从业者数量过多会拉低科研整体效率——但这一切都是大势所趋。

或许,我们需要一套全新的评价方式,用以衡量科研成果的真实价值、分辨研究者的水平。

我个人认为,一篇论文的影响力应当除以其作者总人数。在我身处的优化领域,过去论文一般有两到三位作者,现在动辄五六十人共同署名,这已毫无意义。现有评价体系常常驱使从业者追求论文数量,而非质量,我很惊讶至今还没有新的评价方式出现。

资料来源:


《世界科学》杂志版在售中 欢迎订阅

月刊定价

15元/期

全年订阅价

180元

点击左侧图片或以下方订阅方式选购

方式一:

扫描二维码,“杂志铺”(第三方平台)订阅有折扣~

方式二:

全国各地邮局订阅 邮发代号:4-263

方式三:

机构订阅,请拨打

021-53300839;

021-53300838

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
珠海原书记被“双开”,曾雄心勃勃推动国资改革

珠海原书记被“双开”,曾雄心勃勃推动国资改革

评论员岳连
2026-11-02 22:50:28
懂球帝再发声明:我们换不掉姆巴佩!网友:谁问你了?找到流量密码

懂球帝再发声明:我们换不掉姆巴佩!网友:谁问你了?找到流量密码

念洲
2026-11-02 09:39:51
“我们没时间了!”美国一公务机急坠近万米全员遇难,资深机长解读关键细节

“我们没时间了!”美国一公务机急坠近万米全员遇难,资深机长解读关键细节

红星新闻
2026-11-02 13:23:45
穆帅8年前的警告全应验了!砸了十几亿,曼联竟连一份遗产都留不住

穆帅8年前的警告全应验了!砸了十几亿,曼联竟连一份遗产都留不住

曹老师评球
2026-11-02 20:42:37
WOW!锡安抢断王!大年状元史诗级进化

WOW!锡安抢断王!大年状元史诗级进化

篮球实战宝典
2026-11-02 22:01:55
“这种家庭,一年至少10w”,一张窒息的客厅照片,内行人却看懂了

“这种家庭,一年至少10w”,一张窒息的客厅照片,内行人却看懂了

世界圈
2026-11-02 18:36:10
广东爆冷遭逆转惹众怒,多位媒体人发声,矛头对准亚帅:心太大了

广东爆冷遭逆转惹众怒,多位媒体人发声,矛头对准亚帅:心太大了

萌兰聊个球
2026-11-02 22:31:09
投票前一天,民主党想拿两院,先看看83%和62%背后藏着什么

投票前一天,民主党想拿两院,先看看83%和62%背后藏着什么

丁刚看世界
2026-11-02 13:46:32
新华社追问:国乒男队怎么了?

新华社追问:国乒男队怎么了?

新京报政事儿
2026-11-02 22:21:04
郑晓毅代理江门市人民政府市长

郑晓毅代理江门市人民政府市长

新快报新闻
2026-11-02 16:57:05
广东一女婿报警“举报”岳父:2斤多白酒下肚,又吃了3包阿莫西林

广东一女婿报警“举报”岳父:2斤多白酒下肚,又吃了3包阿莫西林

黄河新闻网吕梁
2026-11-02 16:57:42
孟晚舟:从接线员到轮值董事长,32年,不靠血缘靠制度

孟晚舟:从接线员到轮值董事长,32年,不靠血缘靠制度

玛丽姬丝
2026-11-02 20:11:53
武汉网约车万圣节遭砸车侮辱四小时!司机没下车也没还手!

武汉网约车万圣节遭砸车侮辱四小时!司机没下车也没还手!

听心堂
2026-11-02 11:59:54
西媒关注央视未转播西甲:中国兑现承诺,“抹除”姆巴佩和皇马

西媒关注央视未转播西甲:中国兑现承诺,“抹除”姆巴佩和皇马

全景体育V
2026-11-02 12:54:57
不战则已,一战成名?以色列不打伊朗不知道,一打吓一跳!伊朗或一跃成为世界第四大军事强国?

不战则已,一战成名?以色列不打伊朗不知道,一打吓一跳!伊朗或一跃成为世界第四大军事强国?

扶苏聊历史
2026-10-31 10:32:02
6-5!赵心童幸运绝杀,鞠躬致谢球迷,克雷吉白球摔袋痛失4万奖金

6-5!赵心童幸运绝杀,鞠躬致谢球迷,克雷吉白球摔袋痛失4万奖金

球场没跑道
2026-11-03 00:46:34
耿同学有点危险了!

耿同学有点危险了!

麦杰逊
2026-11-02 17:13:11
离谱!世界首富也干架:马斯克说要买下微软,炒掉比尔·盖茨

离谱!世界首富也干架:马斯克说要买下微软,炒掉比尔·盖茨

大厂财经社
2026-11-02 14:43:33
CBA最新消息!广东管理层或更换外援和教练,刘维伟递交辞呈

CBA最新消息!广东管理层或更换外援和教练,刘维伟递交辞呈

南海浪花
2026-11-03 01:29:32
耗时28年,走了5万公里,英国男子1998年从智利出发,如今终于回到家了!曾遭到过暴徒袭击,与北极熊对峙过;花了近10年时间才穿越俄罗斯

耗时28年,走了5万公里,英国男子1998年从智利出发,如今终于回到家了!曾遭到过暴徒袭击,与北极熊对峙过;花了近10年时间才穿越俄罗斯

都市快报橙柿互动
2026-11-02 19:55:06
2026-11-03 02:35:00
世界科学 incentive-icons
世界科学
《世界科学》编辑部运营账号
1982文章数 26971关注度
往期回顾 全部

科技要闻

连AI都有领导了!DeepSeek让它们自己抢活干

头条要闻

外籍男子凌晨突然被中国警察叫醒 原因引起关注

头条要闻

外籍男子凌晨突然被中国警察叫醒 原因引起关注

体育要闻

24岁老秀:说最狂的话,打最勇的球

娱乐要闻

宋慧乔首次公开离婚真相,原因心酸

财经要闻

央行:股票回购增持再贷款利率降至1%

汽车要闻

百万超跑同款悬架? 第二代海豹07野心不小

态度原创

艺术
亲子
本地
数码
公开课

艺术要闻

17幅 日本当代写实油画家作品

亲子要闻

龙凤胎一起生病可太难熬了

本地新闻

十月奔赴迪庆,解锁梅里日照金山

数码要闻

联想“LOQ 25-10”24.5英寸显示器上市:1080P 280Hz,599元

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版