混了十五年,主动把自己归零为什么放着管理不当,偏要当实习生他整理的转型路线图,值得抄作业老工程师的经验,AI 时代反而更值钱不做选择,才是最坏的选择
一个在腾讯干了快十年、职级熬到 T12 的资深技术专家——这级别基本是很多公司技术线的天花板了——去年初干了件让同事直呼看不懂的事:主动卸掉管理头衔,跳进大模型推理团队,从「零级新人」干起。
注意,这个「新人」不是自谦,是字面意思:没有高级头衔、不带人、不派活,头三个月干的都是性能评测、服务部署这类周边杂活,跟实习生一个待遇。
这波操作到底是想不开,还是算得清?他把整段心路写成了复盘,我觉得每个技术人都该看看。
这位博主是搜索后台出身,2016 年入职腾讯,2022 年靠搜索中台的工作升到 T12,是资深搜索后台工程师。按部就班走下去,等着他的是更体面的头衔和更安稳的位置。
可他算的是另一笔账。原话很扎心:四十年前改革开放迎面而来,我们总想问父辈一句「当时你在做什么」;二十年后,孩子也会用同样的问题问我——AI 浪潮扑面而来的时候,你在干嘛?
2022 年底 ChatGPT 横空出世,他认定这是工业革命级别的机遇。可切入哪条线?搜索产品形态上贴近 AI,内部却还是召回、排序那套传统技术;Agent 产品方向又迷雾重重。他最后选了大模型推理工程——理由朴素:不管上层产品怎么变,算力和推理加速这层底座,永远缺不了。
他给出的理由有两层,一层比一层实在。
第一层是技术人的清醒。他观察到一个普遍两难:技术管理者面对新浪潮,要么技术学得浮于表面,要么管理水平滑坡,很难两全。于是不少人干脆放弃技术转纯管理,也有人头衔和技术都想要——学术界挂名一堆论文、到了问答环节坦白「细节是学生做的」,工业界挂着大项目却没真正参与,都是这个怪圈的产物。他不想活成这样。
第二层更现实:想真正扎进大模型,要投入海量时间和极致专注,组织也不可能允许一个人顶着管理头衔去当「初学者」。所以他干脆卸下包袱,以纯粹的心态重新出发。
恰好 2024 年组织架构调整,他随团队并入新部门,公司需要他去掉管理头衔,他坦然接受了。中间不是没动摇过——他确实接触过「再找个管理的坑位」的机会——但每次都用同一句话把自己拉回来:AI 时代,要留在离 AI 最近的团队。
入职后头三个月,他一边干杂活,一边啃 SGLang 源码,攒出一条入门路径,核心思想就八个字:先总后分,逐个击破。
- • 第一步,建体系:吃透 Transformer 结构,再搭起大模型推理工程的框架——顶层是业务目标,中间是量化指标(TTFT、TPOT、吞吐、并发、成本),底层才是具体手段
- • 第二步,懂分层:推理系统分三层——业务层管服务对接和流量调度,调度层是性能主战场(Continuous Batch、Prefix Cache、推测解码都在这),算子层管单点计算优化
- • 第三步,深挖一个点:从 PD 分离、分布式 KV Cache、推测解码里挑一个方向扎进去,别贪多
- • 第四步,主动输出:靠自检练习检验真实理解,避免「看时全都会,做时全不会」
深挖能挖到什么程度?他去年在 SGLang 上实现了高性能 Beam Search,做到业界 SOTA,代码后来被 SGLang 官方重构融合,进了 v0.5.19 版本。
很多人觉得传统后台工程师在 AI 时代要被淘汰,他的判断恰恰相反:这波人的转型价值被严重低估了。
AI Infra 并不是凭空冒出来的新领域,底层大量工程思想都继承自传统 Infra。比如推理引擎里的 PagedAttention,本质就是把操作系统虚拟内存页表的思想搬到了显存管理上;CUDA Stream 多流机制,对标的就是 CPU 多线程。
更直观的是服务范式的变化。Agent 时代彻底重构了传统后台服务模式:
维度: 请求形态 | 传统 API 服务(小卖部模式): 短请求、即调即走 | Agent 服务(旅馆模式): 多轮交互、长耗时
维度: 状态 | 传统 API 服务(小卖部模式): 无状态 | Agent 服务(旅馆模式): 有状态、会话持续驻留
维度: 资源 | 传统 API 服务(小卖部模式): 用完即时释放 | Agent 服务(旅馆模式): 长生命周期、记忆存储
维度: 核心挑战 | 传统 API 服务(小卖部模式): 吞吐与时延 | Agent 服务(旅馆模式): 长会话调度、状态持久化、工具沙箱
而 AI Infra 的需求分层也很清晰:底层标准化、上层差异化——算子层全行业只需要少数头部团队迭代,调度层开源生态基本覆盖,业务层的定制适配、链路优化、稳定性打磨才是人力需求旺盛的地方。这恰好就是传统后台工程师发挥经验优势的主战场。
文末他写了一段挺动人的话:作为干了 15 年的「互联网老人」,这波 AI 浪潮里,他既有对新时代的兴奋,也有对国内互联网行业年龄歧视的错愕。但他认定一句话:
时光在徘徊犹豫中溜走,不做选择就是最坏的选择。
技术革命带来的每一次重置,不过是让自己回到 15 年前的起跑线上——相信自己,继续跑下去。
如果是你,十五年熬到专家级,敢不敢把职级归零、重跑一次?评论区聊聊。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.