270份面经拆解：四家AI实验室面试题各问什么

准备一场AI工程师面试，通常是这样一幅画面：十几个招聘网站的标签页、一条2023年的论坛帖、三个视频、一篇读了一半的论文，至于这家公司到底会问什么，心里没底。

有人把270份公开面试报告过了一遍——只挑候选人明确写出公司名和题目的记录，再按公司归类。最先跳出来的结论是：每一家头部实验室都有自己的性格。按"AI面试"泛泛准备，等于哪家都没准备好。

OpenAI的题目清单以系统设计为主，而且都挂着硬约束：延迟、成本、权限、多租户。比如"设计一个RAG系统，在服务多租户的同时满足严格的延迟和成本目标"；"设计一个检索内部文档的智能体，遵守权限、标注来源、该拒答时拒答"；"为一个使用工具的智能体设计安全运行框架，并在其上搭一套评测平台"；还有"这里有一个带若干bug的小型Transformer，修好它，然后为解码加上KV缓存"。

这些题在测什么？能不能做出在生产环境站得住的东西，而不只是演示。那句"该拒答时拒答"和"在其上搭评测平台"就是提示：护栏和度量要从设计第一天就在里面。

Anthropic的清单读起来像一场基础设施考试，现场就要做估算。比如"要把500 GB权重分发到1000个GPU工作节点，共享10 Gbps链路，时间下界是多少，你会怎么搭"；"估算一个FFN层的FLOPs、参数与激活字节数，以及分片带来的通信量，哪个是瓶颈：算力、HBM还是网络"；"调试一个GRPO训练循环，概率比是什么，它会出什么问题"；"用log-prob和log-sum-exp把一个LLM变成二分类器"。

第一题的好答案长这样：每个节点都要通过自己的10 Gbps链路收下500 GB，所以400秒是下限；如果所有人都从一台机器取，大约要4.6天。诀窍是让每个接收方也上传：把权重切块、按树状流水下发，或者用BitTorrent式的 swarm，就能逼近400秒。然后还要覆盖拓扑（每个机架上行链路放一份副本）、校验和、失败后断点续传。

它在测的是：你先想到字节、带宽和瓶颈，还是先想到方框和箭头。

Mistral AI的题目最多，16道，其中10道中级、5道高级、1道初级，而且深挖模型内部，要动手写代码。"给定一个玩具语言模型的logits，用NumPy实现贪心、top-k和top-p解码"；"实现带因果掩码的批量多头自注意力"；"RMSNorm和LayerNorm有什么区别，为什么近期模型用它"；"解释FSDP和ZeRO第1、2、3阶段，怎么让计算和通信重叠"；"你的RAG聊天机器人一直答错，怎么定位原因并修好"。

它在测的是：你对模型内部知道到什么颗粒度——归一化、KV缓存、优化器。如果只调过API，这里就会露出来。

Meta的高级题是大块的开放式设计，主要围绕智能体和编程助手。"设计一个代码审查智能体，把LLM编排和确定性工具结合起来"；"怎么防止编程智能体泄露私有代码，训练阶段和推理阶段分别怎么做"；"端到端设计一个LLM编程助手：数据、模型、评测"；"实现自注意力，给出时间和内存复杂度，并描述高效变体"。

它在测的是：能不能给一个大系统划边界，知不知道LLM在哪里结束、确定性代码从哪里开始，以及是否把安全当成设计的一部分。

Google的题目集中在后训练和安全智能体。"LLM后训练中怎么检测和防止奖励黑客"；"为电商评论设计LLM摘要，要能扛住提示注入、不泄露个人数据"；"设计一个可扩展服务，让AI智能体规划工作并调用已批准的工具，且永远不绕过确定性控制"。

还有一道题值得所有人准备："实现带因果掩码的批量多头自注意力"。它在Mistral AI、字节跳动、Meta、苹果和Uber都被报告过，出现的公司数量超过这份集合里的任何其他题目。再加上OpenAI、Netflix和Mistral出现的KV缓存变体，从空白文件开始写注意力，是性价比最高的一小时准备。

这些题目被整理进了一个叫LLM Dojo的练习工具，按公司分页。一次练习的流程是：打开目标公司的页面，看候选人报告过的题目，按级别拆分，附上每条原始报告的链接；出声作答一到两分钟，像真面试那样，出声才暴露漏洞；打开参考答案对照，答案短到能在面试里说完，并列出出处——论文、书、实测；没看懂就进课程，每个主题都配交互实验，比如让预填充和解码赛跑、用滑块给KV缓存定容量、逐步走一遍BPE、在浏览器里让GPT-2逐token运行；登录后做错的检查项会按1天、3天、7天的间隔回来，直到记住。

这个题库的规模是：492道面试题，覆盖初级到高级，每题配参考答案；其中262道标注了候选人报告的公司，横跨58家，包括OpenAI、Anthropic、Mistral、Meta、Google、微软、亚马逊、苹果、英伟达、Cohere、Scale AI、Databricks、Perplexity等；7个模块、41节课覆盖这些题考的全部内容：模型内部、推理、提示、评测、RAG、智能体和生产；另有70多个交互实验和一个神经网络游乐场。面试题库免费，无需账号。

如果目标公司不在覆盖范围内，或者被问到了题库里没有的题，可以留言补充，会连同参考答案一起加进去。