Reflection AI 把 Beam 的权重放上了 Hugging Face。这是这家初创公司的第一个大语言模型,从发布到开源权重,间隔不到一周。
![]()
Beam 的参数规模约 5000 亿。在部分基准测试上,它的表现接近体量四倍于己的模型,同时消耗的算力和内存明显更少。权重提供多个版本:一个标准版,以及若干采用量化处理的缩小版——把信息存放在更小的数据单元里,用一部分输出质量换取硬件效率。
权重之外,Reflection AI 一并放出了训练配方和代码模板,开发者可以据此对模型做微调。比如一家做 vibe coding 的创业公司,可以搭一套微调流程来强化 Beam 的编程能力。配套工具还能用来测量这些定制化改动如何影响 Beam 的能力和安全护栏。
训练 Beam 用了两个多月,跑在数千张高端显卡上。这种规模的训练容易出错,而错误会拉低模型质量。Reflection AI 的说法是,工程师为此开发了一套自研的可靠性优化算法,把重点放在避免训练与推理之间的不匹配——当训练环境各组件的配置出现细微不一致时,这类 bug 就会冒出来。
他们还做了一套能自动修复特定数据质量错误的系统。这类 bug 出现时,系统把训练回退到较早的阶段继续跑,而不是从头再来。按公司的说法,这些优化让 Beam 的训练几乎做到了集群零停机。
推理侧同样有配套动作。Reflection AI 发布了一个 drafter 模型,用于实现投机解码——一种降低硬件占用的推理方法。思路是用这个轻量模型先生成回复的初稿,再由 Beam 检查其中的错误,确认后才展示给用户。
要在硬件上高效推理,开发者得用上服务引擎这类软件工具,而让一个大模型适配某个服务引擎往往工作量不小。这次发布包含了针对多个主流服务引擎的开箱即用配置,开发者还能拿到融合内核——把多次推理计算压缩成单次操作以加速处理的代码片段。
后续计划也已经排上:未来几天会放出更多训练配方,让 Beam 通过自蒸馏来打磨自身的输出质量。此外,公司打算把开发这个模型过程中积累的部分经验,以贡献开源 AI 工具的形式分享出来。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.