网易首页 > 网易号 > 正文 申请入驻

400 Token/s,原生多模态,阶跃星辰 Step 3.7 Flash 开源

0
分享至

阶跃星辰

今天,阶跃星辰开源了他们的新模型:Step 3.7 Flash,支持视觉理解,为 Agent 工作进行了全面优化,MoE 架构,196B 总参数,11B 激活

https://github.com/stepfun-ai/Step-3.7-Flash

除多模态外,在我看来,这模型还有一个优势:快至 400 token/s

我自己测试了下,有 300+ token/s,感受一下

我自己的实录,感受一下速度

这个速度,应是最快的常规模型了

在生成内容的时候,这个模型的输出速度能到 400 TPS 左右,大概是....当你读完这句话的时候,这篇文章就生成完了(啊不是...这篇文章是手敲的,不是生成的...)

这个速度大致上也符合我对 Flash 模型的理解:在一目十行扫过上一页内容的时候,下一页已经生成了

下面,让我们先看一下跑分,然后再聊聊模型本身的特点

BenchMark

模型跑分可以先看下面这个图,Step 3.7 Flash 对比于 3.5 Flash、DeepSeek V4 Flash,以及海外御三家(Gemini、GPT、Claude)


Step 3.7 Flash Bench

简而言之:

  • 对比海外御两家,算了,反正大家都还有一些差距....诶....御两家??

  • 对比 DeepSeek,部分 bench 里有所胜出;

  • 对比上一代模型,大幅提升

  • 在速度 bench 上... 遥遥领先(aa 榜单最快的是 gpt-5.3,100+)

几个 case

这里给大家看几个 demo,我觉得创造了一种叫做 *Realtime-UI 的范式,因为足够快,所以可以以实时的方式,在你的屏幕上渲染出各种交互界面,并与你交互

*你可能对 Realtime-UI 的这个概念不熟,没关系,这是我瞎编的

这些东西都是同时基于【Agent 能力构建】【视觉理解能力处理】,并且在【高 TPS】下才能做到的,再度划重点:高 TPS

画面实时解读先看第一个例子,通过 flash-3.7 来进行多模态信息的实时理解

上传一张飞机驾驶舱的照片后,鼠标指向过去,模型就在【秒级以内】快速的识别区域内的物品,并给出具体的细致讲解;由于生成速度确实很不错,还可以通过 function call 的方式,在非常短的时间里生成交互框,做出来一种 Realtime UI 的感觉

Pinterest 设计分析我们也可以把同一套视觉能力,搬到浏览网页的场景里

在 Pinterest 的瀑布流里里,鼠标停在哪张图上,底部就可以实时弹出交互框,对那张海报的构图、字体和视觉概念进行解读,做到完全与操作进行同步

Blender 三维软件除了图片、网页之外,这玩意儿也可以对复杂软件的界面进行理解

以 blender 为例(这真算相当复杂了),鼠标移动到哪,就能识别出尝尽力的面板和对象信息,并顺着指令告诉你接下来应该怎么操作

其实我真觉得...这玩意儿应该做成一个给家里老人用的工具,很多时候我需要远程给他们操作电脑,如果有了这个就会方便很多(甚至最好我在远程给他们说:点这个,然后家里的电脑要被点击的地方酒亮一下)

发票批量处理发票这个场景就太值得一提了

记账的时候,把各种票据丢进去,模型可以通过 fucntion call 的方式,快速抽取到商户、类别、金额、税额...等等各类信息,然后做成表格

智能体集群在实际业务过程中,这些能力还可以影分身着来用

比如生成 40 个不同身份的 agent,让他们进行投票...诶...巧了不是,今天 claude code 新出了动态工作流,是不是可以搭配着用上:

快速搭知识图谱既然这么快,那么搭建一个图谱,也即是几秒钟的事儿

给一个主题,比如「大语言模型」,模型就能几秒钟内,快速铺开一张概念图,节点连成网络,从基础定义一路连到 Transformer 架构

模型特点

在我看来,Step 3.7 Flash 这个模型的两大核心优势:多模态理解 + 快

要知道,同级别的开源模型,大多开源模型,不具备多模态能力

还要知道,在非特别的推理加速下,绝绝绝绝大多数的模型,推理速度在 100 tps(tokens/s) 以下,主流则在 30 tps 左右


上面这个是 AA 的速度天梯,此前最快的是 gpt-5.3

Step 3.7 Flash 在支持多模态的前提下,把速度拉到了 400 tps,也不知道是上了什么神奇魔法

我去看了下文档,这个里面的图片&视频理解是原生支持的,并且在推理过程中还可以使用一个叫 Visual Python Tool的工具,对于看不清楚的地方,模型会自主对图片做 crop、zoom、re-read...换句话说,看不清就放大再看一遍,看完有疑问就去搜,尽可能的准确、高效的把事情搞定

同样的,搜索也是用这种方法进行循环:搜玩了如果觉得信息不够,那就再搜、再推,belike...


至于其他信息,这个模型的默认上下文是 256K,支持推理强度的手动调节:low / medium / high,可以根据需求,具体的更改参数

多少钱

这个模型可以自己部署,也可以通过官方平台或者第三方 MaaS 进行调用,价格如下:

输入 · 缓存命中 0.27 元

输入 · 缓存未命中 1.35 元

输出 8.1 元

Agent 场景下,缓存命中还是很高的

单看这个价格,是稍高于 DeepSeek v4 Flash的(输入1元/输出2元),但如果横比一下支持多模态的高速模型,那就很有优势了

然后这个模型也可以在海外平台调用,按美元计价,输入命中 $0.04、未命中 $0.20、输出 $1.15 每百万 token

模型使用

step-3.7-flash 同时兼容两套协议:OpenAI 家的,以及 Anthropic 家的

也可以直接用 Anthropic SDK,魔改下 endpoint 来用。在 Coding 和 Agent 工具上,对 Claude Code、OpenClaw、Cline、Roo Code、Kilo Code、Open Code 也都是支持的

这个模型今天上线,支持的 MaaS 包括:阶跃官方平台(国内 platform.stepfun.com,海外 platform.stepfun.ai)、OpenRouter、NVIDIA NIM;而 DeepInfra、Fireworks、Modal 也在接入中,很快就上了


https://platform.stepfun.com/docs/zh/guides/models/step-3.7-flash

当然,作为开源模型,你也可以自己跑:196B/A11B,算一下的话反正 128G 的机器量化着能跑

在 HuggingFace 上,放了 BF16、FP8、NVFP4、GGUF 四种权重,丰俭由人,vLLM、SGLang、Hugging Face Transformers、llama.cpp 均以支持


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
苹果公布iPhone 18 Pro Max电池容量,史上最大!

苹果公布iPhone 18 Pro Max电池容量,史上最大!

刘奔跑
2026-09-12 16:45:59
北大教授最无耻的诡辩:穷人无路可走,在他们眼里就是享受福利

北大教授最无耻的诡辩:穷人无路可走,在他们眼里就是享受福利

放开他让wo来
2026-08-23 01:10:08
倪妮考驾照上课照曝光!穿紫色衬衫状态松弛,兑现五年前愿望清单

倪妮考驾照上课照曝光!穿紫色衬衫状态松弛,兑现五年前愿望清单

手工制作阿歼
2026-09-12 04:45:19
公公趁我出差偷过户婚房给小叔子,签字时才发现,业主根本不是我

公公趁我出差偷过户婚房给小叔子,签字时才发现,业主根本不是我

朗威谈星座
2026-08-02 12:13:46
苍井优新剧又爆了,第一集就炸裂三观!

苍井优新剧又爆了,第一集就炸裂三观!

君君电影院
2026-09-12 00:48:42
美国,地动山摇!奇耻大辱

美国,地动山摇!奇耻大辱

戎评
2026-09-11 15:51:25
1975年,四川挖出一具女尸,经鉴定确认,她就是中央多次打听的人

1975年,四川挖出一具女尸,经鉴定确认,她就是中央多次打听的人

香姨谈史
2026-09-08 09:30:13
“你要哭4年吗?”大一女生视频引关注,知道祥林嫂为什么没有好下场了!

“你要哭4年吗?”大一女生视频引关注,知道祥林嫂为什么没有好下场了!

林林先生
2026-09-11 16:56:38
中国国家领导人离京出席金砖国家领导人会晤

中国国家领导人离京出席金砖国家领导人会晤

看看新闻Knews
2026-09-12 10:05:04
打假网红铁头获刑8年!这个结局,早已注定

打假网红铁头获刑8年!这个结局,早已注定

半耳聆
2026-09-11 18:54:08
万梓良的儿子,18岁生日那天收到的不是跑车,不是豪宅,而是一块光滑的、没有刻字的金属牌

万梓良的儿子,18岁生日那天收到的不是跑车,不是豪宅,而是一块光滑的、没有刻字的金属牌

一盅情怀
2026-08-22 16:34:50
电讯报:哈维要求与范戴克再次会面,就其国家队前景进行交流

电讯报:哈维要求与范戴克再次会面,就其国家队前景进行交流

懂球帝
2026-09-12 07:46:08
兹维列夫:蒂亚福和谢尔顿在纽约深受欢迎,希望我能阻止美国梦

兹维列夫:蒂亚福和谢尔顿在纽约深受欢迎,希望我能阻止美国梦

懂球帝
2026-09-12 12:45:24
亚运会:中国男篮半场领先17分!廖三宁轰15+2,胡明轩4分,李悦洲7分

亚运会:中国男篮半场领先17分!廖三宁轰15+2,胡明轩4分,李悦洲7分

多特体育说
2026-09-12 15:47:42
越南女星回应合照被刘亦菲裁掉了:我会更加努力

越南女星回应合照被刘亦菲裁掉了:我会更加努力

韩小娱
2026-09-10 08:32:00
男篮首节吊打巴林!全民皆兵,廖三宁统治级,李悦洲全面输出!

男篮首节吊打巴林!全民皆兵,廖三宁统治级,李悦洲全面输出!

篮球资讯达人
2026-09-12 15:23:39
1048元换个电池,溜了溜了...

1048元换个电池,溜了溜了...

放毒
2026-09-12 16:13:15
主城不再拆迁!成都发展逻辑大变,这五大片区是真正红利区?

主城不再拆迁!成都发展逻辑大变,这五大片区是真正红利区?

坠入二次元的海洋
2026-09-12 13:44:57
算是踢到铁板了!这届日本亚运会,给全世界好好上了一课:没有中国,生意很难做

算是踢到铁板了!这届日本亚运会,给全世界好好上了一课:没有中国,生意很难做

扶苏聊历史
2026-09-10 14:58:19
万斯极有可能当选美国总统!一旦成真,全球大变局,中国首当其冲

万斯极有可能当选美国总统!一旦成真,全球大变局,中国首当其冲

麓谷隐士
2026-09-12 00:05:07
2026-09-12 17:39:00
赛博禅心
赛博禅心
拜AI古佛,修赛博禅心
553文章数 58关注度
往期回顾 全部

科技要闻

苹果折叠屏比小米华为贵5000元,该怎么选

头条要闻

中国姐弟在智利被勒索213万元 假警局还挂特朗普画像

头条要闻

中国姐弟在智利被勒索213万元 假警局还挂特朗普画像

体育要闻

老鹰真正的底气来自于什么?

娱乐要闻

港媒曝钟丽淇疑患渐冻症,本人发文

财经要闻

继房子茅台后 中产的第3个"神话"破灭了

汽车要闻

全新配色和新样式轮毂 乐道L80星光设计套装限时惊喜价10080元

态度原创

艺术
教育
亲子
旅游
军事航空

艺术要闻

花卉油画欣赏 | 韦启美《窗前花》

教育要闻

太难了吧,是题目错了吗?

亲子要闻

看来这就是敲山震虎吧?

旅游要闻

中年母亲携女重游赛里木湖,40年变迁引深思

军事要闻

胡塞武装:9天攻占5400平方公里

无障碍浏览 进入关怀版