网易首页 > 网易号 > 正文 申请入驻

Strata+5090:刚被统一内存逼到墙角,传统显卡又杀回来了!

0
分享至

AI 硬件市场,可能又要迎来一次大反转了。

过去一年,英伟达和 AMD 都在力推大容量统一内存设备。从 DGX Spark、RTX Spark,到 AMD Ryzen AI Max+ 395、495,128GB 甚至更大容量的统一内存,几乎成了桌面 AI 工作站最受关注的卖点之一。我们至顶 AI 实验室也陆续评测了这些机器。

市场的反应相当直接。DGX Spark 在海外一度卖断货,部分渠道出现明显溢价,甚至有报价达到 8499 美元,而它的起售价只有 3999 美元。


为什么这么多人愿意买单?

答案很简单:128GB 统一内存意味着,一台桌面大小的机器,就有机会装下并运行千亿参数级的大模型。而传统游戏显卡,即便是售价不菲的 RTX 5090,也只有 32GB 显存。面对动辄数十 GB、上百 GB 的模型权重,显存容量很快就成了瓶颈。

一时间,统一内存似乎已经拿到了本地大模型时代的入场券,传统显卡则显得有些尴尬。

然而,就在大容量统一内存设备风头正盛的时候,一个叫 Strata 的开源项目突然杀了出来。

它让一张只有 32GB 显存的 RTX 5090,也能运行总参数量高达 1250 亿的大模型。Strata 通过显存、系统内存乃至磁盘之间的数据调度,突破了模型必须全部装进显存的限制。项目在 GitHub 上已经获得超过 2.7 万颗 Star。

今天不说模型具体怎么启动,我们来看一个真实的测试,通过Strata启动模型,干活是什么感觉。

视频博主Bijan Bowen 组装了一台华硕提供的电脑,先让较小的 Qwen3.8-27B 制作赛车游戏,再用 Strata 运行 Flash-Next 完成同一道题,最后与 Claude Opus 4.6 的结果对照。三轮测试既展示了本地模型的进步,也留下了不少需要人来发现和反馈的问题。

测试电脑使用华硕 ROG Astral RTX 5090,这张卡配有32GB GDDR7 显存。显存决定了能放入多少模型权重和运行数据;带宽则影响模型读取这些数据的速度。Bowen也说了,这是一台厂商提供的机器,看结果时需要记住它的硬件条件。

先用 Qwen3.8-27B 打个样,游戏能跑,但仍需云端模型救场

第一轮上场的是Qwen3.8-27B。这是 Qwen 发布的 270 亿参数稠密模型;所谓“稠密”,可以简单理解为生成内容时,模型的大部分参数都会参与计算。Bowen使用 Q4_K_M 四位量化版本,把权重文件压到约 17—18GB,并把上下文长度设在约 26.2 万 token。量化是用较低精度保存权重,换取更小的内存占用;上下文越长,运行时预留的空间通常也越多。因此博主判断,若把上下文缩短到 32K,这个版本有机会在 24GB 显存的卡上运行,但视频没有实际验证这一配置。

任务并不简单:做一款 F1 风格小游戏,要有赛道、车辆与车手选择、至少六名电脑对手、驾驶舱和追车视角,还要有音效。模型通过 Blender 制作三维素材,再用 Godot 搭建游戏。跑出来的版本已经有可移动的对手、迷你地图和圈数显示,但整体较简陋,部分选择流程也不顺畅。博主估计,约 95% 的工作由本地模型完成;遇到卡住的环节,他曾借助更强的云端模型给出提示。这是一个能玩的结果,却不是完全独立完成的结果。

Strata 登场,1250 亿参数模型启动

接下来才是 Strata 的关键一轮。Qwen3.8-Flash-Next与前面的 27B 稠密模型结构不同:它是总参数量约 1250 亿的混合专家模型,每次生成只调用其中一部分参数。Strata 把运行所需的数据分配到显存、系统内存,必要时也利用磁盘,让整套权重不必全部塞进显卡。项目说明给出的基础门槛包括至少 12GB 显存的受支持显卡;12GB 显存只是“能启动”的门槛。视频中的速度来自 RTX 5090,换成普通显卡后,等待时间可能完全不是一回事。


每秒 170 Token,本地模型修BUG

博主选用约三位精度的 IQ3_S 量化版本,仍给它同一道赛车游戏题。此前一次 BMX 游戏试做曾出现角色反复从半空坠落的故障;这回赛车项目的开场画面和 Blender 场景明显更丰富,能看到赛车、维修区、看台和树木。但按下车手与车辆选择后,画面一度只剩浅蓝色。博主把现象反馈给模型,模型重新检查并修好入口;随后它又根据反馈修正了车轮转动方向。实际游玩仍有方向控制反转、地图形状异常等问题。视频显示,生成速度在相关阶段约为每秒 160—170 token;这个数字描述的是输出速度,不能单独代表游戏质量。


对阵 Claude Opus 4.6,本地方案意外占了上风

为了找参照,博主又让Claude Opus 4.6用相同提示词制作游戏。他选择中等推理强度,通过 API 付费调用。Opus 4.6 是 Anthropic 于 2026 年 2 月发布的模型;其标准 API 标价为每百万输入 token 5 美元、输出 token 25 美元。视频里首次生成花了约 2 美元,继续排查故障后累计接近 4.5 美元。这个版本也遇到选择车辆后卡住、赛道上疑似有隐形碰撞体等问题,博主认为完成度不如 Strata 那一轮。

单从这次测试看,1250 亿参数的本地模型意外地击败了 Opus 4.6。当然,模型对比不算严格,因为模型、量化精度和推理设置都不一致,过程中还有人工反馈。不能说明本地模型普遍强于云端模型。

最重要的点是本地模型已经走到了可以调用 Blender、Godot,反复修改一个可运行项目的阶段。对 Strata 来说,这已经是一个足够值得关注的信号。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
战争爆发前的预兆出现!美国已经有4个征兆,张召忠预言要成真?

战争爆发前的预兆出现!美国已经有4个征兆,张召忠预言要成真?

画卷
2026-10-08 19:17:31
A股:刚刚,国家发改委重磅发布!做好准备,明日将迎来新的变化

A股:刚刚,国家发改委重磅发布!做好准备,明日将迎来新的变化

虎哥闲聊
2026-10-23 00:00:04
SK海力士盘中转涨

SK海力士盘中转涨

证券时报
2026-10-23 09:18:24
“黜免” 不读 chuò miǎn,正确读音是什么,别不会!

“黜免” 不读 chuò miǎn,正确读音是什么,别不会!

语丝纪
2026-10-23 07:50:39
多数美国人盼下届国会关注民生和结束伊朗战事

多数美国人盼下届国会关注民生和结束伊朗战事

极目新闻
2026-10-23 08:24:22
各科老师骂人经典语录,你还记得吗?网友:我去买几个橘子,你就在此地,不要走动

各科老师骂人经典语录,你还记得吗?网友:我去买几个橘子,你就在此地,不要走动

解读热点事件
2026-10-20 00:05:15
嫁给印度阿三的东北女子丹丹近况:自曝不再去印度,还是在中国买房生活稳妥

嫁给印度阿三的东北女子丹丹近况:自曝不再去印度,还是在中国买房生活稳妥

小徐讲八卦
2026-10-22 11:26:03
“掮客” 的掮 不读jiān ,不要再读错了!

“掮客” 的掮 不读jiān ,不要再读错了!

语丝纪
2026-10-23 07:49:20
事发上海地铁,爷叔突然急得大哭,慌乱比划!民警递上纸笔,两个字找到线索

事发上海地铁,爷叔突然急得大哭,慌乱比划!民警递上纸笔,两个字找到线索

环球网资讯
2026-10-23 08:03:55
Netflix再爆人事震荡:电影主管林暐被曝离职,裁员已波及千人

Netflix再爆人事震荡:电影主管林暐被曝离职,裁员已波及千人

追星雷达站
2026-10-22 03:44:45
已经42岁,弟媳:这或将是我职业生涯的最后几场比赛

已经42岁,弟媳:这或将是我职业生涯的最后几场比赛

懂球帝
2026-10-22 13:23:35
美国兵推结果:中美开战7天后4万解放军阵亡,美10多个基地损毁

美国兵推结果:中美开战7天后4万解放军阵亡,美10多个基地损毁

最新声音
2026-10-22 20:32:09
遵义会议交出权力后,博古去哪了?此后11年他又经历了什么?

遵义会议交出权力后,博古去哪了?此后11年他又经历了什么?

掠影后有感
2026-10-23 09:57:15
纳指重挫近700点!存储芯片股再度大跌,原油价格大涨

纳指重挫近700点!存储芯片股再度大跌,原油价格大涨

澎湃新闻
2026-10-23 08:34:29
房地产,要破“双8”了

房地产,要破“双8”了

城市财经
2026-10-21 11:42:28
蛇冬眠的时候有多危险?一个专业捕蛇人坦言:90% 的人根本想不到,蛇进入冬眠,它就可能变成老鼠的一顿大餐

蛇冬眠的时候有多危险?一个专业捕蛇人坦言:90% 的人根本想不到,蛇进入冬眠,它就可能变成老鼠的一顿大餐

扶苏聊历史
2026-10-21 16:34:58
名字太长办事难?蒙古族汉姓妙招,维吾尔族身份证也能更简洁

名字太长办事难?蒙古族汉姓妙招,维吾尔族身份证也能更简洁

时尚的弄潮
2026-10-22 02:49:21
赢球不到24小时,张本美和再破"天花板",带领日乒女队亚锦赛夺冠

赢球不到24小时,张本美和再破"天花板",带领日乒女队亚锦赛夺冠

兵鉴史
2026-10-23 11:03:48
比尔盖茨表示:他这辈子犯过最大的错误,就是把原本属于微软的移动生态,拱手让给了安卓

比尔盖茨表示:他这辈子犯过最大的错误,就是把原本属于微软的移动生态,拱手让给了安卓

元气科技馆
2026-10-10 21:56:30
问界回应车辆起火事故,初步分析为高速情况下车辆机舱遭受剧烈撞击引发线路短路及油液泄漏 导致起火燃烧

问界回应车辆起火事故,初步分析为高速情况下车辆机舱遭受剧烈撞击引发线路短路及油液泄漏 导致起火燃烧

每日经济新闻
2026-10-22 12:42:40
2026-10-23 12:07:00
至顶AI实验室 incentive-icons
至顶AI实验室
一个专注于探索生成式AI前沿技术及其应用的实验室。
3534文章数 186关注度
往期回顾 全部

数码要闻

索尼日本停产最后一款独立4K蓝光机 普通蓝光播放器仍在售

头条要闻

牛弹琴:普京最新表态砍出五刀 一刀更比一刀狠

头条要闻

牛弹琴:普京最新表态砍出五刀 一刀更比一刀狠

体育要闻

没人看好的加图索,打出队史最佳开局

娱乐要闻

高梓淇向女友求婚,被女方父母接受

财经要闻

娃哈哈集团董事长许思敏离职

科技要闻

抢运营商饭碗!马斯克又有大动作

汽车要闻

奥迪中国换帅 张俊任总裁 鲁文墨代理奥迪运动业务

态度原创

艺术
教育
数码
时尚
本地

艺术要闻

中国当代画家 谢郴安油画作品选

教育要闻

越解越乱,真难啊,有好方法吗

数码要闻

华硕ProArt创16 RTX Spark正式登场,全球首款AI智能体PC,创意生产拉满

“风衣+裙子”才是今年秋天绝美搭配,这样搭显瘦还时髦

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

无障碍浏览 进入关怀版