五款32-128GB内存能跑大模型的小盒子，我翻了三天资料，帮你们排了个雷

上个月我干了件挺折腾的事。

想找一台能本地跑Llama 3的迷你主机，放工作室里不占地儿、不吵、不拖个砖头似的电源。翻了三天资料——产品页面、评测视频、海外论坛的讨论帖，翻到最后眼睛都快瞎了。越翻越晕：有的型号还没上市，有的内存类型搞混了，还有的标着128GB但有一半是噱头。越看越气，干脆自己拉了个表，把市面上五款"板载大内存"的迷你机捋了一遍。

做完表发现，这几台机器各有各的妖。写出来分享下，如果你也在琢磨这事儿，能少走点弯路。

联想 ThinkCentre X Ultra ——最极端，也最贵

这台机器我第一次看到参数的时候，愣了好几秒。

1.6升。 你们感受一下，比很多路由器还小。长宽18.3厘米，高5.1厘米，摆在桌上基本忽略不计。但它里面塞了一颗 AMD Ryzen AI Max+ PRO 495 ——16个Zen 5核心，最高5.2GHz，Radeon 8065S核显有40个计算单元，外加一颗55 TOPS的XDNA 2 NPU。

重点来了： 128GB LPDDR5X-8533统一内存，最多可以划96GB给核显当显存用。

传统电脑里CPU和GPU各管各的内存，中间一堵墙隔着。独显显存不够就是不够，换卡成本高得肉疼。这台把墙拆了，统一内存池按需调配。跑70B模型的时候，先把权重往里一丢，上下文缓存随便扩——至少先让模型"装得下"。

接口方面给了双雷电4、万兆网口、DP 2.1和HDMI 2.1，内部两个M.2 2280 Gen5插槽。 起售价3699美元，11月上市。 换算下来够我交好几个月房租，但它确实能干别人干不了的活。

联想还说支持四台集群，总内存能到512GB——不过具体怎么连、用什么协议，目前还看不到详细方案。这个我持保留态度，等真机出来再说。

联想 ThinkCentre Neo Ultra Gen 2——独显路线，兼容性好

同是联想出品，但路子完全不同。

Intel Core Ultra 9 285 ，24核（8P+16E），最高5.6GHz。内存最高64GB DDR5-5600，两个SODIMM插槽—— 后期能自己换，不是焊死的 。

跟X Ultra最大的区别： 它配了NVIDIA GeForce RTX 5060，8GB GDDR7显存 。英国官网配下来3581英镑出头，便宜也便宜不到哪去。

这台跑大模型？8GB显存确实捉襟见肘，70B想都别想。但优势在于 NVIDIA生态太强了 ——CUDA、各种AI框架的支持、Stable Diffusion生图，顺手程度比AMD平台顺手一些。跑轻量AI任务的话，这台其实更省心。

接口方面Thunderbolt 4、HDMI 2.1、DP 1.4都有，最多支持7屏输出。存储给了四个M.2位，扩展性不错。

华擎 NUC Ultra 300 Box 系列——信息最少，但参数看着还行

华擎这台目前公开的信息不多。

用的是Intel平台， 最高支持128GB DDR5内存（7200/6400MHz），两个SO-DIMM插槽 。不是板载焊死的，后期能升级，这点对喜欢折腾的人来说挺友好。

接口配置还行：PCIe Gen5存储、Wi-Fi 7、双2.5GbE网口、支持四路8K显示输出。

具体用哪款处理器、什么核显、价格多少，还没披露。从命名看应该是Intel Ultra 300系平台。128GB可插拔内存对于想自己配容量的用户来说是个加分项，但得看核显能不能撑起来——参数再好看，跑起来卡顿也是白搭。

GMKtec NucBox K16——便宜，但也就那样

这台跟前面几个定位完全不同。

AMD Ryzen 7 7735HS，8核16线程，Zen 3+架构，最高4.75GHz。32GB DDR5内存 ，两个PCIe 4.0 M.2插槽。集成Radeon 680M核显。

接口有OCuLink、USB4、双2.5GbE网口。机身107×111×56mm，比前面几台都小。

价格便宜一大截 ，但便宜有便宜的道理。32GB内存跑70B级别模型基本不用想——连权重都装不下。跑个7B级别的小模型凑合，当普通办公机或者轻量NAS倒挺合适。TechRadar给了3.5/5分，说"性能还行但价格不太值"。

这台我觉得适合预算有限、需求也不高的用户。想正经跑AI的话，别盯着它看。

华硕 NUC 16 Pro (Panther Lake平台)——画饼状态，值得等

华硕这台用的是Intel下一代平台—— Panther Lake 。

最高可选 96GB LPDDR5X-9600内存 ，两个M.2 2280插槽（其中一个支持PCIe Gen5）。处理器是Intel Core Ultra系列（具体型号还没公布），集成Intel Arc显卡。

96GB的统一内存架构，思路跟联想X Ultra有点类似——让核显直接调用大容量内存。 但Intel在AI生态上的积累跟AMD和NVIDIA相比还有差距。 实际跑模型的效果，得等真机出来才知道。

目前这台还处于"画饼"状态，不急的话可以观望。

横向拉个表

型号

处理器

最大内存

内存类型

显存方案

参考价格

联想X Ultra

AMD Ryzen AI Max+ PRO 495

128GB

板载LPDDR5X

核显共享96GB

$3699起

联想Neo Ultra G2

Intel Core Ultra 9 285

64GB

SO-DIMM DDR5

RTX 5060 8GB独显

£3581起

华擎NUC Ultra 300

Intel Ultra 300系

128GB

SO-DIMM DDR5

核显共享

待公布

GMKtec K16

AMD Ryzen 7 7735HS

32GB

SO-DIMM DDR5

核显共享

中低端

华硕NUC 16 Pro

Intel Panther Lake

96GB

板载LPDDR5X

核显共享

待公布

说真的，把这些型号扒完的那天晚上，我坐那儿发了会儿呆。几年前想跑个大模型，要么掏十几万买服务器，要么把数据传到云端让人家帮你跑。现在呢？一个比路由器还小的盒子搁桌上，插上电就能跑70B。技术进步得真快，快得让人有点恍惚。这几台机器不管最后买哪款，至少说明了一件事——本地AI的入场券，正在从"只卖给大公司"变成"普通人也能摸到"。就冲这个，我愿意多花点时间搞清楚它们谁是谁。

不过我话说在前头，参数归参数，真机到手之前谁也别把话说满。联想X Ultra那个96GB显存，是理论峰值还是持续可用？满载跑两小时后风扇会不会像飞机起飞？华擎那款128GB可插拔内存，插满之后散热能不能压住？这些在规格书里找不到答案。等机器到了我会挨个测一遍，到时候再写一篇实测，把温度、噪音、每秒token数都拉出来溜溜。

跑AI模型怎么选？

想正经跑70B以上的大模型，联想X Ultra是比较靠谱的选择。

道理很简单：大模型推理最吃的不是算力，是 显存容量 。一个70B模型用4-bit量化后大概40-50GB，FP16的话直接翻倍到140GB。传统独显8GB、16GB的显存根本装不下。

联想X Ultra的96GB共享显存，至少让70B模型有了"装进去"的可能。虽然Radeon 8065S的算力比不上RTX 4090，但"能跑"和"跑不了"之间的差距，不是性能问题，是可行性问题。

华擎NUC Ultra 300的128GB可插拔内存也有潜力—— 但得看它用的什么核显、驱动支持怎么样。 Intel这几年在AI上进步不小，但跟NVIDIA的CUDA生态比还是有一点差距。非N卡跑AI，折腾程度会高一些，你得有这个心理准备。

联想Neo Ultra Gen 2的RTX 5060只有8GB显存，跑大模型基本别想。但这台的优点是： 有独显、有CUDA 。跑轻量级AI任务（比如Stable Diffusion生图、小模型微调），NVIDIA的生态顺手很多。

GMKtec K16的32GB内存……说实话不太够看。跑个7B模型凑合，再大就吃力了。

做NAS怎么样？

这几台机器当NAS都有个共同优势： 万兆网口或双2.5GbE 。

联想X Ultra有万兆网口，GMKtec K16有双2.5GbE，华擎NUC Ultra 300也是双2.5GbE。内网传数据速度快，拖大文件不用等半天。

存储扩展方面，联想X Ultra两个M.2 Gen5插槽，联想Neo Ultra Gen 2给了四个M.2位，华擎和华硕也都是双M.2。

但有个需要注意的地方：板载内存的机器没法升级。 联想X Ultra和华硕NUC 16 Pro的内存都是焊死的，买之前就得想清楚自己要多大容量。如果只是当NAS用，其实用不着那么大的内存，反而是那些支持SO-DIMM插槽的型号更灵活——先买小容量，以后不够了再换。

另外说句实话： 大内存机器当NAS多少有点杀鸡用牛刀。 NAS主要吃的是存储和网络，CPU和内存需求没那么夸张。除非你打算在NAS上同时跑AI推理——那就另说了。

一点真实想法

这几台机器的出现，反映了一个趋势： 本地AI推理的硬件门槛，正在从"买不起旗舰独显"变成"买得起大内存"。

以前想在本地跑大模型，得配一块几十GB显存的旗舰卡，那价格普通人根本够不着。现在这些小盒子用统一内存架构绕开了这个限制——虽然核显算力跟独显比还有差距，但至少先把模型装进去了。

当然，这些机器都不便宜。联想X Ultra三千多美元起步，华擎和GMKtec价格还没公布但估计也不会低到哪里去。 但换个角度想：一台能本地跑70B模型的设备，以前只有数据中心才见得到。 现在能塞进1.6升的盒子里放在桌面上，这个进步本身还挺大的。

最后聊句实在的，这几台我自己掏钱会选哪台？

如果预算够，我可能会直接上联想X Ultra。不是说它完美，而是"96GB显存"这个门槛，目前只有它能跨过去。想跑70B又想省事，没太多选择。

但如果想折腾一下，华擎那款128GB可插拔内存反而更对我胃口。焊死的板载内存用着是省心，但总少了点自己动手的乐趣——也便宜一些。穷有穷的玩法，折腾有折腾的快乐。

GMKtec K16我就不考虑了，32GB干不了啥大活，省那点钱将来还得再换，更折腾。

至于哪台值得买，得看你具体干什么。跑大模型就盯着X Ultra这类统一内存方案；跑轻量AI加日常使用，Neo Ultra Gen 2的独显路线也不错；纯当NAS加偶尔玩玩小模型，GMKtec K16也够用。

这几台目前大多还没铺货，参数归参数，真跑起来什么温度、什么噪音、会不会降频，我也好奇。 如果你已经在用其中某款，评论区聊聊实际体验，帮大家伙儿避避坑。

觉得这篇帮你省了选品时间的，顺手点个赞就行。要是真想赏杯咖啡——我熬夜翻资料那两天确实灌了好几杯，不拒绝续杯。