预算1000块玩AI？我搞了张退役V100，跑大模型居然这么猛

预算1000块玩AI？我搞了张退役V100，跑大模型居然这么猛 起因：被显卡价格劝退的第108天

说实话，今年想入坑本地跑AI，真的挺劝退的。

打开某东搜了一圈，5090三万四，5080一万二，4090也还得一万出头。

我就想跑跑Stable Diffusion、本地部署个DeepSeek或者LLaMA，又不是搞科研，至于花这么多钱吗？

后来有一天逛二手平台，刷到一批IBM服务器拆机的V100 SXM2 16G，标价600出头。

我当时的第一反应：这玩意儿不是2017年的卡吗？还能用？

V100到底什么来头？

简单科普一下。

特斯拉 V100 SXM2 16G

V100是NVIDIA在2017年推出的数据中心级计算卡，当年是各大云厂商、超算中心的标配。它不是给打游戏设计的，而是专门干"算数"这活的。

几个关键参数你感受一下：

• •HBM2显存，带宽900GB/s。现在RTX 5080用的GDDR7，带宽大概160GB/s左右。差了将近6倍，这不是一个量级的东西。

• •640个Tensor Core，专门为深度学习加速用的。

• •FP64双精度7.8 TFLOPS，这个指标消费级卡基本可以忽略，但做工程计算、跑某些模型的时候真的有用。

• •16GB显存，跑SD出图、跑7B级别的模型，够用了。

它退役了，不是因为性能不行，是因为数据中心要换代。但拿来个人玩AI，完全是降维打击。

配置清单，总共花了不到1000块

直接上方案：

配件

价格

V100 SXM2 16G（二手拆机）

≈600元

闲鱼/二手平台找，认准IBM、Dell、华为拆机的

SXM2转PCIe转接板

≈280元

一定要买带金属屏蔽罩的，下面会说为什么

二手240水冷

≈50元

我买的酷冷至尊冰神B240，压250W没问题

硅脂、扎带、杂项

≈20元

总计：950元左右。

对，不到一千块，一张能跑AI的卡就齐了。

实际上手体验

装好之后我最先测的是Stable Diffusion。

生图参数：1024×1024，采样步数30，用的SD 1.5模型。出图大概4秒左右一张，显存占用稳定在11-12GB。

我朋友拿他的RTX 4070（12GB）跑同样的任务，稍微上点分辨率就爆显存，得开各种优化才能勉强跑。我这边完全没这问题，HBM2的带宽优势在大分辨率出图时特别明显。

然后试了DeepSeek-R1的7B量化版本，本地推理，token生成速度大概在18-22 token/s。不算飞快，但日常问答、写代码辅助完全够用，关键是不花钱、不联网、不担心隐私。

后来我又拿它训了个LoRA，速度比我之前借来的RTX 3090还快了一截。毕竟带宽摆在那，数据喂得进去。

想折腾的，可以上双卡

如果你预算稍微宽裕一点，两张V100通过NVLink2互联，显存带宽直接翻倍到1.8TB/s，等效32GB显存池。

我算了一笔账：

• • 两张V100：1200元

• • 双路转接板：560元

• • 两套散热：100元

• • 合计：约2500元左右

这个价位，跑13B参数的模型、批量出图、训LoRA，体验已经相当能打了。

你去买一张全新的5090要三万四，这中间的差价够你吃一年外卖了。

几个坑

第一，别贪32GB版本。看着显存大很心动，但价格直接翻两三倍。有那钱不如上两张16G，性价比更高，扩展性也更好。

第二，转接板千万别买杂牌。我一开始图便宜买了个没屏蔽罩的，PCIe信号不稳，跑着跑着掉速，实测性能损失大概有10%。后来换了带金属屏蔽罩的，立马稳了。

第三，电源别太省。单卡250W，如果你上双卡，建议至少650W的80Plus铜牌电源。别拿个杂牌400W硬撑，不然后面蓝屏死机够你折腾的。

第四，注意主板兼容性。SXM2转PCIe之后体积不小，确认你的主板PCIe插槽间距够，别买回来插不上就尴尬了。

适合谁？不适合谁？

这方案不是万能的。

适合你，如果你：

• • 预算有限，想体验本地AI

• • 主要跑推理、出图、训小模型

• • 不介意折腾转接、散热这些"手工活"

• • 对游戏没需求（这卡没有视频输出）

不适合你，如果你：

• • 要玩游戏（它压根没有显示输出接口）

• • 完全不想动手，追求开箱即用

• • 需要跑70B以上的超大模型（显存确实不够）

很多"过时"的企业级硬件，在消费场景里反而是降维打击。

V100在数据中心确实退役了，但它的设计目标本来就不是打游戏，而是高强度并行计算。拿来跑AI推理和训练，属于专业对口。

一千块钱，给你一个本地AI的入场券。

不用每个月给云厂商交租，不用排队等GPU，不用担心哪天服务涨价。