北京
作者 |路飞
来源 | 至顶AI实验室
本地 AI 买显卡，最近很多人卡在同一个问题：新的 5060 Ti 16GB，和二手 RTX 3090，选谁。
只看新旧，5060 Ti 很招人喜欢：新卡、省电、有保修，普通机箱好装。但只看本地 AI，账没这么简单。
为什么忽然想聊这个话题，最近在YouTube上看了 Lon.TV 的视频《This RetAIl GPU Works Great for Local AI !》。他买了张 ASUS RTX 5060 Ti 16GB，用 LM Studio、AnythingLLM 跑本地模型、图片分析、文档问答、代码生成和 RAG。
他的结论很清楚：对很多普通用户，16GB 新卡已经够把本地 AI 跑起来。这点我同意。但我会再往前推一步——如果和二手 3090 只差一两千，我选 3090。
16GB 够上手，不够押长期
Lon.TV 这条不是显卡横评，是演示一张 16GB 新卡能干什么。跑本地知识库问答、看图、分析资料、写 HTML 小游戏、Python 爬虫、RAG 查询，全都接地气。大部分人第一次碰本地 AI，要的就是能不能问文档、能不能看图、能不能写点小工具。
这正是 5060 Ti 16GB 的价值：不像 3090 那样挑电源、散热、机箱，也不用赌二手成色。官方规格是 16GB GDDR7、4608 CUDA、128-bit，卡长 229mm，建议 550W 电源、单 8-pin。
问题在于，本地 AI 的需求涨得很快。跑 7B、8B 小模型，16GB 够。一旦上中型模型、长上下文，或者把 RAG、本地知识库、Agent 工作流都接进来，显存立刻吃紧。视频也提到模型能在显存和系统内存之间分担——但"能跑"和"跑得舒服"是两回事，一旦频繁吃系统内存，速度和响应都掉。所以 16GB 是好入门卡，不是好的长期上限。
差价一两千，我会把钱花在 24GB 上
这是我和视频不一样的地方。差价大，另当别论；只差一两千，我宁可买 3090 的 24GB。
24GB 不是心理安慰，它直接决定你能不能装下更大的模型、能不能给上下文留空间、能不能少依赖系统内存。中型模型越来越多、本地部署越来越常见，20GB 以上显存的价值只会更明显。5060 Ti 的优势是省心，3090 的优势是余量。尝鲜的人看重省心，长期折腾的人看重余量。
但 3090 不是无脑买
二手 3090 的麻烦很实在：成色不透明，功耗高，散热压力大，对电源和机箱要求更高。你要是不懂二手卡、不想查成色、不想担矿卡和维修卡的风险，5060 Ti 16GB 仍是更稳的选择。能接受这些麻烦、或身边有人帮你把关，我才把 3090 放到更高优先级。
至顶AI实验室洞察
轻量尝鲜，买 5060 Ti 16GB，省心跑起 LM Studio、AnythingLLM，做文档问答、图片理解、轻量代码任务，没问题。确定要长期玩——中型模型、长上下文、本地知识库、复杂 Agent——加钱看二手 3090。
本地 AI 后面真正让人焦虑的，从来不是新旧，是显存不够。
END本文来自至顶AI实验室，一个专注于对AI计算机、工作站及各类AI相关硬件设备，开展基于真实使用场景评测的研究机构。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
