北京
飞机上没Wi-Fi，代码照样能写。这不是段子，是我把VS Code里的Copilot换成本地大模型之后的真实体验。
我原本就在Mac上用LM Studio跑本地模型，聊天窗口之外，最实用的场景就是写代码。把模型直接接进VS Code，不用切应用，断网也不影响。Copilot那套方案做不到这一点，离线就是它的天花板。
具体做法是用Continue扩展把VS Code和LM Studio连起来，自动补全和聊天各配一个模型。
接线：Continue负责桥，LM Studio负责跑
Continue装进VS Code后，会出现聊天面板、代码编辑工具和行内建议。它本身就能用，接个云端API立刻开工。但要把本地模型塞进编辑器，还得给它配一个模型运行器。我用LM Studio当提供方，它也支持Ollama这类替代方案。
在LM Studio里加载好模型，打开本地服务器，就得到一个可以填进Continue配置的API地址。默认是http://localhost:1234/v1，发过去的请求都留在自己电脑上。
Continue的配置里有模型角色，可以分别指定自动补全、聊天和编辑用哪个模型。我给自动补全分配了较小的Qwen模型，聊天和编辑用大的那个。模型标识必须和LM Studio服务器暴露的一致，尤其是你下载了好几个版本的时候。
另外我关掉了Copilot的行内建议，避免两套补全打架。VS Code内置聊天界面其实已经支持本地模型，但那份支持不覆盖本地自动补全，这也是我用Continue的原因。
自动补全：小模型才跑得动
自动补全我用的是Qwen 2.5 Coder 1.5B。故意选小的，因为它快，能边写边出建议。大模型生成建议要处理更多权重，那个延迟会打断它本该帮上的工作。它还更吃内存，而你是和编辑器、其他程序共用一台机器。
自动补全的活儿通常就是补完一行、收个循环、按已有模式续几行。支持fill-in-the-middle的模型会同时看光标前后的代码，判断中间该填什么。函数名、变量、上下文都在，小模型也够用。
还得挑支持这种补全格式的模型，下个最新的通用模型不一定给出更好的建议。比如推理模型会先花时间想一遍，你只要几行代码，它却先思考，延迟就上来了。
聊天和改代码我留给Qwen 2.5 Coder 7B。这类场景是我主动求助，可以多等一会儿。比如选中一个函数让它解释，或者让它改错误处理。这些任务需要的能力，比日常补全高。
它不是最强，但断网时够用
我不认为这是能搭出来的最强编码配置。Copilot在生成代码和给建议上仍然更好，代理类功能也比这些本地模型强。本地跑模型，你还受笔记本、迷你主机或NAS的硬件限制。
对我来说，便利在于离线。我经常出差，网络稳定是个老问题。航班是最典型的例子，Wi-Fi要么没有，要么额外收费。掏出笔记本就能干活，不用操心连接，这件事很爽。性能不如Copilot，但建议、解释、改代码的帮助都还在。飞一趟能把活推进一点，不用攒到有网再说。
在改进功能或者做日常维护时，VS Code配本地模型尤其顺手。选中一个现成函数，让它加错误处理，或者清理重复代码，都能接得住。
我自托管本地模型已经一年多了。说实话，之前没从中得到多少东西，因为它们就是不够好，消费级硬件也跑不动很好的模型。但我发现，给它们小任务，或者把大活拆成小活，它们确实能派上用场，编码和家庭自动化尤其如此。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
