很多人以为,想用上大模型,就必须把数据交给云端。但一位开发者用一台M4 Pro Mac mini,搭起了完全属于自己的本地AI环境——数据不出设备,成本可控,还实现了所谓的"AI主权"。
核心思路:本地跑模型,远程也能连
![]()
这套方案的关键组合是M4 Pro Mac mini加上MLX框架,再配合Tailscale组网。MLX是苹果生态下的模型运行框架,能让Mac芯片高效跑大模型;Tailscale则负责把多台设备安全地连进同一个虚拟网络。这样一来,手机、笔记本都能远程调用这台Mac mini上的模型,但数据始终留在本地。
为什么有人愿意折腾本地部署?
作者给出的理由很直接:数据隐私、成本可预测、AI主权。云端API按量计费,用多了账单难控;而本地部署是一次性硬件投入,长期使用成本更稳定。更重要的是,敏感数据不用经过第三方服务器,隐私风险大幅降低。
这套方案适合谁?
如果你对数据隐私有硬性要求,或者不想被云端API的按量计费绑住,这套思路值得参考。当然,它需要一定的动手能力——配置MLX环境、设置Tailscale网络,都不是开箱即用的事。但作为个人AI基础设施的探索,它提供了一个完全不同的选择。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.