网易首页 > 网易号 > 正文 申请入驻

前DeepSeek作者开源Linger:12GB显卡跑125B模型是真的,但“零Token费”省下的钱,从内存条和电费里又花出去了

0
分享至

一块12GB显存的RTX 3060,跑125B参数的Qwen3.8-Flash-Next,45.5 tokens/秒,不按Token付费,数据不出本机。

这是Linger发布时被转得最多的一句话。前DeepSeek V1作者、DeepSeek-VL项目负责人张博(Tony Zhang)11月19日开源了这个本地个人Agent,GitHub星标几天内破三千。官方把它比作“个人电脑的诞生”——AI不该只活在数据中心里,按Token租给你,智能应该完全由你拥有。

我花了两天把它的文档、GitHub issue和几篇实测翻了一遍。“12GB跑125B”是真的,但它有一个官方没放在标题里的前提。而“零Token费”省下的钱,从另一个你没想到的地方又花出去了。



第一笔账:12GB是入场券,64GB内存才是账单

45.5 tokens/秒这台机器,插着64GB内存。

官方文档写得很清楚:125B模型跑在12GB显卡加64GB内存上,靠的是PolyStrata推理引擎——把模型最繁忙的专家留在GPU显存,其余专家放在系统内存或SSD,用到时再搬运进来。Qwen3.8-Flash-Next的2-bit量化文件约39GB,靠分层调度运行,不会一次性载入显存。

内存少一半,速度直接掉一个量级。 官方另一组硬件规划测试:12GB显卡配32GB内存的模拟配置下,同一个模型速度掉到21.3 tokens/秒,首字延迟约3分钟。有16GB显卡的用户实测后留了一句很直接的话:“他们只告诉你12G显存也能跑125B,但是没告诉你至少要拥有96G的内存”。

“12GB显卡”是一个精确的营销数字,但它不是完整的门槛。 一张二手3060 12GB大概千元出头,四根32GB DDR4内存才是真正让这台机器“跑得动”的东西。而且45.5 tokens/秒是2-bit量化下的稳态速度,官方没有给这一档的质量评分——量化损失多大,需要你自己拿任务去测。

省掉的是API账单,换来的是硬件、电费和“首字等三分钟”的耐心。



第二笔账:零Token费只对“本地那一半”成立,后台记忆任务永远跑在云端

Another Me是Linger最值得认真看的部分。它持续读你的收件箱、日历和Slack,每晚把邮件、聊天、会议整理成本地知识库,按紧急程度决定什么时候提醒你——客户周五要报价,它周三才提醒;会议时间一改,立刻通知。LoCoMo长期记忆基准95%,超过Mem0、MemOS。

但官方文档里有一句容易被跳过的话:后台记忆和Wiki生成,用的是Claude Code或Codex等运行时。 只要你挂着云订阅,每晚整理时读到的邮件和聊天,照样会发给那家服务商。Linger本身不带模型,只是一个壳,本地模型挂在Pi后面跑,单次问答不花钱;但后台记事这一步,并没有完全留在本地模型里。

还有几扇门也会把数据带出去:连接Gmail、Slack等应用调用Composio,语音识别调用Soniox,实时语音调用xAI,使用远程模型时提示词和上下文发给模型服务商。

“装进自己电脑”改变的是“资料存放在谁手里”,不是“数据绝对不出门”。 零Token费只对本地推理这一半成立;另一半夜里在跑,账单和数据流向都取决于你接的是谁。



第三笔账:没有沙箱,它拿的是你的系统权限

这是Linger最需要被认真对待的一条边界,官方自己写得很直白。

Linger没有沙箱隔离。 助理直接以你的系统权限执行任务,你已登录的邮箱、桌面文件和命令行它全都能碰。拦住误操作靠的是服务端校验和弹窗确认卡——读取类操作直接执行,发邮件等写入操作才弹确认。

“弹窗确认”不是“沙箱”。 沙箱是把程序关进一个受限环境里,它碰不到外面的东西;确认卡是在它伸手的时候问你一句“可以吗”。如果模型被诱导、或者你在疲劳时顺手点了“允许”,权限边界就消失了。有实测者给的建议很务实:先拿测试号和空文件夹跑一晚,别一上来就绑主力邮箱。

许可证也值得看一眼。Linger基于Apache 2.0加了商业限制:未经授权,其他企业不得把源码作为托管服务提供给外部用户,也不得删改前端Logo和版权信息。个人用、本地跑,没问题;想拿它做托管生意,得先谈授权。



它和OpenClaw、DS-Bot到底差在哪:张博自己给了答案

有网友在X上问它和OpenClaw、DeepSeek DS-Bot的区别,张博的回应很具体。

OpenClaw更侧重接入常用聊天软件,以及Bot和群组之间的协作;Linger更关注人与自己的Agent之间的协作,以及Agent对本地电脑环境的操作。

DS-Bot是基于DeepSeek Harness的插件,模型通过用户配置的API调用;Linger不绑定单一Harness,能接入Claude Code、Codex和Pi,也支持本地模型,重点是让模型与Harness共同优化。

一句话:DS-Bot是“在DeepSeek的框架里加一个Bot”,Linger是“在你的电脑上搭一个可以换引擎的壳”。 你想用本地模型省钱,可以;你想用已有的Claude Code订阅跑长任务,也可以。它不锁你,但也不替你选。



所以,“本地个人Agent的最后一公里”补上了吗

补上的那一公里: 它让“在自己电脑上跑一个能用的大模型Agent”从“极客折腾”变成了一个安装器就能完成的事。Model Autopilot会读你的显卡、内存和带宽,自动挑一个能装下64K上下文的模型,答对一道真题才算安装成功。Another Me的主动记忆和工作流,是云端Agent(Muse/Dots)给不了的那种“它真的知道我在干什么”的体感。

还没补上的那一公里: “本地”不等于“闭环”——后台记忆在云上,外部服务在云上,零Token费只覆盖一半;“无沙箱”意味着你需要自己扮演那道防火墙;“12GB跑125B”需要64GB内存和2-bit量化做前提,45.5 tokens/秒的体验,和云端Agent的即时响应不是一个量级。

它最适合的人: 对数据不出本机有强需求、有一张12GB以上显卡和至少64GB内存、愿意花一个晚上调配置、并且能接受“首字等一会儿”的开发者。它不适合的人: 想要开箱即用、依赖最新联网信息、或者不愿意为“本地”支付硬件和折腾成本的人。

Linger真正改变的不是“Token免不免费”,是“你终于可以自己决定哪一半留在硬盘、哪一半交给云”。 这个选择权,比“零Token费”值钱得多——但前提是,你得知道自己把哪一半交出去了。

声明:内容由AI生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
被淘汰后老公放话:我每天看她裸着刷牙

被淘汰后老公放话:我每天看她裸着刷牙

追星雷达站
2026-11-20 08:01:08
彻底不装了?马英九曾言:我不希望台湾成为第二个香港!

彻底不装了?马英九曾言:我不希望台湾成为第二个香港!

观史搜寻着
2026-11-22 11:11:03
陈皮配它,倒头就睡!夜里雷打不动,白天精神旺,试过的都说好

陈皮配它,倒头就睡!夜里雷打不动,白天精神旺,试过的都说好

牛锅巴小钒
2026-11-15 19:14:34
陆毅说:“如果我女儿的男朋友很上进,但家境一般,我会棒打鸳鸯。因为我觉得门当户对很重要,而且婚姻要得到双方父母的祝福,才会幸福”

陆毅说:“如果我女儿的男朋友很上进,但家境一般,我会棒打鸳鸯。因为我觉得门当户对很重要,而且婚姻要得到双方父母的祝福,才会幸福”

黎兜兜
2026-11-20 08:12:24
《GTA6》4年前泄露场景再现!正式版对比令人意外

《GTA6》4年前泄露场景再现!正式版对比令人意外

游民星空
2026-11-22 15:34:24
75岁老太旅游被骗买了一件佛陀木雕,4年后,她得了6套海景房

75岁老太旅游被骗买了一件佛陀木雕,4年后,她得了6套海景房

磊子讲史
2025-07-07 12:41:11
西部排名大乱!前十全部胜率过半,勇士5连败掉队,湖人榜首又没了

西部排名大乱!前十全部胜率过半,勇士5连败掉队,湖人榜首又没了

锅子篮球
2026-11-22 15:48:53
新型亩产万斤:修电脑年入八百万、保洁月入3万等等,我是来看评论区的

新型亩产万斤:修电脑年入八百万、保洁月入3万等等,我是来看评论区的

迷世书童
2026-11-22 15:38:14
直到罗斯福去世26年后,美国人才明白,当年他为什么拼死也要让中国,成为联合国五常?

直到罗斯福去世26年后,美国人才明白,当年他为什么拼死也要让中国,成为联合国五常?

回京历史梦
2026-11-22 10:30:17
怪不得都说广西人在阴阳怪气说话这一方面天赋异禀呢!笑不活了

怪不得都说广西人在阴阳怪气说话这一方面天赋异禀呢!笑不活了

石辰搞笑日常
2026-11-22 02:04:16
CBA俱乐部杯16强对阵全部出炉!诞生2个意想不到

CBA俱乐部杯16强对阵全部出炉!诞生2个意想不到

南海浪花
2026-11-22 05:00:13
A股利好!超60家上市公司,密集披露

A股利好!超60家上市公司,密集披露

齐鲁壹点
2026-11-22 09:00:24
消失了!再见杜兰特!38岁达成重磅转型

消失了!再见杜兰特!38岁达成重磅转型

篮球实战宝典
2026-11-21 15:31:30
中国股市失控信号亮起:这次可能真的不是玩笑

中国股市失控信号亮起:这次可能真的不是玩笑

星语者056
2026-11-20 08:56:23
前DeepSeek作者开源Linger:12GB显卡跑125B模型是真的,但“零Token费”省下的钱,从内存条和电费里又花出去了

前DeepSeek作者开源Linger:12GB显卡跑125B模型是真的,但“零Token费”省下的钱,从内存条和电费里又花出去了

阿鑫讲ai
2026-11-22 17:10:39
宴会结束,高市早苗登机回国!中方招待一切正常,日本感到很满意

宴会结束,高市早苗登机回国!中方招待一切正常,日本感到很满意

一口娱乐
2026-11-22 17:13:24
想不到,APEC峰会第二天,深圳因4件“特产”令中国赚足全球目光

想不到,APEC峰会第二天,深圳因4件“特产”令中国赚足全球目光

影娱先锋l
2026-11-22 11:54:51
5-1!贵州足球时隔5年重返中甲 定南赣联2人染红+9年后再跌回中乙

5-1!贵州足球时隔5年重返中甲 定南赣联2人染红+9年后再跌回中乙

我爱英超
2026-11-22 17:59:52
被驱逐至中国6年后,30岁林孝埈,如今让人刮目相看!官媒发文高调官宣大喜讯,4字表态,圈粉无数

被驱逐至中国6年后,30岁林孝埈,如今让人刮目相看!官媒发文高调官宣大喜讯,4字表态,圈粉无数

锐评利物浦
2026-11-22 11:18:01
看德国悲惨现状就明白:中国为何坚决打击性交易,原因不言自明

看德国悲惨现状就明白:中国为何坚决打击性交易,原因不言自明

怪味历史连连看
2026-07-01 14:49:12
2026-11-22 18:35:00
阿鑫讲ai
阿鑫讲ai
专门讲解现阶段高热度的AI
134文章数 16关注度
往期回顾 全部

数码要闻

三星的内存产能至2029年已几乎全部预订一空 客户正寻求直至2031年的供货协议

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

手机
亲子
艺术
时尚
军事航空

手机要闻

星芒OSTA O1 Pro新机确认支持华为自研Wi-Fi 7+芯片级协同技术

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

艺术要闻

世界十大著名宫殿盘点:中国独占两席

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版