过去几年,AI行业热衷于比参数、拼算力、讲融资。但模型一旦离开展台,客户的问题立刻具体起来:数据会不会泄露?设备能不能24小时运行?响应够不够快?噪声大不大?
![]()
这些问题,正把端侧AI推到产业舞台中央。10月14日,后摩智能在北京开了一场生态合作伙伴大会。期间,极客公园创始人兼CEO张鹏主持了一场圆桌,五位来自不同赛道的人坐到了一起:麒麟软件副总经理、生态发展中心总经理姚翎,聊趣智能科技创始人兼CEO黄隽实,罗格数据CTO刘学鹏,寅谱计算CMO陈展凌,后摩智能AI系统总工程师陈仲铭。
他们分别来自操作系统、应用、数据工程、整机集成和芯片领域,讨论的是同一件事:端侧AI什么时候才能真正成为一门生意?
安全、私域、体验:三道真实门槛
黄隽实讲了一个养老院里的故事。他们在上海落地了一套「数字家人」,陪老人聊天、提醒用药、辅助防诈骗。老人每天说了什么、身体状况如何,都是极其敏感的信息,不能随意上传云端;系统又要全天值守,设备还不能嗡嗡作响。到了这样的现场,隐私、算力、功耗和噪声都不再是技术指标,而是老人愿不愿意使用的前提。
在企业市场,答案同样清晰。刘学鹏认为,客户最关心的是私域化专属。「AI未来会成为企业的数字专家或数字员工,这种触及核心业务的『员工』,必须招进公司内部,而不是变成外部的云端服务。」当模型开始读取发票、财报、订单和客户资料,数据边界就不再是附加选项,而是商业落地的前提。
对央企及关键岗位而言,安全门槛更加严格。姚翎表示,只要AI工具部署在互联网上,涉密数据就绝对不能碰。大模型甚至可能从不同时段上传的碎片信息中,拼凑出完整内容。「本地安全是重中之重,没有任何商量的余地,安全就是一切的前提。」
不过,需求成立,不等于生意成立。陈展凌直言,客户未必在意省了多少Token,他们更关心体验。首字出来要多久,机器是否安静,系统会不会卡顿,能否连续稳定运行,这些看似琐碎的问题,决定了产品是被长期使用,还是演示结束后被塞进柜子。
端侧AI的难点,不只是把大模型装进小设备,更是把通用能力变成可持续交付的专业服务。模型发布后能否及时适配,硬件成本能否降到客户可接受的范围,软件伙伴能否低门槛开发,都会影响商业化的速度。
而在底层,端侧算力还要面对算力、带宽与功耗的「不可能三角」。陈仲铭说,后摩要做的,就是不断把这三条边界向外推,并通过开放软件、接口和API,让更多开发者参与进来。
生态、成本与规模化
虽然说是商业化元年,但目前端侧AI还远未普及。陈展凌期待能有更多软件商看到这个机遇,果断向端侧AI转型。刘学鹏的核心诉求是Day 0适配,他认为国内基础算力和模型之间的核心壁垒其实就是生态。黄隽实的要求更苛刻,希望端侧的「不可能三角」能再往前推一推,因为实际落地中,成本是极其关键的因素——除了少数预算充足的机构,绝大多数企业并没有巨额的专项资金。
姚翎的期许很直接,希望达到量产标准的整机快速落地,在后摩下一代A20和M60芯片出来前,真正实现规模化应用。「技术不用,就永远不知道差距在哪。」
从工程实践来看,芯片、模型和操作系统只是必要条件。陈展凌提到,主板、散热、机柜设计,以及针对客户体验的优化参考设计,都需要跟现有模型能力做深度适配。刘学鹏则更关注面向用户的「最后一百米」——模型解决了一公里外的问题,算力解决了五百米的问题,但客户只愿意为最后一百米买单。
他列举了几道核心门槛:数据打通、交互方式、稳定性。模型进企业就像咨询顾问进场,没有业务数据什么活都干不了;企业用户很难接受纯对话式的逻辑,必须把AI无缝嵌入到他们最熟悉的工作流里;模型本质上是概率学,但做财务报表合并需要极度精准的匹配计算,这就需要大量工程技巧来兜底。
在对话的最后,刘学鹏给了一个大胆的判断:在中国,AI真正落地,一定是「端侧为主,云端为辅」。端侧是个人和企业的专属大脑,云端是负责知识流动的社会大脑。
这个判断对不对,日后会见分晓。但有一点已经很确定:AI从「能聊天」走向「能干活」,就要吃进你最核心、最不愿示人的数据。到那时,算力放在哪里,就不再只是技术选型题,而是一道信任题。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.