网易首页 > 网易号 > 正文 申请入驻

大模型厂商,正忙着自备“干粮”

0
分享至


图片来源:unsplash

2026年年中以来,越来越多独立模型厂商传出将下场“亲手”打造AI芯片。

6月末,起步最早的OpenAI已经拿出了首款自研AI推理芯片Jalapeño,这款芯片从架构设计到流片仅耗时9个月,创下了专用集成电路(ASIC)领域最短开发周期纪录。

7月上旬,路透社报道称DeepSeek正在开发自研AI芯片,项目已启动约一年,且与芯片设计、代工、存储等供应链企业进行了讨论。

几乎同一时间,“大模型第一股”智谱也被曝出在推进自研芯片项目,已向多家国内芯片设计公司初步询价。

8月初,一向“精打细算”、被认为不热衷“堆算力”的Anthropic也正式对外证实,公司正在组建内部芯片研发团队,为Claude大模型量身打造定制化AI芯片。

8月末,OpenAI放出了Jalapeño的评测数据,称其在推理能力上能够比肩甚至超过英伟达目前的主力产品GB200、GB300。芯片研究机构SemiAnalysis甚至在最新发布的报告中评价称,Jalapeño可以直接对标英伟达新一代产品Vera Rubin,甚至可能在未来冲击后者的最强护城河CUDA。

模型厂商尝试自研芯片显然已非个例,但按照以往的理解,这两个赛道的逻辑、打法迥然不同,本就面临盈利难题的独立模型公司,要砸重金、组团队做自己不熟悉的事,风险不小。那么,这些公司究竟为何盯上自研芯片?又为何会在这个节点纷纷入局?它们“造芯”的方式有何不同?芯片企业如何看待客户变竞对的现状?这场“造芯运动”又会给行业带来哪些影响呢?

推理时代到来

科技巨头布局自研芯片并不罕见,美股七姐妹中除英伟达外,微软、谷歌、亚马逊、Meta均拥有成熟的自研AI芯片,苹果、特斯拉也正积极研发、建厂。中国互联网大厂中,阿里巴巴的平头哥和百度的昆仑芯已实现商业化,字节跳动也在加速自研芯片量产进度,腾讯亦有针对特定场景的专用AI芯片布局。

对于业务覆盖广、家底丰厚的巨头来说,自研芯片既可用于自家AI的降本增效,摆脱对外依赖,应对算力短缺和供应链掣肘,同时也能对外销售,在云业务中形成收入。

但独立模型厂商的处境却有所不同。

它们没有云业务和成熟的客户生态网络,自研芯片的市场前景天然受限。它们也难以承受训练芯片开发的巨大耗资和超长周期,自研芯片对于自身模型的绝对性能提升有限。

也正因为此,虽然芯片短缺、供应链风险在本轮AI浪潮启动时就已显露,但除了“找钱”能力最强的OpenAI,其他独立模型厂并没有着急行动。

真正推动他们走上自研芯片之路的,是推理时代的到来。

AI Infra企业清程极智联合创始人师天麾此前曾对我们表示,今年以来Agent、长上下文和AI应用大规模落地,让模型调用量激增,Token越烧越快,从“交互式用量”进阶到“生产级用量”,推理计算需求随之指数级增长,并在资本支出上超过模型训练。

与此同时,虽然算力供给也在快速增加,但显然无法跟上推理需求的增速。而且,推理时代的来临也在改变着模型和芯片的模样。

专攻AI推理芯片的云天励飞董事长兼CEO陈宁对我们表示,在训练时代,算力的核心任务是训练超大模型,通用GPU优势明显。但推理面向的是大量不同的模型、应用和服务等级,有的追求低延迟,有的追求高吞吐,有的需要长上下文,有的要控制功耗和成本。随着应用规模扩大,很难用一个指标,甚至一种硬件形态解决所有问题。

他认为,推理时代一方面让芯片的技术路线更加多元、专业分工更加细化,另一方面也将每Token成本、能效、延迟和吞吐等推理指标与模型公司的商业化效率联系在了一起。

“近期包括DeepSeek在内的模型公司被传出探索自研芯片,这些芯片更多是对既有算力体系的补充,而不是简单替代通用平台。但这种趋势说明了一件事:当AI进入大规模使用阶段,算力成本和软硬协同的重要性正在上升。”陈宁分析称。

实际上,从目前传出的消息来看,OpenAI、Anthropic、DeepSeek和智谱在开发的都是AI推理专用芯片,初期定位多是自用,聚焦降低推理成本,提升推理效率。

AWS此前曾做过估算,在模型生命周期中,推理可能占据高达90%的成本。而相比于训练的集中投入,推理开支是每天都要出的账单,且需求越多,花销越大。这也意味着,当推理规模足够大时,如果模型厂商的自研推理芯片能大幅降低推理成本,这个经济账就能算得过来。

实际上,从各家模型厂商的财务状况也可看出它们面临的压力和做出的努力。

上述计划造芯的公司都在近两年迎来了用户规模的持续扩大和ARR(年度经常性收入)的快速增长,但同时上涨的还有推理计算成本,再加上高昂的研发费用,导致除Anthropic今年Q2实现调整后营业利润外,其他公司都仍在亏损。

实际上,在自研芯片之外,这些公司也在想各种办法。

以智谱为例,该公司8月31日公布的半年报显示,公司在从本地化部署向云端MaaS的转型中毛利率承压,今年上半年的整体毛利率从去年同期的50.0%下降至26.4%,提升核心业务的盈利能力成了重要课题。在这方面,智谱押注的开放平台及API业务的毛利率虽然远低于传统业务,但已从去年同期的-0.4% 提升到了24.6%,其中最关键的影响因素就是大规模部署性价比更高的国产推理芯片,通过“All-in-Infra”优化推理成本,其单位Token推理成本今年半年内压降了约八成。不过,智谱在总收入涨近400%的同时,扣非亏损幅度也扩大了12.1%,想在研发支出不降的情况下改善利润,必然还需进一步降低推理成本,提升毛利率。在这种情况下,探索自研推理芯片也在意料之中。

AI学会了为自己造芯

在如何造芯片方面,独立模型厂商也在进行新的探索。

首先是架构、系统方面的“反主流”尝试。

OpenAI是目前唯一拿出成品且给出了部分技术细节的公司,其芯片设计也被认为将对其他模型厂商自研芯片形成影响。

根据OpenAI自身发布的信息和SemiAnalysis等机构的分析,Jalapeño的设计主要围绕以更低能耗提供更快、更多的推理算力。但即使与自家模型协同设计,也需要克服推理时数据传输、内存带宽、KV Cache占用和搬运开销等导致的迟滞和耗损。

在这方面,Jalapeño抛弃了PD分离(预填充-解码分离)、推测解码、软件管理暂存器+异步DMA等常规做法,在硬件架构、内存与互联等方面做了堪称激进的尝试,核心就是尽可能避免资源闲置,减少传输损耗。

不过,值得注意的是,SemiAnalysis最新报告分析称,Jalapeño虽然目前名义上仍是自用,但从设计上已充分考虑了通用性、兼容性,包括支持“小”矩阵维度的计算引擎,能够适配各类尺寸的模型,为计算核心配备了L1缓存和乱序执行能力,让芯片在小批量处理时也能接近理论峰值性能等。这款芯片也能兼容其他模型和工作负载,显示出了OpenAI进军商业化市场的野心。而目前来看,这种通用性设计,未必会成为其他独立模型厂商的第一选择。

另一方面,用AI设计AI芯片已成了模型厂商造芯最鲜明的特点之一。

OpenAI方面表示,设计Jalapeño时最大化利用了AI辅助工具,大幅加快造芯速度,完成了创下最短纪录的9个月开发周期。此外,OpenAI还利用Codex来编写和优化Jalapeño的底层内核代码,让新模型能快速适配自研芯片,极大降低了从英伟达CUDA到自研芯片的迁移成本。

Omdia高级首席分析师詹墨磊认为,AI正在改变芯片设计的范式,未来AI工具链的算法竞争会更加重要,这无疑会冲击传统硬件厂商。而类似Jalapeño用AI快速重构底层代码,优化软硬件协同的方式,很可能会冲击英伟达引以为傲的CUDA软件生态护城河。

在这方面,Anthropic和Kimi也提供了可资参考的案例。

今年7月末,Anthropic联合创始人兼首席算力官汤姆·布朗(Tom Brown)在AMD的活动中透露,公司工程师用Claude模型,在一个周末内自动完成了自家前沿模型在AMD芯片架构上的全套适配与性能调优,彼时不少讨论就认为AI编程在芯片领域的突破将大幅降低迁移成本,或许能够打破英伟达CUDA生态锁定的工具链垄断。

同样是在7月,Kimi发布K3模型时展示了一个案例,显示该模型在48小时内自主完成了一款AI专用芯片的设计、优化与验证。该案例在芯片领域也引发了关注,也催生了大模型可能吞噬EDA(电子设计自动化)行业的讨论。

不过,一位曾在EDA大厂工作的从业者也提示我们,K3实际上是用一套运行在虚拟环境、用于研究而非生产的ASAP7设计套件,和OpenROAD开源EDA工具完成了这套流程。大模型做的是调用而非自己开发一套EDA工具,更多是展示了前沿模型在硬件端的Coding能力、Agent能力和自主完成任务的能力,但不能说它吞噬了EDA。而且,相关芯片设计虽然“又快又省”,但其调用的开源EDA工具仅支持50至100nm级别芯片,相较已进入3nm时代的前沿AI芯片相去甚远,距离主流EDA工具所面对的场景也有较大差距。

不过,他也认为AI设计AI芯片的趋势同样会改变EDA行业,一方面行业中一些前端设计、芯片验证、日常维护管理的工程师可能会加速被AI替代,另一方面,EDA工具也需自我迭代,以适应AI辅助造芯时代中由各类Agent调用完成芯片设计的新流程。

此外,模型厂商也在供应链上下了不少功夫。

Jalapeño的设计由OpenAI负责,而博通负责芯片实现与网络硬件,起到了将设计蓝图转变为量产产品的关键作用,6月首发时两家公司也进行了联合发布。此外,从目前公布的信息来看,台积电负责代工、三星则提供最新的HBM4内存,Celestica在中国的全资子公司天弘科技负责板卡与机架系统的集成。

Anthropic方面,据悉将主要由三星完成晶圆代工及先进封装,SK海力士方面则称,Anthropic已就自研芯片项目向公司寻求存储产能供应。

中国厂商DeepSeek和智谱据悉也与供应链进行了相对广泛的接触,尤其是前者,有报道称其已与芯片设计公司、晶圆代工厂和存储供应商有过深入沟通。而他们的供应链选择范围,很可能会更倾向国内生态体系。

一家布局了光互联业务的公司向我们透露,国内模型厂已就自研芯片项目与公司进行了沟通,希望定制光连接产品。在以往的案例中,无论是已经成熟的谷歌自研TPU,还是Jalapeño,都在光连接方面做了前沿布局,这也被认为是让网络架构能与模型算法深度耦合,提供更佳表现的重要环节之一。

芯片公司怎么看?

模型吃算力,算力养模型,大模型与AI芯片的互相成就,是它们在这个时代崛起的重要前提之一。

而当独立模型厂商开始学着“自备干粮”,AI芯片行业也必然会受到影响。

人们最热衷讨论的,还是英伟达的AI芯片霸主地位是否会松动。目前,英伟达在全球AI芯片市场中仍占据超75%份额,毛利率也在75%以上。

虽然独立模型厂商的自研芯片短期内肯定难以在市场上硬刚英伟达,但詹墨磊认为,它们在制造阶段构建的去英伟达供应链联盟,和AI设计的新范式对CUDA生态的冲击,将在此后显现。

SemiAnalysis则在报告中称,Jalapeño除了在推理能力上与英伟达最前沿芯片形成竞争外,还让自己获得了更强的议价能力,这很可能会影响英伟达长期居高的毛利率。而更关键的是,CUDA护城河究其根本是来自庞大的开发者生态、网络效应与极高的代码转换成本,而逐渐进化的AI编程正在改变这一局面,当开发者能更便捷地切换到其他平台时,CUDA受到冲击是必然。而且,这些强大的AI编程、AI设计能力正是在英伟达GPU上跑出来的,SemiAnalysis也据此评论称“英伟达正在实时催产自己的潜在接班人”。

当然,从谷歌TPU等云厂商、科技巨头自研芯片走向市场、中国AI芯片公司快速发展起,英伟达就一直被认为面临着巨大冲击,推理需求逐渐超过训练需求后更是如此。

不过,英伟达自己也在想办法应对。除了快速迭代芯片产品,拿出更强性能外,从“收编”推理芯片初创公司Groq、收购全球最大AI模型社区Hugging Face等大手笔投资,就能看出其在硬件、软件、生态等方面都在寻求巩固自身地位的方式。

一家GPU大厂中国区高管曾对我们表示,模型厂、云厂商自研芯片与传统AI芯片企业的确会形成局部竞争,但合作仍是主流。在他看来,这些厂商对自身的业务负载、成本模型和用户需求理解得更深,需要也能够在特定场景中优化成本和能效,实际上一些制造业、医疗行业,包括车企也会尝试自研芯片,逻辑是近似的。但总的来说,市场上最主流的产品仍然会是服务、适配范围最广的通用AI芯片,这也是芯片厂商的主业。另一方面,自研芯片多了起来后,传统芯片厂和模型厂、云厂商也可能会在芯片设计服务、平台级联合优化、软件生态共建等芯片业务上形成更多的新合作。

陈宁也认为,模型厂商造芯对专业AI芯片公司而言不完全是坏事。因为“定义一颗适合自己的芯片”和“建立一个可以服务广泛客户的芯片平台”,是两种不同的能力。专业芯片公司要面对更广泛的模型、更复杂的客户需求,还需要解决架构设计、软件栈、量产、供应链、系统工程和长期迭代等问题。

不过,他也同时认为,模型厂商发力自研推理芯片,也印证了推理负载会愈发细分,模型与硬件的协同会愈发深入。推理芯片厂商也尤其需要关注如何建立一个能够持续适应模型变化的推理平台,让芯片跟得上模型,甚至让芯片、模型和应用实现共同演进。

当然,对于独立模型厂商来说,造芯片仍是一项有风险的业务,除了资金、团队、工程难题外,还要面临激烈的上游产能竞争、芯片流片失败的可能。而且,这些尝试在真实场景中能否发挥作用还未可知。目前OpenAI的Jalapeño也尚处在工程样品验证阶段,大规模出货要到2027年底,其他厂商更是处于早期阶段,无法判断项目能否顺利推进,又是否能打造出具有竞争力的芯片。

但无论如何,这批新入局的“硬核玩家”,已经成为了AI芯片牌桌上不可忽视的新变量。(本文首发于钛媒体APP,文|飞向TAI空,作者|胡珈萌,编辑|盖虹达)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
奔驰新车官宣:10月12日 ,正式首发

奔驰新车官宣:10月12日 ,正式首发

科技堡垒
2026-09-02 11:35:42
《大决战》上映后,李作鹏批评:很假,若罗荣桓在世,此片通不过

《大决战》上映后,李作鹏批评:很假,若罗荣桓在世,此片通不过

帝哥说史
2026-08-14 23:17:49
小米米家夜灯4发布:8个月长续航,单只59元

小米米家夜灯4发布:8个月长续航,单只59元

IT之家
2026-09-02 12:40:11
越闹越大!奔驰展开调查,大众出手了,港交所也已经开始行动了

越闹越大!奔驰展开调查,大众出手了,港交所也已经开始行动了

社会日日鲜
2026-09-02 09:33:54
正式退出!赵继伟离开国家队,返回辽宁,偶遇杨鸣,郭士强或后悔

正式退出!赵继伟离开国家队,返回辽宁,偶遇杨鸣,郭士强或后悔

萌兰聊个球
2026-09-02 08:21:06
杰伦布朗爆料76人合练内幕,马克西爆发惊人,詹姆斯依旧强悍,这阵容怎么防?

杰伦布朗爆料76人合练内幕,马克西爆发惊人,詹姆斯依旧强悍,这阵容怎么防?

小禾的体育
2026-09-02 16:11:09
上海209万女性不结婚真相:不是不想嫁,而是这两件事导致太难嫁

上海209万女性不结婚真相:不是不想嫁,而是这两件事导致太难嫁

遁走的两轮
2026-08-31 18:02:09
郑丽文回应“请辞党主席”,什么情况?

郑丽文回应“请辞党主席”,什么情况?

新民周刊
2026-09-01 09:11:33
特朗普宣称“伊朗已死”,可信吗?

特朗普宣称“伊朗已死”,可信吗?

看看新闻Knews
2026-09-02 17:30:08
蔚来2027年新车规划曝光 多款车型将换代至NT3.0平台

蔚来2027年新车规划曝光 多款车型将换代至NT3.0平台

CNMO科技
2026-09-02 14:48:09
离谱!大叔受不了漏尿,干脆用强力胶把DD封住??医生最终掏出10厘米胶棒...

离谱!大叔受不了漏尿,干脆用强力胶把DD封住??医生最终掏出10厘米胶棒...

英国那些事儿
2026-09-01 00:29:43
我女儿上大学,大姑姐给8千,她俩儿子上大学,我给1万,婆婆嫌少

我女儿上大学,大姑姐给8千,她俩儿子上大学,我给1万,婆婆嫌少

我是三月鱼H
2026-09-01 16:48:53
阿圭罗力挺热苏斯:他在巴萨每季能进10到15球

阿圭罗力挺热苏斯:他在巴萨每季能进10到15球

足球推文C
2026-09-02 17:30:26
越南少将评价中国军队:一支部队毫无战斗力,但客观来看,这已是其中最好水平

越南少将评价中国军队:一支部队毫无战斗力,但客观来看,这已是其中最好水平

沆砀无垠
2026-08-24 06:00:03
王晶爆张国荣跳楼内幕!抑郁症只是一方面,受内地金主影响最大

王晶爆张国荣跳楼内幕!抑郁症只是一方面,受内地金主影响最大

可乐谈情感
2026-08-30 07:27:10
已确认!星宇启动被调查,常州女首富麻烦了!

已确认!星宇启动被调查,常州女首富麻烦了!

财经要参
2026-09-02 12:00:06
中方一锤定音绕开哈国,两面派不准上车,中国划红线:专治不服

中方一锤定音绕开哈国,两面派不准上车,中国划红线:专治不服

时光在作祟
2026-05-17 05:04:58
辽宁3将夏联展价值!段睿骐太值,李虎翼精准,张陈治锋拾说明书

辽宁3将夏联展价值!段睿骐太值,李虎翼精准,张陈治锋拾说明书

篮球资讯达人
2026-09-02 13:01:51
太难了!9300元学费压垮中年父亲,东莞一家长哭诉,人到中年第一次流眼泪,根本凑不齐学费

太难了!9300元学费压垮中年父亲,东莞一家长哭诉,人到中年第一次流眼泪,根本凑不齐学费

火山詩话
2026-08-31 20:42:48
印度破纪录了,恒河水被洗到“拉丝”,首都或将不再适合人类居住

印度破纪录了,恒河水被洗到“拉丝”,首都或将不再适合人类居住

有牙的兔纸
2026-08-29 18:39:05
2026-09-02 18:08:50
钛媒体APP incentive-icons
钛媒体APP
独立财经科技媒体
138872文章数 862558关注度
往期回顾 全部

科技要闻

凌晨最强模型上新,Claude Fable 5.1发布

头条要闻

尼泊尔用无人机找幸存者 隧道被泥浆"像牙膏一样"塞满

头条要闻

尼泊尔用无人机找幸存者 隧道被泥浆"像牙膏一样"塞满

体育要闻

一次有奖问答,让他成为欧冠主帅

娱乐要闻

香港武打影星陈观泰离世,终年80岁

财经要闻

需要重视的全球“资金失衡”

汽车要闻

23万级给到激光雷达和900km续航 比亚迪海狮08售22.99万起

态度原创

本地
时尚
数码
健康
家居

本地新闻

昆明的雨,解锁汪曾祺的浪漫雨季

夏天别总穿黑色裤子,试试这几款高腰裙,显瘦优雅又提气质

数码要闻

万元显卡售后翻车!用户收到变形RTX 5080不敢修:装不进机箱没法用

越吃越爆痘?医生讲清7大真相

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版