北京
分享至
9月3日，趋境科技与摩尔线程签署战略合作协议。双方将基于趋境科技自研国产PD异构技术，以及摩尔线程MTT S5000智算卡和MUSA软件平台，共同推进国产化高品质AI Token工厂建设，并研发、推广以Token Pod（Token超节点）为载体的联合解决方案。
目前，双方联合方案已投入生产，并承接头部模型厂商官方业务的真实Token流量。据介绍，在同等生产服务标准下，该方案兼顾国产算力的生产级性能与单位AI Token成本优势。
技术上，联合方案采用Prefill与Decode分离的异构推理架构。其中，MTT S5000负责Prefill阶段的输入计算与KV Cache生成，并与承担Decode阶段Token生成的高带宽GPU协同工作。趋境科技通过国产PD异构技术完成模型优化和跨设备协同。
趋境科技方面数据显示，在当前项目同等生产服务标准下，由4至5台MTT S5000组成的Prefill资源池，输入Token处理性价比超过国际先进算力方案。
生产运行数据显示，双方方案在国产头部大模型业务场景下，生成速度平均超过50 TPS，KV Cache命中率超过90%，稳定性达到99.9%，并提供生产级低首Token时延（TTFT）保障。
根据协议，双方还将共同推出Token Pod软硬一体化Token生产解决方案，将MTT S5000、MUSA软件平台与趋境科技国产PD异构推理系统、ATaaS平台及运营服务结合，覆盖基础设施、推理优化、平台管理和持续运营。
截至2026年8月，趋境科技已完成日均万亿级高品质AI Token生产项目共建，并在多个项目中形成日均千亿级高品质AI Token生产能力。未来双方计划进一步拓展互联网企业、基础模型公司及运营商等应用场景。(定西)
