北京
IT时代网10月17日消息，后摩智能在生态合作伙伴大会上发布了面向Agent时代的技术与产品战略，联合创始人、产品副总裁信晓旭公布了以2D CIM、3D CIM双路加码存算一体的架构布局。后摩智能2020年成立，根植SRAM-CIM架构。传统冯·诺依曼架构中计算与存储相互分离，模型参数需要在处理器与存储器之间频繁搬运，数据规模越大，延迟和能耗越突出。SRAM-CIM把部分计算放到数据所在位置，减少数据搬运带来的开销，从而提升计算效率与能效。在这条技术根基上，后摩结合不同的存储配置与封装方式形成两条路径。2D CIM将SRAM-CIM计算架构与2D封装结合，面向高算力、大存储容量场景；3D CIM将SRAM-CIM与先进封装结合，面向高算力、高访存带宽需求。当逻辑计算层采用SRAM-CIM架构时，传统3D堆叠面临的散热压力也能得到改善。产品层面分为两个系列。已量产的M50拥有160TOPS（INT8）算力、150GB/s内存带宽，典型功耗10W；A系列重点应对高访存带宽与高算力要求高的负载，适合Dense模型等带宽密集型场景。两条路径指向的目标是持续提升端边AI的每瓦Token与每美元Token表现。信晓旭提到，以Qwen系列模型为例，在达到相近能力的前提下，Dense模型所需规模在17个月内压缩至原来的约八分之一，MoE模型在约6个月内压缩至约六分之一。2024年端边芯片主要运行7B级模型，到2026年能够承载的模型规模已提升至120B级。
注：本文配图由AI生成。本文中包含AI辅助创作的内容。
编辑：林一舟
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
