广东
分享至
7 月 27 日，月之暗面发文正式发布 Kimi K3 的模型权重、技术报告，并开源支撑 Kimi K3 模型训练的关键 Infra 技术 MoonEP、FlashKDA 和 AgentEnv。
Kimi K3 是一个拥有 2.8 万亿参数的混合专家模型，具备原生视觉理解能力，并支持 100 万 token 的上下文窗口，参数规模是 Kimi K2.5 的 3 倍左右，并通过 Kimi Delta Attention、Attention Residuals 以及 MoonEP 等一系列技术创新，规模化效率提升 2.5 倍。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
