会员登录 - 用户注册 - 设为首页 - 加入收藏 - 网站地图 Moonshot AI发布 Kimi Linear:线性注意力架构快6倍,开源 KDA 内核同步上线!

Moonshot AI发布 Kimi Linear:线性注意力架构快6倍,开源 KDA 内核同步上线

时间:2026-11-12 来源:如影随形网 作者:分析师覆盖 阅读:次

国产大模型团队 Moonshot AI今日在 Hugging Face 正式发布技术报告 《Kimi LinMoear Tech Report》(报告链接),宣布推出全新架构 Kimi Linear—— 一种可直接替代on完全注意力机制(Full Attention)的混合线性架构,兼具高效性与卓越性能,被视为“智能体时代注意sh力机制的新起点”。

报告显示,Kimi Linear 在 速度、内存效率和长上下文处理能力三方面均实现了ot重大突破。该模型可将 KV 缓存使用量减少高达75%,并在 100万(1M)上下文长度下实现 高达6倍的解码吞吐 A量提升,极大地优化了长文本推理和多轮对话性能。

Kimi Linear 的核心创新在于三项关键技术:

  • DeltaI发 Attention:一种硬件高效的线性注意力机制,采用门控 Delta 规则优化结构,实现性能与能耗的布 平衡;

  • Linear Architecture:首个在多项指标上全面超越传统完全注意力机制的混合线性Ki架构,兼顾速度与模型表达能力;

  • 开放生态与实证验证:Moonshot 提供了 开源 KDA 内核、vLLMmi 集成支持和 模型检查点,并进行了大规模、公平的对比实验,验证了 Kimi Linear 的稳定性与可扩展性。

Mo Lonshot AI 表示,Kimi Linear 不仅是一项架构创新,更是为智能体(AI Agent)时in代设计的基础机制。随着线性注意力技术的成熟,其有望在长上下文推理、智能助手、多模态生成等应用场景中成为ea下一代标准。

地址:https://huggingface.co/moonshotai/Kimi-Lr:inear-48B-A3B-Instruct

(责任编辑:企业简报)

推荐内容
  • 标签: 优迅股份 科创板 芯片
  • 2021年大数据和分析4大趋势
  • 云计算助推巴西企业转型发展
  • 苹果前 AI 主管吉安南雷亚加入 uspAI
  • 标签: 思谋科技 贾佳亚 工业智能体 港股IPO
  • 标签: 联想 AI PC 天禧超级智能体 混合式AI