17岁高中生参与Kimi出圈论文

腾讯技术工程2026-03-24

AI 摘要

Kimi论文‘ATTENTION RESIDUALS’获马斯克等大佬称赞，共同一作是17岁高中生陈广宇。论文提出‘注意力残差’机制，解决标准残差问题，分全、分块注意力残差，权衡开销与效果，提升模型理解复杂上下文能力。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

软件优化让PCIe显卡吞吐翻近7倍

当前大模型算力需求攀升，高端GPU供给紧成本高，大量PCIe长尾GPU算力因框架适配不足被禁锢。是石科技自研Meta-Infer推理引擎，通过纯软件优化挖掘硬件潜力，让DeepSeek推理吞吐提升近7倍，方法也适配国产GPU。

本文结合EchoRL、ReflectRL两项最新研究，重新解读推理轨迹的训练价值，解决全答对无强化信号、错题全丢弃的训练痛点，梳理方法设计、实验结果与适用边界，为大模型推理训练提供新参考。

本文整理了2026云栖大会AI Native研发实践论坛的嘉宾分享，围绕代码生成提速后软件交付的新瓶颈问题，展示了阿里各业务线与学界的最新实践，探讨AI Native研发新方向。

本文为数势科技创始人黎科峰记录上海闭门行业圆桌内容，不同领域从业者一致认为，大模型已非企业AI胜负手，数据与语义层才是核心瓶颈，共识形成后行业进入深度竞争阶段。