「AI推理系统」共找到 11807 篇相关文章
梳理SGLang中DP Attention及其Padding问题
作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程，指出padding分max和sum模式，旧版sum padding浪费计算、影响cuda graph使用，v0.4.10后有优化，max padding仍待完善。
上海又要冲出一个百亿芯片IPO
近日，瀚博半导体与中信证券签署上市辅导协议，冲刺A股科创板。其由前AMD核心技术领袖钱军、张磊创立，选差异化技术路径，已历6轮融资。当前国产GPU IPO潮起，瀚博有望借此抢占市场。
实测GPT-5：写作坠入谷底，编程一骑绝尘。
GPT-5发布，它是统一系统，含多种模型。性能上减少事实幻觉、应对谄媚有进展，跑分强且节能，但无新功能特性。写作不如GPT 4.5，编程表现出色，发布后OpenAI与Google预测交叉跳水。
长上下文不再难：KV Cache 全生命周期优化实战
长上下文大语言模型发展带来计算和内存挑战，现有基准测试多忽视 KV 缓存完整生命周期。微软姜慧强在 AICon2025 分享 SCBench 工具，梳理推理优化方法，介绍 MInference 等，还提出 Tri - shape 方法等成果。
Discrete Tokenization：多模态大模型的关键基石，首个系统化综述发布
近年来，人们关注将LLM能力扩展至非文本模态，Discrete Tokenization成关键方案。但现有研究缺系统总结，香港科技大学等团队发布首个相关系统化综述，梳理技术脉络、方法及挑战，给出未来研究方向。
别等GPT-5了！普林斯顿万字综述揭秘：我们要做自进化Agents！
普林斯顿大学联合多顶尖机构发表“自进化智能体”综述，描绘AI从静态工具演变成自我学习迭代智能体的过程，拆解其进化核心维度，介绍触发进化机制的时机、修炼方式及应用方向。
科学家首次实现修正线粒体DNA突变，治愈不治之症打开新大门
荷兰科学家在《PLOS Biology》发文，称用DdCBE成功纠正线粒体DNA突变。研究在原代成人细胞中验证其能恢复线粒体功能，还探索了modRNA和LNPs递送系统，虽距临床尚有数年，但意义重大。
谷歌深夜放出 IMO 金牌模型，多项测试力压 Grok 4、OpenAI o3！网友评论两极分化
昨夜谷歌向 Google AI Ultra 订阅用户推 Deep Think 功能，Gemini 2.5 Deep Think 模型获 IMO 金牌。它是多智能体模型，通过并行思维输出答案，在多领域及测试中表现佳，但网友评价不一。
突发！Qwen更新模型，全面超越kimi k2，强的离谱，主打Agent
Qwen小更新非推理模型性能强劲，各项指标超kimi k2，与Claude opus 4持平，Agent能力亮眼。Qwen团队告别混合思维模式，新模型上线，独立训练两模型，新版本多方面提升，团队称还有大招。
OpenAI拿IMO金牌是火了，但惹怒大批人：抢发炒作，抢学生风头
OpenAI宣布其模型在IMO竞赛得分35/42获金牌，十分高调。但IMO曾要求AI公司赛后一周公布结果，避免抢学生风头。谷歌很低调，OpenAI却提前公布，引发不满。此外，其金牌成色也遭质疑。