「推理性能」共找到 3441 篇相关文章
ICLR 2025新成果：文档检索“降本增效”，从此“开挂”
传统文档检索系统处理视觉信息丰富的文档存在瓶颈，ColPali方法直接从文档页面图像生成多向量嵌入，简化流程、提高性能、降低延迟。ColQwen - Omni在其架构上扩展到图文+音频多模态匹配。
刚刚！微软 | 发布全新一代自研AI芯片Maia 200
微软提前发布自研AI芯片Maia 200，基于台积电3纳米工艺，性能超竞品，是其异构AI基础设施重要部分，将支持多个大模型，已部署在美中数据中心，还开放Maia SDK预览。
计算机安全第一人宋晓冬，加入Meta
本周四，UC Berkeley 计算机教授宋晓冬宣布加入 Meta 超级智能实验室，任 AI 研究副总裁。她是计算机安全领域顶尖学者，其团队也一同加入。此外，AI 推理大牛 Denny Zhou 数月前也已加入 Meta。
[Triton编程][基础]vLLM Triton Merge Attention States Kernel详解
文章详细介绍vLLM中Triton Merge Attention States Kernel的实现，与PyTorch原生实现对比，该Triton kernel最高可实现3 - 5倍以上算子加速。内容涵盖Merge Attention States概念、PyTorch实现、Triton基础算子、分析及性能评估等。
一场文心大模型的「AI马拉松」
2025 年模型能力至关重要，百度在基础模型研发持续投入。百度 AI Day 上，吴甜解读文心新模型技术，文心 X1 Turbo 推理强、成本低。百度技术体系完备，未来看好多模态与智能体，降成本促应用生态发展。
微软 Agentic 组织：下一代 AI 系统
微软研究院提出全新推理范式AsyncThink，让LLM从单打独斗进化成带团队的项目经理。它把并发控制转为纯文本协议，经两阶段训练，实验中全方位碾压传统方法，还具跨领域泛化能力。
刚刚，全球首个超高帧世界模型诞生！英伟达含量0，狂飙50帧
魔芯科技联合浙大潘云鹤院士团队发布全球首个Flash World Model——MoWorld，全栈基于国产NPU，实现50FPS实时推理，推理成本降70%，为世界模型产业化带来新思路。
作业帮StarRocks替换Presto落地实践
本文分享作业帮 2025 年 StarRocks 替换 Presto 的实践，涵盖历史背景、技术方案、双跑方案、结果分析，还提及核心问题及解决办法，项目上线后在资源、架构、性能上均有收益，也有未来规划。
OpenAI发布权威AI科研基准，扯下AI遮羞布：奥赛金牌≠一流科学家！
OpenAI在2025年12月16日发布FrontierScience基准，用超700道题从物理、化学、生物维度考验AI科研推理能力。评测分竞赛和研究赛道，初测显示GPT - 5.2领先，但前沿模型仍有诸多问题。
数学奥赛高分摘金，位列大模型榜首，『书生』科学多模态大模型Intern-S1能力再升级 | 通专融合新进展
2025年CMO决赛首设AI测试，书生科学多模态大模型Intern-S1以102分位列大模型得分榜首，远超金牌线和国家集训队入选线。其推理能力提升得益于多项创新，未来将拓展至多领域科研。