「推理延迟」共找到 2243 篇相关文章
中大 × MBZUAI重磅开源！A₁：全透明高效 VLA 模型，机器人实时控制成本直降 76% 丨CVPR 2026 Findings
开放世界机器人操作被大模型算力成本和推理延迟难题困住，中大与MBZUAI团队推出全开源的A₁模型，其自适应推理方案降低推理延迟和骨干计算量，性能超主流基线，打破‘高性能=高成本’魔咒。
仅保留35% Token，性能反超原模型！快手可灵等用视觉信息引导音频压缩，推理时间直降42%
Omni - LLM计算浪费严重，快手可灵等团队提出OmniSIFT框架。它利用音视频非对称依赖关系，通过时空联合剪枝压缩视频、视觉引导筛选音频Token，大幅减少Token数量，提升性能和推理效率。
马斯克xAI自研推理芯片曝光！代号X1、台积电3纳米工艺、明年就量产
马斯克的xAI被曝自研推理芯片X1，用台积电3纳米工艺，2026年三季度量产。此前xAI就为自研芯片招兵买马，还将在西雅图设办事处。此外，特斯拉也在推进自研推理芯片。
用更一致的轨迹、更少的解码步数「驯服」掩码扩散语言模型，扩散语言模型的推理性能和效率大幅提升
扩散大语言模型发展迅猛，或成下一代大语言模型基础范式有力竞争者。复旦大学等团队发布论文，提出高效解码策略与强化学习训练组合，解决MDLM解码和训练问题，提升推理性能与效率。
AST | 西交大牛笑天、陈刚等：基于多尺度网格融合技术的复杂三维构型流场时空智能推理方法
文章针对复杂三维外形的强非线性非定常流场推理难题，提出MSGF数据预处理方法与DTECAU - 3D模型联合框架。MSGF解决数据提取难题，DTECAU - 3D解决传统U - net问题，经测试验证该框架效果良好。
完成过亿融资，复旦博士要为不同端侧场景定制专属推理芯片丨对话淬思科技潘鸿洋
本文是对淬思科技创始人潘鸿洋的专访，潘鸿洋为复旦博士，淬思科技刚完成新一轮亿元融资，瞄准端侧AI推理成熟阶段的碎片化需求，主打定制专属推理芯片，采用AI原生设计流程压缩开发成本与周期，计划推进首颗商用芯片流片。
ICLR 2026 Oral｜大模型总爱「想太多」？ DECS从源头消除冗余思考，实现推理token减半且性能不降反升
以DeepSeek - R1等为代表的大型推理模型存在过度思考问题，造成大量冗余计算。复旦大学等团队在ICLR 2026 Oral论文中揭示‘长度惩罚’局限性，提出DECS框架，在多基准测试中实现推理长度减半且性能提升。
NeurIPS 2025 | 中科大、港中深、通义千问联合发布CoRT：仅30个样本教会大模型高效推理，token消耗降低50%
大型推理模型在精确数学计算上存在问题，如认知冲突、行为低效、数据稀缺。中科大、港中深、通义千问联合推出CoRT框架，用创新数据合成与多阶段训练，提升模型推理能力和效率，成果已开源。
为什么 DeepSeek 大规模部署很便宜，本地很贵
文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡，受批处理大小影响。还分析了不同模型需大批次的原因，如专家混合模型、大型管道模型等。
谷歌提出破局Self-Consistency计算瓶颈！LLM推理效率革命，推理加速不牺牲精度
Google Research等团队提出CISC，通过给推理路径赋予置信度权重，少量样本即可超越传统自洽性效果，平均减少40%计算成本，还提出WQD指标揭示模型自评估能力本质。