「推理效率」共找到 3022 篇相关文章
AI 的宿命数字
AI在1到50间随机选数时，常选27，还编造推理过程，会根据时间调整算法保证结果为27，也有选42等情况。这或源于人类文化偏见，AI是人类集体记忆镜子，难摆脱宿命。
拒绝传统 Router“瞎指挥”，多智能体如何实现智能任务分配？
企业级多智能体系统瓶颈常是负责分发任务的传统 Router 太“傻”，搞不定跨域、解不了冲突、跟不上变化。腾讯云开源 TCAR 智能路由模型，它先推理再选 Agent 集合，经多数据集评测表现出色，还提供完整开源范式。
华为盘古首次露出，昇腾原生72B MoE架构，SuperCLUE千亿内模型并列国内第一
当前传统 MoE 有专家激活不均衡问题，华为盘古团队提出 MoGE 解决。基于此架构的盘古 Pro MoE 大模型在昇腾集群高效训练，推理性能强，在 SuperCLUE 榜单千亿内模型并列国内第一，赋能业务落地。
缓存不该困在一台服务器里
本文分析大模型推理阶段KV缓存的行业痛点，指出传统单机缓存孤立无法跨节点复用的问题，介绍焱融科技的分层共享缓存方案，公开了方案的实测性能数据，展现AI存储的新发展方向。
清华系团队出手！一张 4090 即可「爆改」，1.3B小钢炮震撼开源
5月11日，清华系团队面壁智能联合多方开源端侧多模态大模型MiniCPM-V 4.6。它参数仅1.3B，性能超阿里、谷歌等同级对手，效率翻倍，还实现两项架构创新，适配主流开源生态，降低开发门槛。
ICML 2026 | 拒绝盲目猜token，阿里x浙大将投机解码带入弹性预算时代
随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。
编程智能体的隐藏bug，被上交IPADS团队用数学逻辑给揪出来了
上海交通大学 IPADS 研究团队打造 FM - Agent，实现大规模系统全自动正确性推理。它能从顶尖编程智能体生成的大规模系统中找出隐藏 bug，还提出新规约生成方法，在绝对严谨与工程可用间找到平衡。
Meta 143亿挖角后的首个作品：Alexandr Wang 推出闭源模型，杨立坤点赞
沉寂9个月后，Alexandr Wang带队的Meta发布新一代模型Muse Spark。它是原生多模态推理模型，性能媲美Gemini Pro和GPT 5.4，在多领域有应用潜力。不过闭源引争议，且在部分领域有短板。
黄仁勋，开启智元（Token）时代
全球大模型进入千万亿智元（Token）时代，OpenRouter年化智元用量突破一千万亿，对应推理支出约10亿美元。黄仁勋在GTC大会提出「智元（Token）经济学」，智元成AI时代核心经济标尺，重塑产业规则。
长电科技汽车电子公司投产，剑指车规与机器人芯片封测新高地！
3月10日，长电科技汽车电子（上海）有限公司启用投产，这是临港新片区集成电路与智能汽车产业融合成果。该公司围绕车规核心应用构建制造能力，还兼顾机器人芯片封测，引入智能与AI技术提升效率。