「推理硬件」共找到 2478 篇相关文章
拒绝传统 Router“瞎指挥”，多智能体如何实现智能任务分配？
企业级多智能体系统瓶颈常是负责分发任务的传统 Router 太“傻”，搞不定跨域、解不了冲突、跟不上变化。腾讯云开源 TCAR 智能路由模型，它先推理再选 Agent 集合，经多数据集评测表现出色，还提供完整开源范式。
社区供稿丨Reachy Mini 亮相 CES 黄仁勋主题演讲：一场开源共创的科技旅程
CES 2026 的 NVIDIA 主题演讲中，黄仁勋带来开源桌面机器人 Reachy Mini，展示了将模型与物理世界连接打造智能伙伴。它运行在本地，依托 DGX Spark 算力，能完成多种任务，其开发是开源硬件与敏捷制造的胜利。
英伟达、港大等发布创新KV缓存，实现扩散模型无训练加速
多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。
华为盘古首次露出，昇腾原生72B MoE架构，SuperCLUE千亿内模型并列国内第一
当前传统 MoE 有专家激活不均衡问题，华为盘古团队提出 MoGE 解决。基于此架构的盘古 Pro MoE 大模型在昇腾集群高效训练，推理性能强，在 SuperCLUE 榜单千亿内模型并列国内第一，赋能业务落地。
刚刚，Qwen3.8-Flash震撼发布，我们看到了Qwen4的骨架
8月大模型厂商多上调API价格或收缩免费额度，因推理需求增长跑赢算力供给。阿里发布Qwen3.8-Flash并开源，成绩亮眼且价格低。它是Qwen4架构预演，有四大技术创新，提升了模型效率。
全网疯抢体脂秤背后，阿福找到了健康 AI 的正确打开方式
6月25日，蚂蚁阿福发起‘科学减重1亿斤’行动，1分钱发放AI体脂秤引疯抢。它支持测18项身体数据，还能接入多种健康硬件。阿福用医疗大模型提供个性化方案，走出全民普惠的AI健康管理道路。
ICML 2026 | 拒绝盲目猜token，阿里x浙大将投机解码带入弹性预算时代
随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。
编程智能体的隐藏bug，被上交IPADS团队用数学逻辑给揪出来了
上海交通大学 IPADS 研究团队打造 FM - Agent，实现大规模系统全自动正确性推理。它能从顶尖编程智能体生成的大规模系统中找出隐藏 bug，还提出新规约生成方法，在绝对严谨与工程可用间找到平衡。
Meta 143亿挖角后的首个作品：Alexandr Wang 推出闭源模型，杨立坤点赞
沉寂9个月后，Alexandr Wang带队的Meta发布新一代模型Muse Spark。它是原生多模态推理模型，性能媲美Gemini Pro和GPT 5.4，在多领域有应用潜力。不过闭源引争议，且在部分领域有短板。
在中国 AI 生态圈摸底了两周，我学到了什么【译】
作者 José Maria Macedo 在中国考察 AI 生态后，看法变得复杂。他看好中国硬件，但对软件更悲观；指出中国创始人特质与西方不同，本土 VC 加剧此现象；还提到市场泡沫、全球市场布局等情况。