「推理算力」共找到 2704 篇相关文章
马斯克狂烧14万亿，5000万H100算力五年上线！终极爆冲数十亿
马斯克宣布5年内实现5000万张H100的算力，成本超2万亿美元。他已有Colossus超算集群，Grok系列模型也展现强大实力。目前Colossus 2在分批落地，供电采取多元化措施。
国内首次！8.9毫秒推理速度破纪录，1元打穿百万token
在2025人工智能计算大会上，浪潮信息发布元脑SD200和元脑HC1000两款AI服务器。前者让DeepSeek R1的Token生成速度达8.9毫秒，后者将推理成本降至1元/百万Token，解决了AI智能体速度与成本难题。
扩散LLM推理新范式：打破生成长度限制，实现动态自适应调节
随着扩散大语言模型成为热门，但其推理时存在预设固定长度的限制。香港中文大学 MMLab 等提出 DAEDAL，赋予模型根据问题自主调整回答长度的能力，在性能和计算效率上有提升。
模型「漂移」新范式，何恺明新作让生成模型无须迭代推理
训练生成模型复杂，传统扩散模型训练费时费力。何恺明团队提出「漂移模型」新范式，不依赖微分方程，支持一步推理，实验验证其在多领域性能佳，有望解决生成式AI质量与效率权衡问题。
美国拟封堵中国AI海外算力通道，东南亚数据中心或受审查
据报道，特朗普政府起草新出口管制规则，拟限制中国企业远程调用第三国先进AI服务器。规则或与Kimi K3模型有关，美国试图将硬件控制延伸到算力使用权，但面临法律界定、执行等难题。
今夜无显卡！老黄引爆Rubin时代，6颗芯狂飙5倍算力
CES 2026上，英伟达黄仁勋发布Vera Rubin超算架构，推理性能比Blackwell提升5倍，训练性能提升3.5倍，成本降10倍，已投产，下半年商用。还展示自动驾驶模型等，且无新显卡发布。
「有望成为Transformer杀手」，谷歌DeepMind新架构MoR实现两倍推理速度
谷歌DeepMind发布新架构MoR，有望成Transformer杀手。它统一实现参数共享、自适应计算，兼顾性能与效率。实验显示其推理吞吐量提升，降低计算需求，但能否取代Transformer存疑。
AI读不懂文档结构？计算所重构Agentic RAG文档推理能力
大语言模型工具使用能力推动RAG进化，现有Agentic Search框架有“结构盲”问题。中科院计算所团队提出DeepRead，将文档结构转化为坐标系统，用两大工具协同实现类人推理，在多数据集验证效果显著。
DeepSeek发布最新论文，5大杀手锏让大模型训练、推理暴涨
全球著名开源大模型平台DeepSeek在huggingface发布超强开源模型V3的论文，从硬件架构和模型设计双视角探讨高效训练和推理，提出DeepSeek - MoE、多头潜在注意力等创新技术，解决内存、计算效率等难题。
DeepMind一篇论文终结十年之争！GPT-5推理靠世界模型
GPT-5上线后推理能力惊人。最新研究揭示通用智能体聪明的原因是长出“世界模型”，终结了学界十年关于AI靠模仿还是思考的争论，实验也验证了世界模型对智能体的必要性。