「推理成本」共找到 3269 篇相关文章
苹果在WWDC提到的本地模型，这家公司把它提速了220倍
苹果在WWDC开放本地语言模型API，让iPhone等有了“AI大脑”，但开发者面临模型运行慢问题。国产团队面壁智能发布MiniCPM 4.0，端侧处理长文本提速惊人，从多层面创新实现，还补上推理框架缺口。
SGLang Team：在 96 个 H100 GPU 上部署具有 PD 分解和大规模专家并行性的 DeepSeek
本文介绍 SGLang 团队在 96 个 H100 GPU 上部署 DeepSeek 的方法。利用 PD 分解和大规模专家并行性，SGLang 实现高吞吐量，成本低。博客探讨并行设计、优化方法，所有组件开源，也指出了当前局限与未来方向。
114B参数、6B激活，Sand.ai刚刚把全球首个千亿MoE视频生成模型开源了
Sand.ai团队开源全球首个千亿MoE视频生成模型MAGI - 2 - preview，总参数114B，单次前向激活约6B，成本低效果好。该模型解决了视频生成Scaling难题，架构、系统设计出色，开源将改变行业规则。
DeepMind：Transformer存在拓扑缺陷，思维链治标不治本
谷歌DeepMind论文指出，Transformer架构不擅长追踪状态，思维链只是给结构性缺陷打补丁，成本高。论文主张用循环架构替代或补充纯前馈结构，还提出多个研究方向，认为下一代模型需构建‘流动的现实表示’。
GPT-5.5 Instant上线：幻觉减少52.5%，告别废话
OpenAI完成ChatGPT默认模型的静默升级，GPT-5.5 Instant全面替换GPT-5.3 Instant。它在数学推理、减少幻觉、精简回答、记忆功能等方面有显著改进，还采用灰度推送策略。开发者认为其定位是日常场景够用顺手。
龙虾开始自己拍电影了：我在 LibTV 里看着它从一句话做到成片
作者试用 AI 视频产品 LibTV，仅给 Claude Code 发一句话“「黑神话哪吒」视频制作”，约 10 分钟就得到视频初稿。LibTV 能搭好 0 到 60 的地基，留下可继续创作的画布，成本低还能多尝试，最后仍需人把关。
JCP | 中科院力学所孙振旭研究员团队：关于物理信息神经网络的预处理：如何在流体力学中更好地利用数据
物理信息神经网络（PINNs）为求解微分方程正反问题提供灵活框架，但数据预处理领域待探索。本文提出数据预处理方法，通过对数据和方程归一化，在四个湍流案例中提升PINNs流场重建预测准确度，不增计算成本。
被“网暴”两个月后，Yann LeCun 携最新世界模型杀回！小扎千万美元激励抢人，Meta AI 内部权利之争开始
Meta推出新的“世界模型”V-JEPA 2，可提升AI物理推理能力。它是V-JEPA扩展版，在百万小时视频上训练，能让机器人完成任务。Meta还发布三项基准测试，且已开源。LeCun力挺，小扎为追进度亲自招人才。
The Batch: 937 ｜OpenAI 退出视频生成领域
OpenAI计划关闭视频生成器Sora，将资源重新分配到更有盈利性的投资中。Sora虽能生成高质量视频，但生成耗时久、计算成本高，日亏损约100万美元，其与迪士尼的合作也将结束。
让离线强化学习从「局部描摹」变「全局布局」丨ICLR'26
现有生成式离线强化学习方法在复杂连续任务长程规划中易陷入局部合理但全局偏航的窘境。厦门大学和香港科技大学提出MAGE算法，采用自顶向下策略，实验显示其多任务表现出色、推理效率高。