「低延迟推理」共找到 2941 篇相关文章
斯坦福、英伟达和伯克利提出具身Test-Time Scaling Law
斯坦福、英伟达和伯克利团队提出具身Test - Time Scaling Law。研究发现推理时增加计算量可提升VLA模型性能，揭示动作误差与采样数量幂律关系，还探讨关键问题，给出方法，实验证明结合RoboMonkey能显著提升性能。
RLPT：腾讯混元在预训练数据上实现自主强化学习
腾讯混元团队发布RLPT，是在预训练数据上应用强化学习的方法，可突破大语言模型扩展瓶颈。它能让模型自主学习推理能力，无需人工标注，在Qwen3 - 4B - Base模型实验中性能显著提升。
开放全栈！超越π0，具身智能基础大模型迎来真·开源，开发者狂喜
继π0后，具身智能基座模型WALL - OSS正式开源，多项指标超越π0。它是通用多模态具身模型，具良好推理和泛化能力。背后自变量机器人刚完成近10亿A + 轮融资，开源将降低具身智能门槛。
想知道你的LLM API被过度收费了吗？隐藏的Tokens终于可以被审计了
马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。
GPT之父把AI扔回1930年：没见过一行代码，却「发明」了Python！
GPT之父Alec Radford带队发布总参数130亿的大模型「talkie」，其训练数据冻结在1930年，没学过编程却能写Python代码，证明LLM可用旧知识推理。团队后续还有升级计划。
面壁MiniCPM-SALA模型，稀疏-线性注意力，单卡吞吐百万上下文
面壁智能团队提出SALA，基于此训练的MiniCPM-SALA模型，在单张A6000显卡实现百万token超长上下文推理，训练成本降约75%。它结合稀疏与线性注意力，采用混合架构，继承权重降低成本，在长文本处理上优势明显。
DeepSeek深夜炸场，开源了一个新项目&论文，V4打前站？
凌晨，DeepSeek开源新项目Engram并公开论文。Engram用可扩展的O(1) N - gram记忆替Transformer早期层节省算力，在多方面实验表现出色，如推理任务增幅大于知识任务，还分析了其机理和系统效率。
OpenAI惊人自曝：GPT-5真「降智」了！但重现「神之一手」，剑指代码王座
GPT-5发布后引发热议，其IQ测试成绩不佳遭吐槽，但实际是「路由」问题。解锁神级GPT-5关键在prompt，医学家借它重现「神之一手」。它编程能力强，挑战Anthropic，还推动AI向「智能体式推理」发展。
实测字节扣子空间：AI 播客比真人丝滑，Agent 能打 80% 的工
本文对字节跳动旗下 Agent「扣子空间」进行实测。它上线新玩法一键生成播客，相比通用 Agent 能力更丰富。此外，它还具备搜图、深度分析、写代码、开发网站等功能，兼具通用能力与低代码开发特点。
实测 MiniMax H3：开源“斩杀线”蔓延到视频模型圈
本文实测 MiniMax H3 视频模型，它 8 月 3 日开源，成本低至 0.5 元/秒，在编辑榜成绩佳。它定位全模态生成，能多素材输入。实测效果好，价格约为 Seedance 2.5 的三分之一，还支持原生剪辑，适配多芯片与工具。