「并行推理加速」共找到 2687 篇相关文章
SmolVLA: 让机器人更懂 “看听说做” 的轻量化解决方案
文章介绍轻量级开源视觉 - 语言 - 动作 (VLA) 模型 SmolVLA，专为机器人领域设计，可在消费级硬件运行。它用公开数据集训练，架构经优化，还引入异步推理堆栈，性能超部分大模型，降低研究门槛。
模型都一样了，AI Agent 真正的差距在 Harness 层！
如今各平台接入模型趋同，AI Agent 差距体现在 Harness 层。以天工超级智能体为例，其有约束先行、任务并行编排等亮点，还提供 Skill 粒度新思路，且云端运行降低使用门槛。
百度想明白了：旧供给到达极限了
当下企业应用AI时，Token成本高、推理效率低问题凸显。百度Create大会释放旧供给达极限信号，推出新全栈AI云，含Agent Infra和AI Infra两层架构，多个场景应用初显成效。
黄仁勋做客美国第一播客：每天都在担心英伟达倒闭
英伟达CEO黄仁勋做客美国第一播客Joe Rogan，畅谈AI底层逻辑与技术演进，还分享英伟达创业历程。他指出AI已从检索转向推理，数据中心成“AI工厂”，并坦言每天担心公司倒闭。
陈丹琦新作：大模型强化学习的第三条路，8B小模型超越GPT-4o
陈丹琦团队提出结合RLHF和RLVR优点的RLMT方法，支持在基础模型上直接使用，节省后训练成本。它让模型生成CoT，用奖励模型评价输出，使小模型超越大模型，推理更像人类。
Transformer终结者！谷歌DeepMind全新MoR架构问世，新一代魔王来了
KAIST、谷歌DeepMind等机构发布的MoR架构，推理速度翻倍、内存减半，重塑LLM性能边界，碾压传统Transformer。它融合参数共享与按需计算，有路由和KV缓存策略，实验显示其性能优越、可扩展性好。
陶哲轩转发！DeepMind开源「AI数学证明标准习题集」
DeepMind开源形式化数学猜想库，收录经典数学猜想，还提供代码函数方便形式化表述。此库可作测试基准提升AI数学推理能力，是AI+ATP范式关键前置步骤，团队邀更多人参与丰富内容。
Claude和GPT思维链竟被两步蒸馏！116页论文曝光API致命漏洞
2026年AI蒸馏成悬案，一篇116页论文砸穿巨头「黑盒」。研究人员用低价小模型恢复Claude、GPT和Gemini原始推理，还发现API漏洞存在跨会话、用户和模型互通情况，收集公开轨迹泄露诸多敏感信息。
YC掌门人60天写了60万行代码，一个人干20人的活，他把方法论全开源了
Y Combinator总裁Garry Tan 60天写超60万行代码，将方法论整合成开源工具gstack。它把Claude Code变成虚拟工程团队，含15个角色和6个增强工具，可并行运行多个Sprint，还具备多种实用能力。
突发！腾讯AI Lab副主任、首席科学家俞栋传出离职
2025年AI竞争白热化，多方消息显示腾讯AI Lab首席科学家俞栋或已启动离职流程。他在腾讯任职8年，推动数百篇论文与百项专利落地。其离开折射AI顶级人才加速流动，腾讯AI将进入新阶段。