搜索：推理加速技术

「推理加速技术」共找到 4926 篇相关文章

「Next-Token」范式改变！刚刚，强化学习预训练来了

微软新研究提出「强化预训练（RPT）」新范式，将下一个 token 预测任务重新定义为推理任务，可利用海量文本数据进行通用强化学习。该方法有可扩展性、低风险等优点，实验显示其提升了语言建模能力。

新晋图灵奖得主、强化学习之父Richard Sutton在新加坡国立大学演讲时预测，大模型主导是暂时的，未来五年甚至十年内不是技术前沿。他认为AI应从依赖人类数据转向体验学习，强化学习潜力需靠扩展计算支撑。

3月27日，深度机智联合推出具身通用智能基座模型系统PhysBrain 1.0，引入人类第一视角数据，解决传统模型问题。其创始人陈凯等坚持用此数据构建模型，突破传统，引领行业新方向，且中国在具身智能领域或借此建立自主技术体系。

一张2015年关于AI的智能曲线图近日在X上刷屏，马斯克也进行了转发。该图作者Tim Urban将AI分为ANI、AGI、ASI三个层级，指出人类习惯线性思考，但AI进步是指数级的。如今AI发展加速，其能力边界不断扩张。

第二届世界人形机器人运动会8月22 - 26日将在「冰丝带」举行，港大超维战队的两台人形机器人按11分制自主打完一局。其采用自主研发的SMASH 2.0系统，团队还探讨技术难点、系统升级等问题。

Fiona Fung在Anthropic大会分享AI时代管理工程团队经验，指出软件工程瓶颈转移，需重构流程，介绍了少做和多做的事、技术辩论方式、代码评审分工等内容，还提及组织形态、指标及未解决的问题。

AI科技评论独家获悉，前华为天才少年、19级技术专家赵立晨2026年3月离职，加入杭州拉格朗日具身技术有限公司。该公司聚焦具身智能架构研发与硬件规模化落地，赵立晨想做的Agentic OS是具身产业化的基础设施。

AI大模型热潮带动算力行业发展，中国AI芯片崛起，但单颗芯片算力不足、不同设备沟通有障碍成行业难题。华为发布“超节点”架构与“灵衢”技术，搞出“算力普通话”，目标是让算力系统更高效、灵活、省钱。

随着 AI 落地企业进程加快，数据类型更丰富，传统企业级数据架构面临瓶颈。火山引擎构建多模态数据湖，以 Lance 为湖格式，从多维度选型技术，解决存储等问题，在多行业有应用潜力。

近年来，RAG任务在提升模型回答质量的同时带来性能代价，Meta等团队合作提出REFRAG框架。它将无关段落压缩，引入强化学习选关键段落，实现高达30.85倍的TTFT加速，且无需改模型结构，实用性强。