「推理效率」共找到 3031 篇相关文章
马斯克周末血裁xAI 500人
上周四晚，xAI内部突袭测试，淘汰率达33%，超500人被裁。此前其数据标注团队规模持续增长，多为直聘。此次战略转变，将扩专业标注员规模，或押注垂直行业AI。
具身VLA后训练：TeleAI提出潜空间引导的VLA跨本体泛化方法
现有VLA基座模型能力不足，跨本体适配存在挑战。中国电信人工智能研究院具身智能团队提出“对齐 - 引导 - 泛化”（ATE）框架，实现从调架构到调分布的范式转移，适配主流VLA模型，减少数据需求。
吴恩达来信：AI 技能正在重新定义优秀开发者的标准
吴恩达指出市场对懂 AI 的开发者需求大，应届生失业率上升。面试看重利用 AI 辅助开发等能力，具备这些技能的人效率远超传统开发者，AI 工程正掀起变革，基础与 AI 知识结合造就高效开发者。
揭秘腾讯内部科研组织ARC Lab：找最好的人才，做最难的事情
文章揭秘腾讯ARC Lab，它在行业低谷时创立，坚持找最好人才、做最难之事。介绍运营机制，如小团队、技术影响力漏斗、绩效体系等，还阐述其在学术、行业、业务、社会和人才方面的影响力。
通用LLM压缩算法，居然藏视频编码里！2.5bit实现4bit性能，硬件无缝支持
LLM.265研究发现，视频编码器是高效的大模型张量编码器，现成视频编解码硬件压缩AI模型数据效率高。它灵活控制码率、可压缩多种张量，还能利用GPU硬件加速。实验显示其压缩效果显著。
DiT在数学和形式上是错的？谢赛宁回应：不要在脑子里做科学
X上有博主称DiT存在架构缺陷，其FID过早稳定，可能无法继续从数据中学习。还批判了DiT的设计，如使用后层归一化和adaLN - zero。DiT作者谢赛宁回应，强调做研究要基于实验，也指出DiT现存一些问题。
多突触神经元模型问世，国内团队打造类脑计算新引擎，登上《自然·通讯》
当前人工智能高能耗问题凸显，脉冲神经网络被认为更具生物合理性、能效更高，但缺乏平衡计算效率和生物合理性的脉冲神经元模型。国防科技大学与中科院团队合作提出 MSF 脉冲神经元模型，相关研究发表于《自然・通讯》。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
梳理SGLang中DP Attention及其Padding问题
作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程，指出padding分max和sum模式，旧版sum padding浪费计算、影响cuda graph使用，v0.4.10后有优化，max padding仍待完善。
让64张卡像一张卡！浪潮信息发布新一代AI超节点，支持四大国产开源模型同时运行
浪潮信息发布新一代AI超节点“元脑SD200”，可让64张卡像一张卡。它支持四大国产开源模型同时运行，实现算力聚合突破，通过软硬协同优化提升推理性能，采用开放架构推动“智能平权”。