「推理加速技术」共找到 4954 篇相关文章
苹果出手!改进GRPO,让dLLM也能高效强化学习
苹果研究团队针对扩散语言模型(dLLM)在编码任务中表现不明的问题,基于7B级代码生成MDM DiffuCoder展开研究,定制优化GRPO提出coupled - GRPO算法,填补开源dLLM训练和推理机制空白。
RL救不了泛化性!揭示LLM数学Reasoning的深层瓶颈
大型语言模型在数学竞赛级任务依赖机械化推理,现有评测集有缺陷。UC Berkeley团队提出OMEGA基准量化其数学泛化能力,实验揭示复杂度引发性能崩塌等问题,指出LLM创新组合难,给出改进方向。
小扎疯狂挖角 OpenAI、签约跳槽就发 7 亿奖金,奥特曼痛批:不懂创新,老“复制”人了
Meta 首席执行官扎克伯格掀起 AI 人才争夺战,向 OpenAI 和谷歌 DeepMind 员工提供巨额签约奖金。OpenAI 首席执行官奥特曼证实此事,称挖角大多未成功,还批评 Meta 不懂创新,只“复制”。此外,奥特曼还谈及超级智能等问题及 OpenAI 未来方案。
YC AI 创业营 Day 2:纳德拉、吴恩达、Cursor CEO 都来了
YC AI创业营第二天,微软CEO纳德拉、吴恩达等七位重磅嘉宾围绕AI技术、创业等话题分享观点,如不要将AI拟人化,智能体将成新一代计算机等,还给出产品开发、创业等方面建议。
刚刚,谷歌AI路线图曝光:竟要抛弃注意力机制?Transformer有致命缺陷!
谷歌未来AI路线图曝光,Gemini全模态是重点,模型向智能体转变,推理能力将扩展。谷歌还需突破现有注意力机制限制实现无限上下文。此外,文中盘点了OpenAI、DeepSeek等大厂AI年中表现。
巨头博弈下,Agent 的机会和价值究竟在哪里?
极客公园创始人与拾象相关人员对话,探讨 Agent 热点话题。指出其真正门槛或在基础设施,还谈及产品路径、技术挑战等,如通用 Agent 是大模型公司主战场,Coding 是衡量 AGI 关键指标等。
AI自己给自己当网管,实现安全“顿悟时刻”,风险率直降9.6%
大型推理模型有安全风险,此前监督微调泛化能力有限。SafeKey团队提出创新的SafeKey框架,发现大模型信息“越狱”两大核心,通过双通路安全头和查询遮蔽建模强化模型安全,实验验证其有效性。
比自回归更灵活、比离散扩散更通用,首个纯Discrete Flow Matching多模态巨兽降临
近年来多模态大模型多采用自回归架构,推理缺乏灵活性。香港大学和华为诺亚方舟实验室研究团队提出FUDOKI,基于全新非掩码离散流匹配架构,能并行去噪、动态修正,为多模态模型开辟新路径。
最新AI眼镜格局报告:百镜大战拉开序幕,阿里DeepSeek高通成幕后赢家
量子位智库推出《AI眼镜「预选赛」格局报告》,分析AI眼镜市场。从产品到技术,如大模型通义千问、DeepSeek成赢家,高通骁龙AR1受青睐,还探讨了各类型AI眼镜趋势、玩家构成等。
摩根士丹利如何攻克编程界的“最头疼问题”
金融巨头摩根士丹利开发AI工具DevGen.AI,将旧代码转现代语言,此难题通用工具难解决。该工具今年审阅900万行旧代码,节省28万小时。虽有局限,但降低对旧语言开发者依赖,且不会减少人才需求。