「推理策略」共找到 2754 篇相关文章
超越MLA！新架构MLRA百万token，解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。
GPT-5.4 发布，OpenClaw的能力要被取代？OpenAI 新模型不仅会自己用电脑，编程能力也拉满了
今天 GPT-5.4 发布，整合推理、编程及原生计算机使用能力。其原生电脑操作能力提升，与 OpenClaw 竞争。还带来工具搜索降成本、减少幻觉，编程能力增强但价格也升级。
IC产量增长10.9%、换道超车……今年“两会”的“芯”消息令人振奋
2026年全国“两会”进行中，“政府工作报告”显示2025年科技创新成果丰硕，如集成电路产量增长10.9%。代表委员对半导体等建言聚焦质的飞跃，还给出芯片产业化、算力布局等“解题思路”。
三星研究院发布手机端侧大模型MeKi：基于Memory的LLM扩展新范式，支持旗舰手机端侧部署
三星研究院发布端侧大模型架构MeKi，提出用存储空间扩展模型容量、提升LLM性能的新范式。它利用手机ROM缓解内存压力，实现容量与性能提升。实验显示其性能、效率表现优，为边缘部署LLM提供新思路。
罕见！Meta、OpenAI、xAI联合分享了用生产环境提升LLM的最佳实践！
Meta、OpenAI、xAI联合发表成果CharacterFlywheel，聚焦在生产环境提升社交型AI对话能力。团队基于LLaMA 3.1迭代15个版本，7/8的A/B测试显示正向提升，介绍了架构、数据管道、奖励模型等内容。
R1/Qwen训练新范式：无需继续训练，直接“算”出权重，提效500%
DeepSeek - R1爆火让RLVR成大模型后训练焦点，但训练代价高昂。学者发现RLVR中LLM权重和输出概率呈线性变化，提出“权重外推”等方法，实现最高6.1倍训练加速，RL - Extra在多榜单展现高效率。
清华刘知远团队论文：最小化结构改动，短文本到长文本丝滑升级 | ICLR 2026
大语言模型发展中，上下文长度成关键瓶颈，主流架构计算开销大。清华刘知远团队提出《InfLLM-V2: Dense-Sparse Switchable Attention for Seamless Short-to-Long Adaptation》，提出可切换注意力框架，为长上下文研究提供新思路。
微软全球AI采用报告：每6个人就有1个用AI，但差距正在失控
微软AI经济研究所报告显示，2025下半年全球AI普及率创新高，每6人就有1人用AI，但全球南北数字鸿沟加剧。富裕国家借基建优势巩固领先，韩国靠政策、技术、文化实现跃升，开源模型DeepSeek在新兴市场崛起。
告别“一眼定生死”：Agent-as-a-Judge 开启 AI 评估的下半场
过去两年，LLM-as-a-Judge成评估界“黄金标准”，但面对复杂任务力不从心。论文《A Survey on Agent-as-a-Judge》指出，应从单一的大模型裁判进化为具备行动能力的智能体裁判，还阐述了其优势、发展阶段等。
一年后，DeepSeek-R1的每token成本降到了原来的1/32
几天前，DeepSeek更新R1论文至86页，公开训练全路径等细节。英伟达发表博客展示在Blackwell GPU上对其降本增效，通过软硬协同提升每瓦特Token吞吐量，还介绍了TensorRT - LLM软件及相关技术提升性能的情况。