「推理时扩展」共找到 2924 篇相关文章
模型砍掉一大半，准确率反升15%！华科&阿里安全新研究实现ViT近乎无损的类特定压缩｜ICLR'26
华中科技大学联合阿里安全部提出Vulcan方法，一改传统压缩策略，通过“先训练再剪枝”实现ViT近乎无损的类特定压缩，为大模型服务小场景提供新路径，论文已被ICLR 2026接收。
清华刘知远团队论文：最小化结构改动，短文本到长文本丝滑升级 | ICLR 2026
大语言模型发展中，上下文长度成关键瓶颈，主流架构计算开销大。清华刘知远团队提出《InfLLM-V2: Dense-Sparse Switchable Attention for Seamless Short-to-Long Adaptation》，提出可切换注意力框架，为长上下文研究提供新思路。
推出 AnyLanguageModel：在 Apple 平台统一本地与远程大语言模型的 API
大语言模型是构建现代软件的重要工具，但 Apple 平台开发者集成模型困难。Hugging Face 发布 AnyLanguageModel，是 Swift 包，可替代 Apple Foundation Models 框架，支持多模型服务商，降低使用 LLM 难度。
怎么做 Long-running Agents，Cursor、Anthropic 给了两种截然不同的思路
业界对让 Agent 长时间运行、执行复杂任务无共识。最近 Cursor 和 Anthropic 分享实践，思路不同。Cursor 用多 Agent 并行执行长时任务，Anthropic 解决单个 Agent 跨工作周期的记忆连续性问题。
MiniMax 上市后的第一个开源：给 Coding Agent 立个规矩
2026 年初 MiniMax 成功上市港股，市值达 1100 亿港币。其上市后首个开源项目 OctoCodingBench 聚焦 Coding Agent 评估，解决规则复杂时 Agent 合规问题，为其立规矩，有重要社区价值。
Sebastian Raschka 2026预测：Transformer统治依旧，但扩散模型正悄然崛起
知名AI研究员Sebastian Raschka预测2026年，Transformer架构在未来至少一到几年仍占统治地位，但会在效率和混合上微调。同时，扩散语言模型虽有工具调用缺陷，但在数据稀缺时或成更好的学习者。
告别“一眼定生死”：Agent-as-a-Judge 开启 AI 评估的下半场
过去两年，LLM-as-a-Judge成评估界“黄金标准”，但面对复杂任务力不从心。论文《A Survey on Agent-as-a-Judge》指出，应从单一的大模型裁判进化为具备行动能力的智能体裁判，还阐述了其优势、发展阶段等。
一年后，DeepSeek-R1的每token成本降到了原来的1/32
几天前，DeepSeek更新R1论文至86页，公开训练全路径等细节。英伟达发表博客展示在Blackwell GPU上对其降本增效，通过软硬协同提升每瓦特Token吞吐量，还介绍了TensorRT - LLM软件及相关技术提升性能的情况。
当AI走进Second Half：真正的问题、价值与生态是什么？｜甲子光年
本文是甲子光年年终盛典巅峰对话实录，探讨AI下半场问题。嘉宾们认为技术上未到下半场，但应用层面已至。大家围绕重新定义问题、评估真实价值、重构产业生态展开交流，分享见解与经验。
刚刚，英伟达CUDA迎来史上最大更新！
几个小时前，NVIDIA CUDA Toolkit 13.1 正式发布，英伟达称这是 20 年来最大更新。此次更新包括 NVIDIA CUDA Tile 发布、Runtime API exposure of green contexts 等，还涉及软件、多进程服务、开发者工具、数学库等多方面改进。