「高效推理框架」共找到 3696 篇相关文章
清华新框架让大模型学会「精读略读」！实现12倍端到端加速，基准评分翻倍
清华等团队提出全新框架RAM，受人类阅读认知启发，将“精读+略读”混合策略引入上下文压缩，突破现有方法效率瓶颈，在多任务上表现出色，实现12倍端到端加速，为长上下文LLM部署提供新范式。
阿里通义的视觉RAG革命！VRAG-RL：基于强化学习的视觉感知RAG框架，性能飙升30%
阿里巴巴通义实验室推出VRAG - RL，融合视觉感知、多模态推理与强化学习，已在GitHub开源。它破解传统RAG处理视觉数据难题，通过创新机制提升性能，在多数据集表现出色，还将向更拟人化和低幻觉方向发展。
AI仅凭“自信”学会推理，浙大校友复刻DeepSeek长思维链涌现，强化学习无需外部奖励信号
UC Berkeley团队提出新训练方法Intuitor，大模型无需接触真实答案，仅优化自身信心就能学会复杂推理。该方法无需外部奖励信号或标注数据，用模型自身置信程度作内在奖励信号，在多任务表现良好。
英伟达官方推理指南来了！6倍无损加速，最优解全是华人写的
9月2日，英伟达技术博客上线《用投机解码做AI模型协同设计》，给出推理加速选型表。列入指南的核心方案多由华人团队主导，介绍了从外置草稿模型到n - gram查表法等方案，还提到硬件常数对模型架构的约束。
谷歌全线开挂！Gemini 3 Deep Think夺多项推理SOTA，Gemini亚洲新团队也官宣了
谷歌的Gemini 3 Deep Think模式正式上线，推理能力显著加强，在ARC - AGI、HLE等多项权威测评中夺魁，仅向Google AI Ultra订阅用户开放。同时，谷歌DeepMind将在新加坡成立新的Gemini研究团队，由95后华人科学家Yi Tay带队。此外，谷歌还推出了Google Workspace Studio。
腾讯开源混元世界模型1.1，视频秒变3D世界，单卡推理仅需1秒
腾讯发布并开源混元世界模型1.1，是统一的端到端3D重建基座大模型。它支持从多视图或视频一键生成3D世界，单卡秒级推理完成高精度重建，性能达SOTA，还具多特性，打破技术壁垒。
在AI社会抓「内鬼」？上海AI Lab推出首个多智能体极端事件解释框架
2023年起多智能体系统成人类社会数字镜像，但复杂系统会自发涌现极端事件。上海AI Lab等团队推出解释框架，用沙普利值拆解风险，发现极端事件五大演化规律，还能提前防控风险。
如何“驯服”你的Agent？这可能是你见过最优雅与可控的Agent框架 | 深度体验
文章聚焦对话式Agent，指出LLM不确定性是企业应用Agent的障碍。介绍Parlant框架，它用ABM方法控制交互，能降低LLM负担、处理边缘场景。还通过构建10086客服助手展示其使用，最后与LangGraph对比。
首个故事可视化综合评估框架来了！80个故事单元53种类别，20种技术方案全面对比
随着AIGC技术进步，故事可视化引发关注。阶跃星辰携手上科大、西湖大学提出ViStoryBench可视化评估框架，通过构建多元化数据集、建立多维度评估指标，对超20种技术方案评测，为行业发展提供评估工具。
扔掉人工公式：快手EMER框架，用“会比较、自进化”的模型重构短视频推荐排序
过去十年，推荐排序多依赖人工设计公式，但此模式遇瓶颈。快手策略算法团队提出 EMER 框架，用“会比较、能进化的 AI 模型”重构短视频推荐排序，在快手主 App 和极速版效果显著，还为行业提供解决方案。