「推理框架」共找到 3365 篇相关文章
更大，还能更快，更准！蚂蚁开源万亿参数语言模型Ling-1T，刷新多项SOTA
10月9日，蚂蚁开源万亿参数语言模型Ling-1T。它延续自研高效MoE架构，在编程、数学推理等多维度测试表现亮眼，还能兼顾精确与效率。此外，它在多场景实用性强，其创新设计提升了能效比与性能。
华为版CUDA，全面开源了
华为宣布为昇腾AI GPU开源CANN软件工具包及Mind系列套件、工具链，让昇腾更好用。CANN类似华为版CUDA，目前到8.0版，支持多深度学习框架。同日，传奇GPU架构师创业公司浮出水面，挑战英伟达。
ICCV 2025 | EPD-Solver:西湖大学发布并行加速扩散采样算法
扩散模型成生成任务主流技术，但逐步去噪机制致推理延迟大。西湖大学提出 EPD - Solver 算法，融合三类加速思路优势，可减少积分误差、提升生成质量，还能作插件集成，突破扩散模型速度与质量权衡瓶颈。
Multi-Agent记忆系统MIRIX：比RAG性能飙升35%，存储减少99.9%
现有AI Agent记忆方案有局限，MIRIX作为模块化多智能体记忆系统应运而生。它由六种记忆类型和多智能体框架组成，支持多种检索功能。在多模态和单模态测试中表现优异，为记忆增强型LLM智能体设新标准。
OpenAI深夜数连发：o3降价80%，o3-pro上线，奥特曼最后一次手发长文，开源模型却延期了……
OpenAI昨夜动作不断，o3模型降价80%，o3 - pro发布，开源模型延期。Sam Altman发长文《温和奇点》，预测AI发展时间线。o3价格虽降但使用成本仍有差异，o3 - pro性能强却推理慢，开源延期引发猜测。
扩散语言模型真的会比自回归好？理论分析结果可能恰恰相反
北京大学和蚂蚁集团研究表明，扩散语言模型虽理论上有并行生成优势，但实践中在某些任务推理成本更高。研究通过实验对比，分析了扩散与自回归模型在不同评估指标下的效率，指出选择模型要视任务需求。
Qwen&清华团队颠覆常识：大模型强化学习仅用20%关键token，比用全部token训练还好
Qwen与清华LeapLab团队研究发现，大模型强化学习训练推理能力时，仅20%高熵token就能撑起效果，甚至超全部token训练。团队用此在Qwen3-32B创造新SOTA记录，还探讨了强化学习的相关特性。
PaddleOCR 3.0发布：OCR精度跃升13%，支持多语种、手写体与高精度文档解析
2025年5月20日，飞桨团队发布并开源PaddleOCR 3.0，适配飞桨框架3.0正式版。其提升文字识别精度，支持多文字类型和手写体识别，满足复杂文档解析需求，结合文心大模型4.5 Turbo提升关键信息抽取精度，还新增国产硬件支持。
LightLLM中DeepSeek V3/R1 Two MicroBatch Overlap 实现解析
文章围绕LightLLM中DeepSeek V3/R1的Two MicroBatch Overlap实现展开。介绍了该技术原理，通过拆分推理过程、精心设计执行顺序实现计算与通信重叠。还阐述了数据结构设计、预处理、核心执行流程，以及优化策略和配置启用方式。
Qwen3.8-Flash：全新架构，更强更稳更划算
本文介绍了 Qwen3.8-Flash 多模态 MoE 模型，它原生支持 262,144 token 上下文。该模型在 Attention、Residual、Embedding 与 Optimization 四个方面系统升级，降低训练与推理成本，即将上线千问 AI 平台。还发布了 Qwen3.8-Flash-Next 开源权重。