搜索：训练推理效率

「训练推理效率」共找到 4331 篇相关文章

如何重现 DeepSeek 推理性能突破

DeepSeek-V3 是热门开源大模型，采用大规模 MoE 架构，优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化，对齐其推理系统性能，分享关键技术、不足与思考，还提及对 Qwen3 模型的优化策略。

生成式模型在机器人和具身智能领域面临训练依赖大量数据、推理慢的问题。西安交通大学团队提出EfficientFlow，融合等变建模与高效流匹配，提升数据效率，压缩推理迭代步数，在多基准实现SOTA，推理提效显著。

推理大模型推理时易现冗余问题，R-KV开源方法登场，显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余，还经多步骤压缩KV缓存，性能测试表现出色，适用多场景。

当前LLM像‘缸中的大脑’，缺乏与外界互动能力。新范式ARLT兴起，但构建训练框架面临诸多挑战。VerlTool作为统一、模块化、高效的开源框架应运而生，解决难题，在多任务实验表现出色，推动LLM向智能体转变。

新研究量化推理模型时代提供更优答案的环境成本，研究人员估算14个开源权重的大模型碳排放，发现推理与排放存在权衡关系，还指出战略性部署可降低排放。

大模型技术推动AI从‘回答问题’迈向‘执行任务’，Agentic AI兴起。中国科大认知智能全国重点实验室提出Claw - R1项目，将前沿Agent Runtime与强化学习训练框架结合，为Agentic AI提供新训练基础设施。

O家刚免费上线GPT - 4.1，A家新版Claude Sonnet和Claude Opus被曝即将发布，亮点是“极限推理”，能在推理和工具使用间建立动态循环，更智能处理问题，预计未来几周发布，虽有网友质疑，但也有实测证据。

Techcrunch消息，大模型平台Anthropic就Bartz诉Anthropic案与多名作者达成和解并提交文件。此前下级法院裁定其用书籍训练模型属合理使用，但涉盗版或面临高额处罚，Anthropic曾上诉，和解细节未公开。

传统浏览器调试工具操作繁琐、效率低，难以满足开发者需求。开源工具`Responsively App`基于Electron构建，可同时展示多设备视图，有交互同步等功能，获24k+ star，支持多系统，安装便捷。

华为小艺香港团队等研究人员提出上下文一致性解码算法（CCD）。它解决传统DLM推理“短视”和采样预算固化问题，在开源DLMs上实现3.48倍加速和3.9%性能提升，适配多种解码设定。