搜索：训练推理效率

「训练推理效率」共找到 4344 篇相关文章

长上下文快2.9倍，解码快6倍：Kimi 用线性注意力实现性能与效率双突破

月之暗面团队的Kimi Linear模型，是混合线性注意力架构，核心是Kimi Delta Attention模块。它解决线性注意力的记忆及遗忘问题，在多任务测试表现出色，还开源相关资源，推动高效长上下文模型研究。

佐治亚理工学院等团队推出集成加速框架 ReCA，针对多机协作具身系统，从算法、系统、硬件跨层协同优化，经评估，实现 5 - 10 倍速度提升且成功率升 4.3%，为具身智能落地奠基。

LiteLLM是BerriAI团队开发的开源工具，通过标准化OpenAI格式API接口，能无缝调用100+主流大语言模型。有核心功能亮点，适用于多场景，还给出上手步骤，并与同类项目对比。

腾讯混元团队发布HY - WU范式，打破静态权重束缚，引入功能性记忆，实时生成个性化参数。应用于图形编辑基模效果好，在图像编辑任务表现优秀，还对未来AI架构提出多方面展望。

上海交通大学王德泉教授课题组提出MAC基准，用顶级期刊最新封面构建测试集，评测多模态大模型能力。研究设计两种含“语义陷阱”的测试任务，发现顶尖模型有局限，还提出DAD方法提升表现，采用双重动态机制。

北大团队提出ToolVQA数据集，用于提升基础模型工具使用能力。它含2.3万条样本，贴近真实需求。通过ToolEngine构建，涵盖多工具与任务领域。微调后模型表现佳，代码与模型已开源。

2023年以来大模型战场由decoder - only架构主导，Google双线出击。T5Gemma重燃encoder - decoder架构战火，性能提升显著；MedGemma坚守decoder - only路线，强攻医疗多模态，击穿闭源壁垒，打响开源反击战。

开源君介绍超火的开源项目`chatgpt-on-wechat`（CoW），它结合大模型与社交、办公平台，可定制优化。能接入多平台，支持多模型，处理多模态消息，有丰富插件，还能记忆会话、定制知识库。给出安装步骤。

盛大AI研究院与东京大学联合提出FloodDiffusion，首个基于定制化扩散强制的流式人体动作生成框架。它能零延迟生成无限长动作序列，解决了现有方法的问题，在多数据集评估中表现优异。

Grok4.1被Gemini 3反超后，据华尔街日报爆料，xAI正计划150亿美元融资，公司估值将达2300亿美元。xAI成立两年多来估值飙升，马斯克还发布Grok 4.1 Fast击败Gemini 3。