「稀疏专家机制」共找到 1403 篇相关文章
只需1/4预算，性能反超基线：阿里高德提出Tree-GRPO，高效破解智能体RL难题
阿里高德提出Tree - GRPO方法解决智能体RL难题。它以智能体步骤为节点树搜索，在11个数据集中更省预算、表现更好，能在1/4预算超GRPO基线，解决了Rollout成本高和监督稀疏问题。
基于Memory Bank的Cursor长会话记忆内存库理论研究与实践
文章围绕Memory Bank展开，介绍其为解决大模型长会话记忆瓶颈而设计的机制，包括存储、检索、更新模块。阐述其在编程和知识库建设的应用，还评测了Codelf等工具，指出Memory Bank是AI迈向智能的重要一步。
5张 H800 带来 20 FPS 高保真实时虚拟人生成
传统扩散模型做视频生成速度慢、画面不稳定，难用于实时虚拟人场景。阿里Live Avatar框架将算法和系统一起设计，用TPP并行推理策略和RSFM机制等，5张H800 GPU能实现20 FPS高保真实时虚拟人生成。
Sutton判定「LLM是死胡同」后，新访谈揭示AI困境
强化学习之父Rich Sutton直言LLM是死胡同，因其无法从持续实际互动中学习，违背他坚持的原则。在新访谈和圆桌讨论中，多位专家碰撞观点，探讨AI研究问题、强化学习困境及LLM发展走向等。
智算浪潮下的专有云操作系统安全：范式跃迁与信任链重塑
云计算发展使专有云成企业平衡便利与安全之选，但 AI 冲击其安全范式。阿里云三位专家探讨 AI 时代专有云安全，涉及物理隔离价值、新技术重塑安全逻辑、国产 OS 与芯片协同挑战等，还介绍阿里云方案及未来趋势。
RAG技巧与底层代码剖析
文章深入剖析 RAG 技巧与底层代码，从用 Python 基础库构建 RAG 系统，到多种优化方法如上下文增强检索、添加上下文块标题等，还涉及查询改写、重排序等技术，最后介绍了上下文压缩、反馈机制等提升系统效率和质量的方法。
DeepSeek Harness背后的“心脏”：Cordis 到底是什么
文章介绍Cordis框架，它原服务第三方QQ机器人，现是DeepSeek Harness心脏。阐述其设计初衷、核心机制，如插件、上下文等概念，还提及在DSH中的应用，展示了插件槽位和生态，最后介绍相关论文和该框架的生态情况。
为什么 DeepSeek 大规模部署很便宜，本地很贵
文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡，受批处理大小影响。还分析了不同模型需大批次的原因，如专家混合模型、大型管道模型等。
GRPO遭遇瓶颈？G²RPO-A让自适应指导为小模型推理能力「开外挂」
大模型推理能力难迁移到小模型，现有强化学习方法如GRPO在小模型上性能提升有限。香港中文大学（深圳）唐晓莹教授团队提出G²RPO - A算法，缓解小模型奖励稀疏问题，在多模型实验中表现优于vanilla GRPO。
阿里：RL强化LLM推理，是技巧还是陷阱？
近年来，强化学习（RL）成为解锁大型语言模型（LLM）复杂推理能力的关键工具，但该领域也面临技术选择困境。阿里联合多所高校的论文通过大规模可复现实验，揭示主流RL技巧的机制与适用场景，还发现极简组合（Lite PPO）性能超越复杂方案。