搜索：混合长度理论

「混合长度理论」共找到 461 篇相关文章

用更一致的轨迹、更少的解码步数「驯服」掩码扩散语言模型，扩散语言模型的推理性能和效率大幅提升

扩散大语言模型发展迅猛，或成下一代大语言模型基础范式有力竞争者。复旦大学等团队发布论文，提出高效解码策略与强化学习训练组合，解决MDLM解码和训练问题，提升推理性能与效率。

本文是阿里巴巴算法专家曹宇在AICon 2025北京站的分享。从RLHF系统出发，结合实践展示RL系统现状与发展，探讨超大规模RL方向，涉及理论、业界实践、开源生态等，还介绍了AICon北京站活动。

随着联邦学习在物联网系统广泛应用，数据隐私保护成难题。华南理工大学与深圳北理莫斯科大学合作，提出FedMSBA和FedMAR两种防御方法，分别解决参与方梯度泄露和服务器受攻击问题，在多方面实现突破。

北大彭一杰教授课题组提出 RiskPO，解决大模型后训练陷入「均值陷阱」问题。它将风险规避理念融入优化目标，用「关注奖励分布左尾」替代「追求整体均值」，在多领域数据集上表现超越 GRPO 等。

南洋理工大学、新加坡国立大学与华为开源首个针对数据智能体异构混合数据分析的基准测试FDABench。它有2007个任务，覆盖多领域多数据源，独创协作框架，能测多种工作流模式的数据智能体。

在 InfoQ 举办的 QCon 全球软件开发大会上，小红书梁啟成分享云成本优化实践。介绍了小红书用云情况，分析成本优化面临的问题，阐述成本洞察和优化的探索，如内外账分离、CPU 和 GPU 资源提效等，还展望了 AI for FinOps 实践。

昨晚，DeepSeek官方悄然上线全新V3.1版本，上下文长度拓展到128k，参数685B，支持多种精度格式。其编程能力突出，在Aider测试中霸榜，性能超越Claude Opus 4，还有成本低等优势。

随着LLM广泛应用，其幻觉现象成AI落地关键挑战。文章分析LLM幻觉成因、优缺点，结合RAG、SFT、强化学习等技术，提出多维度优化方案，为构建可信大模型应用提供理论与实践路径。

强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。

混合现实重塑人机交互边界，但传统XR设备选物易出错。研究团队提出Reality Proxy，即现实物体的抽象数字表示，将交互目标转移到代理上，便于用户摆脱限制选物，还支持多种交互功能。