搜索：双层优化框架

「双层优化框架」共找到 2640 篇相关文章

Thinking Machines再发文：模块化流形让训练更稳定

Mira Murati团队分享神经网络训练推理新研究，提出“模块化流形”让训练更稳定。将权重约束在Stiefel流形，设计Manifold Muon优化器，实验显示效果好，但计算开销和理论问题待解决，代码已开源。

为解决VLM用于嵌入的痛点，中国人民大学等机构研究者提出MoCa框架，可将单向注意力VLM训练成双向多模态编码器。它分两阶段，实验效果好，未来可拓展模态、提升多语言适应等。

Scaling Law下，MoE成扩展模型能力法宝，但训练难题凸显。华为构建Adaptive Pipe & EDPB优化方案，还打造DeployMind仿真平台，解决了MoE训练中通信等待、负载不均等问题，使训练吞吐提升72.6%。

剑桥和Google等提出并开源视觉规划范式，通过纯视觉表示规划，独立于文本。还引入VPRL框架，用GRPO后训练大型视觉模型。实验选三个视觉导航任务，VPRL表现最佳，显著优于其他方法。

文章介绍了27.2k Star的FastMCP，它是Python MCP应用框架，能让普通Python函数成为MCP工具。讲了其适合场景、省事原因及上线安全边界，还给出了适用人群和注意点。

阿里开源的前端增强项目 PageAgent 火了，在 GitHub 获 8k+ star。它是纯前端 JavaScript GUI 智能体框架，可让网页拥有 AI Agent，通过自然语言控制界面，有自动填表单等功能，使用简单。

NVIDIA研究员Jim Fan称AI正经历第二次预训练范式转移。颜水成团队Muddit模型从视觉先验出发，用离散扩散框架统一文生图、图生文和VQA，挑战多模态“语言中心论”，在多任务表现出色。

Claude推出Skills系统，让AI Agent按需处理专业文档。作者在Minion框架中实现开源版本，介绍设计理念、实现细节，包括技能定义、发现、注册表等，还展示效果、亮点，阐述开源原因与未来方向。

何恺明团队新作聚焦Flow模型，提出双向归一化流（BiFlow）框架，解耦前向与逆向过程，打破传统归一化流生成模型效率低下问题。三位一作是本科生，实验显示其速度和质量表现出色。

港科大、港中文、清华和快手可灵团队提出全新视觉框架UnityVideo，统一训练多种视觉模态，让模型更懂物理规律，视频生成更真实可控，还实现零样本泛化，在多任务表现优异。