「高稀疏度MoE结构」共找到 712 篇相关文章
不同灵巧手，终于可以共用「一套大脑」了
北卡罗来纳大学教堂山分校团队提出 One Hand to Rule Them All，构建统一描述空间，使不同灵巧手共享动作表达与策略结构。该方法解决跨手泛化难题，实验证明其在多方面有效，有望推动机器人操作研究发展。
Transformer创新架构SALA：上下文更长，推理更快
面壁智能发布行业首个大规模训练的稀疏 - 线性注意力混合架构 SALA 及文本模型 MiniCPM - SALA。该架构降低推理开销与显存占用，MiniCPM - SALA 在长文本处理及推理上表现出色，还发起大奖赛探索性能极限。
告别App孤岛，天翼AI如何用统一入口重构数亿用户的数字生活？｜甲子光年
2025年中国AI行业模型能力强但用户体验复杂，存在数字鸿沟。中国电信在数智科技生态大会上，天翼AI发布星辰智能体服务平台1.0，以统一入口“星小辰”智能体重塑入口逻辑，还在多领域布局扩张能力。
CMAME | 香港理工大学周原野、周恺等：面向清晰几何边界工程优化的拉格朗日拓扑物理信息神经网络
近年来物理信息神经网络引入拓扑优化领域，但结果边界弥散。本文提出“拉格朗日拓扑物理信息神经网络”框架，将显式可变形基础几何体嵌入可微分物理求解器，提升了优化结果的可制造性与精度。
VaseVQA：考古领域实现专家级，诊断+补弱RL框架
在文化遗产与人工智能交叉领域，研究人员提出把大型多模态模型放于‘诊断—补弱—精细化评估’闭环训练，配套结构化评测基准，让模型在文化遗产领域接近专家级能力。介绍了技术步骤、数据基准及关键发现等。
DeepSeek开源的不仅仅是个新OCR模型。。。
DeepSeek开源3B参数的新OCR模型，重新思考AI处理长文本方式，用视觉token压缩文本信息。核心组件有DeepEncoder和DeepSeek3B - MoE解码器，实验效果好，成本降低，还解决了一些算法和工程问题。
稳定训练、数据高效，清华大学提出「流策略」强化学习新方法SAC Flow
本文介绍清华大学和CMU提出的SAC Flow新方案，可端到端优化流策略。它将流策略视作residual RNN，用GRU和Transformer结构稳定训练。在多环境测试中表现优，有稳定、快速、样本效率高的特点。
700万参数击败DeepSeek R1等，三星一人独作爆火，用递归颠覆大模型推理
今年6月Sapient Intelligence提出的HRM影响大模型推理结构，四个月后三星研究员Alexia Jolicoeur - Martineau推出TRM，700万参数模型在推理基准测试中超越参数多10000倍的模型，还介绍了TRM原理、改进及实验结果。
智谱开源GLM-4.5工具调用超越Claude Opus 4.1，成本仅1.4%
开源模型GLM-4.5在伯克利工具使用榜单上超越Claude Opus 4.1，运行相同任务成本仅为1.4%。它采用MoE架构，在多场景表现卓越，推理速度快，成本低，还接入多款主流编程工具。
推理能力再突破！蚂蚁 | 提出Agentic Deep Research新范式，可信度同步增加
尽管LLM能力提升，但复杂任务表现受静态知识限制。业界提出Agentic Deep Research系统，现存系统训练有梯度冲突和奖励稀疏问题。蚂蚁团队提出Atom - Searcher，创新推理范式，构建细粒度奖励，结合奖励训练，实验效果佳。