「Attention性能瓶颈」共找到 2434 篇相关文章
o3 Gemini 都翻车？首个可验证长链 GUI 数据集 VeriGUI 重磅开源，探索通用 Agent 能力边界
GUI 智能体发展遇瓶颈，现有数据集难评估其长时程规划能力。2077AI 开源基金会牵头构建的 VeriGUI 应运而生，有长链复杂性与子任务级可验证性特征，论文登 Hugging Face 月榜第三，还证明现有模型瓶颈。
一种基于滑动层合并的高效深度修剪大模型的方法
文章指出深度修剪可加快推理速度，但直接丢层会降低性能。为此提出滑动层合并法，根据相似度阈值融合连续层，简化结构且保持性能。实验显示该方法优于现有技术，还揭示了与宽度修剪结合的潜力。
1.5B推理模型新SOTA，RL训练新解法打破「简单题过拟合、难题学不动」的魔咒
QuestA通过在训练中注入解题提示，实现两项成果：在1.5B模型上实现Pass@1的SOTA性能，还提升了Pass@k性能。它解决了RL训练中简单与困难任务的权衡问题，为开发强推理模型打开大门。
名师一定出高徒？清华团队最新揭秘：别再迷信大模型蒸馏的「免费午餐」
当下大模型后训练中，On-Policy Distillation（OPD）成明星技术，业界采用后报告性能提升。但清华团队研究发现，换更强Teacher，Student性能可能无提升甚至倒退。研究揭示蒸馏成败条件，深挖对齐机制，还给出拯救失败蒸馏的方法。
吴恩达最新来信：是时候关注并行智能体了
吴恩达在最新来信中指出，并行智能体正成为提升AI能力新方向，多个agent协作能高效处理不同任务。相比依靠数据和算力提升性能的方法，并行agent提升性能同时无需用户久等，且大模型token成本下降使其可行。
国民技术发布面向AI数据中心的3 kW数字电源参考设计方案
在AI算力增长与能源转型驱动下，电力供给变革。国民技术发布面向AI数据中心的3 kW数字电源参考设计方案NS3KW53V5P2L3，基于N32H474芯片和Hunter OS生态，有高转换效率等优势。
世界模型太慢？西交大提出Fast LeWorldModel：用「动作前缀并行预测」让动态估计加速4倍
视觉规划里世界模型‘想象’过程慢，西安交通大学研究团队提出Fast LeWorldModel，从根本改变预测方式，实验显示其提升了成功率，还大幅缩短规划时间。
Hermes Agent 终于有入门指南了
Hermes Agent 是 Nous Research 推出的开源 Agent 框架，功能强大但开发者不知如何使用。4 月 8 号，Kevin Simback 整理出 Hermes 生态全景图，另一人推出《Hermes Agent: The Complete Guide》，48 小时获 568 星。
科研写作神器，超越Mathpix的科学公式提取工具已开源
LaTeX公式OCR现有方法处理真实文献面临挑战，DocTron团队提出系统性方案。构建CSFormula数据集，提出DocTron - Formula模型，在评测和实际应用中表现出色，超越Mathpix等工具。
蚂蚁多模态统一框架Ming-Omni：能看懂世界、会说话、还能画画
文章介绍蚂蚁多模态统一框架Ming - Omni，它可统一处理图像、文本等多模态数据。该框架解决了多模态训练中模态表示差异、收敛速度不一致等问题，采用分阶段预训练，能用于图像、音频生成及多模态交互。