搜索：联合自注意力

「联合自注意力」共找到 2250 篇相关文章

中国科学SCPMA | 南科大王建春团队：基于改进隐式轴向分解Transformer的三维槽道湍流快速预测

南科大王建春团队改进IFactFormer模型，采用“并行”轴向分解注意力机制，提升在复杂流动问题中的表征能力和稳定性。实验显示，改进模型拟合与长期预测能力强，多数指标精度优于传统方法。

UIUC、斯坦福与哈佛联合提出全新「能量驱动Transformer（EBT）」架构，打破「前馈即推理」旧范式，以能量最小化模拟人类思维，训练更高效、推理更精准，在多方面超越传统Transformer。

NVIDIA开源ProtoMotions3框架，用经典自回归预测和物理仿真，让高级行为涌现。它能助力机器人多方面学习，有望降低人形机器人开发门槛，虽处研究阶段，但提出新思路。

近日，斯坦福、英伟达、Together AI 等联合开源全新测试时新范式 TTT - Discover，在测试阶段用强化学习微调模型，以刷出 single best 结果，用几百美元就刷新诸多领域 SOTA。

中国科学院自动化研究所联合美团提出单阶段监督 - 强化微调方法 SRFT，结合监督微调与强化微调，解决传统两阶段方法的不足，在多任务中提升推理和泛化能力。

近年来，基于大语言模型的智能代理成为热点，自进化代理可自我改进。但论文指出其进化可能“跑偏”，出现“错误进化”，并揭示了不同进化路径的风险，还提出缓解策略，呼吁重视其安全性。

本文介绍了 Founder Park 联合扣子举办的 Skill 招募大赛。大模型干活不稳定，Skill 提供解决路径，把 prompt engineering 变成可积累资产。文中展示获奖 Skill 案例，还介绍扣子构建的 Agent 生态，指出其改写专业知识分发方式。

西门子与腾讯优图联合团队提出AdaptCLIP通用视觉异常检测框架，不改动CLIP主干，引入轻量适配器。它兼容零样本/少样本推理，在12个数据集评估表现优，兼顾精度与部署需求。

当AI Agent调用工具结果大量涌入上下文窗口，LLM性能会下滑。Manus联合创始人拆解其上下文工程逻辑，给出‘减少、卸载、隔离’三大策略及模型选择等方法，还提炼出6条实践启示。

格灵深瞳等团队联合发布通用多模态嵌入新框架UniME，刷新MMEB训练榜纪录。它是两阶段框架，经文本判别知识蒸馏和困难负样本增强指令微调，在多任务达SOTA，项目已开源。