「两阶段注意力机制」共找到 1642 篇相关文章
ACL 2025 | GALLa：给代码大模型装上“透视眼”，看懂程序的“骨架”！
蚂蚁集团与上海交大合作的 GALLa 研究被 ACL 2025 主会录用。它利用图神经网络将代码图结构信息注入大模型，在 7 个模型和 5 个任务上提升性能，推理与普通 LLM 一致，不增成本。
又一款国产高性能GPU问世，实力对标海外巨头
2025年9月22日，芯动科技发布“风华3号”全功能GPU，它架构全面，功能覆盖广，在大模型等领域有多个突破，还适配多生态与系统。该产品能为多行业定制服务，标志国产GPU进入规模化应用阶段。
腾讯用AI把美术管线重新做了一遍，混元3D Studio架构曝光
腾讯推出专业级AI工作台混元3D Studio，可覆盖3D资产生产全流程，让生产周期大幅缩短。它有组件拆分、可控图像生成等七大核心技术模块，各模块对应关键阶段，实现无缝衔接与自动化。
Megatron 1F1B流水线并行中的负载不均衡问题研究
文章分析Megatron 1F1B流水线并行中负载不均衡问题。通过实验发现通信时间‘一短一长’，原因是最后一个Stage计算慢致不同步，额外计算引发通信延迟，还梳理了流水线各阶段执行过程。
AI“画饼”画不动了？从狂热到冷静，行业迎来大消化
AI正处关键转折点，炒作撞上现实。企业认清其能力边界，期望回归理性。虽有泡沫讨论，但AI已在部分领域产生影响。它迎来“iPhone 4时刻”，进入持续迭代阶段，放缓源于炒作与边际效益递减。
00后8亿美金「掀桌」！硅谷AI将书写影视新传奇，终结制片旧时代
00后华人女CEO Cecilia Shen带队转型Cybever为全球首家AI原生影视工作室Utopai Studios，首年获1.1亿美元收入。其技术从3D虚拟环境生成发展到完整视频制作，还推出两部大作，或改变影视行业格局。
用“因果规划”解决多智能体协作中的任务依赖难题｜港科广&腾讯
港科广和腾讯研究团队提出CausalMACE方法，将因果推理机制引入开放世界多智能体系统。该方法含全局因果任务图，框架分“判断”“规划”“执行”环节，在基准任务中表现出色，已中稿EMNLP 2025 Findings。
SGLang支持GPT-OSS：从Day 0支持到性能增强
SGLang宣布重大更新，聚焦openai/gpt - oss - 120b模型深度性能优化与新功能。预填充和解码阶段吞吐量显著提升，支持多GPU，有推测解码等功能，还支持智能体应用程序，且不损害模型推理能力。
从繁杂技巧到极简方案：ROLL团队带来RL4LLM新实践
当前RL4LLM领域发展快但存在标准、结论不一及机制解释不足等问题。阿里巴巴淘天集团和爱橙科技联合高校基于ROLL框架研究，评估关键技术组件，提出简化算法Lite PPO，在多基准上表现佳。
最新视觉大模型 DINOv3论文精读（逐段解析）
DINOv3是突破性自监督视觉基础模型，其创新围绕数据与模型协同扩展、Gram锚定技术、多阶段训练策略。它解决传统自监督学习难题，在多任务上无需微调达最优，为计算机视觉树立新标杆。