「联合自注意力」共找到 2250 篇相关文章
清华联手千问重塑归一化范式，让 Transformer 回归「深度」学习
Pre - Norm和Post - Norm是Transformer架构中稳定信号流的关键范式，但面临权衡取舍。近日，清华黄高团队联合千问团队提出SiameseNorm，构建参数共享的平行通路，实现稳定训练并提升性能。
AgentCPM-Explore开源，4B 参数突破端侧智能体模型性能壁垒
当行业争论30B能否挑战万亿参数时，清华、人大、面壁智能与OpenBMB联合研发的AgentCPM-Explore开源，基于4B参数在深度探索任务表现出色，还开源配套平台，解决小模型性能提升难题。
这家国内公司，在给具身智能技术栈做「通解」
具身智能是AI热门赛道，世界人工智能大会WAIC 2025让其概念渐明。国内梅卡曼德公司展位集合机器人技术多种落地形式，展示自研通用机器人「眼脑手」全栈技术产品，推动机器人各行业落地。
港股新贵押注物理AI，乐动机器人打造万亿市场空间的核心基础设施
物理AI时代，机器人需「读懂」物理环境，环境感知能力成竞争焦点。乐动机器人过去十年围绕此布局，有空间感知技术先发优势，其自研模型与架构构建数据飞轮，有望完成向感知基础设施平台的身份重塑。
太空算力排队到2030年，这家初创公司不等了：自己造火箭把数据中心送上天
5月11日，太空基础设施Cowboy Space完成2.75亿美元B轮融资，估值达20亿美元。其创始人Baiju Bhatt计划自造火箭，将上面级改造为在轨数据中心。但造火箭门槛高，轨道数据中心面临经济、延迟等难题。
93%的人在用AI，为什么生产力只提升了10%——两个被严重低估的杠杆
Stack Overflow 2024年调查显示93%开发者用AI辅助工具，但DX Research研究表明生产力仅提升约10%。文章指出多数人用AI是线性叠加，真正的乘数效应来自自闭环验证和长期记忆，还分析误区并给出实践路径。
世界模型+强化学习=具身智能性能翻倍！清华&加州伯克利最新开源
具身智能发展中样本效率成瓶颈，传统无模型强化学习依赖盲目试错。清华与加州伯克利团队提出BOOM框架，通过自举循环机制解决在线规划与策略学习矛盾，实验表现卓越，为具身智能落地提供支撑。
华为世界模型来了！单卡30分钟生成272㎡场景
华为联合上海交通大学、华中科技大学推出世界模型WordGrow，可生成1800㎡超大室内场景，单卡30分钟跑272㎡。它用数据精准预处理、3D块补全机制、粗到精生成策略填3D场景构建的坑，指标优、速度快。
首个开源实现100%可复现的稳定RL训练框架来了！2次结果完全重合
SGLang团队联合slime团队开源实现100%可复现的稳定RL训练框架。基于Qwen3 - 8B重复实验结果完美重合。SGLang在批次不变算子基础上实现确定性推理，性能有下降但有提升空间，还给出使用方法和未来规划。
视觉Token注入CLIP语义，走向多模态理解与生成新范式
腾讯ARC Lab等机构提出全新视觉分词器TokLIP，将低级视觉Token与高级CLIP语义结合，支持端到端自回归训练，可接入LLM框架，降低计算与数据门槛，在多模态任务中表现优异，代码已开源。