「非Transformer架构」共找到 2528 篇相关文章
为什么BF16的FlashAttention会把训练「炸掉」？清华首次给出机制解释，用极简改动稳住训练
社区里长期存在的FlashAttention+BF16训练GPT - 2时loss突然爆炸的问题，清华团队论文给出机制解释。指出是特定条件下数值偏置被放大所致，还给出极小修改稳定训练，且在多模型和硬件上验证有效。
Rust 版 OpenClaw 来了！单文件、零依赖、强沙箱、自带“故障转移”！
Rust版OpenClaw——Moltis问世。其零依赖、全沙箱、反泄露，以Rust架构带来多好处，还统一模型接口，支持本地模型离线运行，安全和存储机制出色，是面向生产的Agent框架。
一天两枚“代码核弹”：OpenAI 祭出首个“主打实时协作”的 Codex 模型，谷歌放出 Gemini Deep Think，码力冲到世界前8
OpenAI 发布 GPT - 5.3 - Codex - Spark 研究预览版，专为实时编码设计，降低交互延迟。谷歌更新 Gemini 3 Deep Think，面向科研与工程难题，在多领域测试表现出色，二者引发网友热议。
Demis Hassabis 达沃斯访谈：比工业革命大 100 倍的变革
2026年1月达沃斯论坛，Bloomberg主持人Emily Chang采访Google DeepMind CEO Demis Hassabis。访谈涉及AGI时间线、中国竞争等热门议题，Hassabis认为AI变革是工业革命100倍，还分享对各方面看法。
Google 在 AI 竞赛中如何从落后到反超的故事
本文讲述 Google 在 AI 竞赛中从落后到反超的历程。曾因傲慢错过先机，ChatGPT 问世后 Google 陷入恐慌，后通过创始人回归、团队合并、召回人才等举措，让 Gemini 模型多项指标超越 ChatGPT，实现逆袭。
微软：DeepSeek-R1等推理模型循环的原因找到了
前几天，DeepSeek - R1论文更新，披露诸多细节。重点是推理模型在低温/贪心解码下易循环，根源是学得不对，如风险规避式复读、时序相关错误复读，还给出解决方案。
Gemini 3预训练负责人警告：模型战已从算法转向工程化！合成数据成代际跃迁核心，谷歌碾压OpenAI、Meta的秘密武器曝光
2025年底大模型“年终决战”，Gemini 3强势突围。其预训练负责人Sebastian Borgeaud指出，谷歌转向“做系统”，AI进入“数据有限”阶段，合成数据等构成未来进化路径，还分享了预训练热点与挑战。
黄仁勋CES2026最新演讲：三个关键话题，一台“芯片怪兽”
北京时间1月6日，英伟达CEO黄仁勋在CES2026演讲。回顾过去一年开源模型发展，本次围绕系统与基础设施、模型、应用落地三条主线演讲，展示Rubin架构等成果，推动推理型AI发展及应用。
QwenLong-L1.5发布：一套配方，三大法宝，让30B MoE模型长文本推理能力媲美GPT-5
通义文档智能团队推出QwenLong - L1.5，提供长文本推理后训练“配方”，含数据合成管线、强化学习方法和智能体架构。通过三大“法宝”重塑模型能力，效果显著，相关代码已开源。
Manus 产品立项初期会议纪要
该文是 Manus 产品立项初期会议纪要，从核心定位到技术架构、用户体验、人机协作等多方面深入探讨，为项目明确战略、技术、产品层面核心原则，开启重新定义智能体之旅。