「扩散Transformer架构」共找到 2136 篇相关文章
融资 1200亿后 Kimi 再扔王牌，新架构爆改 Transformer 老配件，比 DeepSeek 同款还省钱
Kimi 发布新论文，提出“注意力残差”架构改进 Transformer 残差连接，解决“稀释问题”，让 AI 更聪明、更省钱，还推出“分块注意力残差”优化成本。与 DeepSeek 方案对比，Kimi 方案性价比更高。
曾经年薪百万的架构师，如今是否要靠AI保饭碗？对话5位顶尖架构师：未来的架构师，不写代码也得懂AI
本文围绕AI时代架构师角色转型展开深度对话，多位专家认为AI引发架构师角色定位转变，架构师需将重心转向战略层面，新职业形态涌现。AI提升架构治理效率，也带来范式变化，架构师应积极拥抱变化。
曾经年薪百万的架构师，如今是否要靠AI保饭碗？对话5位顶尖架构师：未来的架构师，不写代码也得懂AI
文章围绕AI时代架构师角色转型展开，多位专家认为AI引发架构师角色定位转变，新职业形态涌现。AI工具提升开发效率，架构师需转向战略层面，还探讨了AI对架构设计流程、团队协作的影响及应对建议。
非Transformer架构落地之王，带着离线智能和原生记忆能力在上海WAIC浮出水面
在上海WAIC现场，RockAI展台的机器狗和灵巧手在离线状态表现出色，背后是其非Transformer架构的大模型Yan 2.0 Preview，有原生记忆和离线智能能力。该公司成立两年，押注此架构，产品已商业落地，还构想群体智能未来。
统治AI十年的Transformer，要被亲爹亲手砸碎？
5月5日旧金山的辩论赛上，Transformer联合发明人Łukasz Kaiser为其作品辩护，三位挑战者指出Transformer五大死穴。Kaiser称除非新架构证明有更好的scaling曲线，否则Transformer仍是主流，还给出具体辩护。
通过架构建议流程实现架构决策的去中心化
Andrew Harmel - Law 在 Goto 大会提出架构建议流程，认为传统架构实践不可扩展，架构需去中心化。该流程让任何人可做决策，只需向受影响者和专家寻求建议，还提到失效模式及实践转变。
刚刚，OpenAI新Transformer火了！Astra架构首次曝光
OpenAI下一代Astra采用「循环深度」推理方法，思考Token减少但性能提升，不过其思考过程难监控。此前业界已对「循环Transformer」有研究，该架构适合数学编程任务，Astra实力获验证，GPT - 6或即将发布。
盘一盘，2017年Transformer之后，LLM领域的重要论文
本文梳理2017年Transformer后LLM领域重要论文。如提出Transformer架构的论文成现代AI基石；介绍GPT - 3的论文确立‘大模型 + 大数据’缩放定律，引领LLM军备竞赛等。还列举各论文内容与影响。
DeepMind：Transformer存在拓扑缺陷，思维链治标不治本
谷歌DeepMind论文指出，Transformer架构不擅长追踪状态，思维链只是给结构性缺陷打补丁，成本高。论文主张用循环架构替代或补充纯前馈结构，还提出多个研究方向，认为下一代模型需构建‘流动的现实表示’。
Transformer亲爹痛斥：当前AI陷死胡同，微调纯属浪费时间！
Sakana AI创始人Llion Jones是Transformer发明者之一，他警告当前Transformer虽成功，但业界或重蹈RNN覆辙，无数微调是浪费时间。他认为现在LLM非通用智能，已转向探索生物学启发的新架构。