「后Transformer架构」共找到 3678 篇相关文章
Meta打碎Transformer 8年铁律！改写AI最底层规则，模型首次冒出潜意识
Meta推出「自由Transformer」新模型，打破自2017年以来GPT模型核心规则，在解码器引入潜在随机变量Z，增加“潜意识”。仅增约3%计算开销，在多测试中超越大规模模型，或开启后自回归时代。
不跟英伟达走老路，这家GPU公司的技术架构藏着哪些关键解？
在国产GPU上市黄金窗口期，天数智芯上市后首场发布会引发广泛讨论。其公布架构路线图，2027年前追赶英伟达，之后转向创新架构设计。还提出回归计算本质、提供高质量算力两条架构判断，并展示边端算力产品及应用。
AI 时代的架构治理
本文指出在生成式AI时代，软件开发生命周期瓶颈转变为组织将创意转化为成果并保持架构凝聚力的能力。传统人工监督模式难应对，提出声明式架构策略，介绍其在事件模型、OpenAPI验证器等方面应用。
聊聊AI应用架构演进
本文按AI应用架构演进路线，介绍每次演进增加的架构内容及相关技术，涵盖从简易架构到Agent模式等各阶段，还提及监控、推理性能优化等，助读者整理新技术，为探讨AI与传统应用架构异同做调研。
后训练中的RL已死？MIT新算法挑战传统后训练思维，谢赛宁转发
MIT研究人员提出RandOpt新算法，挑战传统后训练思维。该算法通过随机扰动和集成突破限制，在多任务中表现出色，揭示了预训练模型权重空间的“神经丛林”现象，引发AI社区关注。
Transformer 中的专家混合模型 (MoE)
文章介绍Transformer中专家混合模型（MoE），它能解决稠密模型扩展瓶颈。阐述其优势，如计算高效、适合并行等，还介绍在transformers库中支持稀疏架构的演进，包括权重加载重构、专家执行后端、专家并行及训练方案。
总成本降低30倍，告别昂贵后训练，在线策略蒸馏敲开大模型后训练的未来
明星公司Thinking Machines由前OpenAI首席技术官联合创立，其研究团队提出在线策略蒸馏的LLM后训练方法。该方法结合在线策略训练与蒸馏优势，解决后训练两难困境，成本降30倍，还为持续学习和个性化打开新大门。
实战指南：从零构建 MCP 架构下的 Agentic RAG 系统，无第三方MCP Server
五一期间作者用MCP架构从零实现Agentic RAG系统，分享MCP与Agentic RAG融合思考、架构设计，介绍MCP服务端和客户端实现，还做了端到端效果演示，指出架构优势及待优化处。
DeepSeek之后：中国开源人工智能生态的架构选择
自2025年1月“DeepSeek时刻”，中国开源社区有历史性进展，讨论焦点从模型转向架构与硬件选择。技术架构多元，多模态能力扩展，开源许可宽松，小模型走红，本土硬件采用加快。
Meta全新AI组织架构曝光，这范儿有点字节
Meta内部组织调整后，全新架构浮出水面，围绕‘超级智能实验室’整合出3400多人的新组织，负责人是亚历山大·王。其分工类似字节AI架构，还在挖人，有反噬风险。