「架构优化」共找到 2834 篇相关文章
20000 GPU·h砸出 106 个SOTA模型架构：AI 科研进入“自我加速”时代
模型架构发现领域迎来突破，ASI - ARCH超级智能体无需人类预设搜索空间，完成科研闭环。经20000 GPU·h、1773次实验，发现106个超越人类SOTA的线性注意力架构，且已开源。
重新审视SFT的泛化能力：优化动态、数据与模型能力的条件性分析
上海人工智能实验室等联合研究质疑了‘SFT倾向于记忆，RL实现泛化’观点，指出SFT泛化是条件性现象，受优化动态、训练数据、基模型能力影响，还揭示长思维链SFT会带来安全性能退化。
北大彭一杰教授课题组提出RiskPO，用风险度量优化重塑大模型后训练
北大彭一杰教授课题组提出 RiskPO，解决大模型后训练陷入「均值陷阱」问题。它将风险规避理念融入优化目标，用「关注奖励分布左尾」替代「追求整体均值」，在多领域数据集上表现超越 GRPO 等。
中学生就能看懂：从零开始理解LLM内部原理【十三】｜GPT 架构如何工作 ？
本文是对GPT架构工作原理的解读。介绍了GPT与Transformer的关系，阐述其从输入文本到预测下一词概率的流水线，详述训练和推理流程，还提及GPT架构进化的混合专家（MoE）模型。
秒级集群翻转、分钟级IDC故障止损 | 同程大规模Elasticsearch平台架构设计与实践
在数据驱动时代，同程旅行核心业务依赖Elasticsearch，随着集群规模扩大，面临对用户、运维、平台要求高的挑战。本文分享同程ES平台架构设计、解决方案与实践成果，还展望借助大模型提升智能化水平。
6.6K标星！微软开源Agent自我优化框架，为智能体注入持续学习能力！
开发AI Agent常面临部署后难自动优化的问题。微软开源的Agent Lightning，加几行代码就能让Agent自动学习、持续优化，有事件追踪等核心能力，安装简单，应用场景丰富。
企业级 Agent 多智能体架构与选型指南 -- 来自1000+行业应用实践积累
本文基于超1000+智能体应用实践经验，介绍企业级Agent多智能体架构。强调单智能体优先，介绍AgentScope支持的多智能体模式，对比工作流与对话模式，给出架构选型指南，还提及Spring AI Alibaba Graph为多智能体提供的能力。
Kimi开源新线性注意力架构，首次超越全注意力模型，推理速度暴涨6倍
月之暗面发布开源Kimi Linear架构，用新注意力机制首次超越全注意力模型。长上下文任务中，它减少75%的KV缓存需求，推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。
国产AI首次「长出」原生记忆，非Transformer架构成新王！机器狗当场引爆WAIC
WAIC世界人工智能大会上，国产黑马RockAI的大模型Yan 2.0 Preview亮相，可多终端无损部署。它基于非Transformer架构，训练效率高，有原生记忆，实现端侧AI，展现出自主学习和多模态能力，引发关注。
AI 基础知识从 0.5 到 0.6—— Transformer 架构为何能统治AI领域？
文章围绕Transformer架构展开，先介绍其诞生背景，对比CNN、RNN等模型，阐述其在多领域的核心地位。接着剖析工作流程、实现原理，包括QKV机制、多头注意力等。最后列举T5、GPT等常见架构模型，并提及通义千问3与MCP协议。