「架构优化」共找到 2834 篇相关文章
智能体请求暴增 9.4 倍，token 账单却没涨：Uber 公开 AI 软件工厂省钱方法
AI 工具已嵌入 Uber 软件开发各阶段，智能体请求量增长 9.4 倍，但 AI 总支出自 4 月相对稳定。文章介绍其软件工厂思考，包括智能体会话层级、成本公式、指标测算及优化手段，还提及未来举措。
跨层压缩隐藏状态同时加速TTFT和压缩KV cache!
论文 UNCOMP 被 EMNLP 2025 主会接收，提出高效推理框架，用截断矩阵熵解释 LLM 稀疏化，据此设计 UNCOMP 框架，通过压缩隐藏状态优化 KV Cache，实现计算与内存联合优化，实验效果显著。
美团之后，京东也开始自研大模型了
京东发布JoyAI - LLM Flash模型，激活参数小、推理快。它采用混合专家架构等技术，在基础架构、数据加工、强化学习等方面表现出色，还通过多Token预测等技术加速推理，为商业场景落地扫清障碍。
将庞大3D世界装进手机！李飞飞Spark 2.0开源
李飞飞团队开源核心技术Spark 2.0，可优化3D世界，让普通设备通过浏览器流畅访问交互。它有自动选细节、分批加载、优化存储三绝招，适配主流框架，有望改变与数字世界互动方式。
大模型Agent的核心还是prompt？ 目前有什么挑战？
文章指出大模型Agent核心并非Prompt，而是工程化架构设计、工作流编排与数据闭环。介绍Flow Engineering等概念及工具，分析规划、记忆、工具使用要点，还谈及开发面临的延迟、稳定等挑战，并给出应对建议。
全员本科生！何恺明组新作：文生图，258M参数就够了
何恺明携本科生团队推出文生图模型MiniT2I，基于MM - JiT架构，仅用258M参数实现不错效果，训练成本低。该架构删繁就简，去掉VAE和AdaLN等模块，性能提升，展现出与工业级模型的竞争力。
Karpathy新思考：别把AI当动物，它们是全新的智能物种
Andrej Karpathy发长推提出颠覆性观点，认为人们用错误框架理解AI，对比了动物智能与LLM智能的优化动力、根本差异等，强调优化目标决定智能形态，指出应按其机制对待AI。
DataBuddy：数据语义驱动的企业 Agent Runtime 设计与落地｜AICon 深圳
2026年AICon深圳站8月21 - 22日举办，聚焦多关键方向。腾讯彭锦文将分享《DataBuddy：数据语义驱动的企业Agent Runtime设计与落地》，拆解DataBuddy相关架构，还介绍演讲痛点、听众收益等，大会有10个专题论坛。
均值至上假繁荣！北大新作专挑难题，逼出AI模型真本事
当强化学习成大模型后训练核心工具，主流方法陷入「均值优化陷阱」，推理能力停滞。北大团队提出RiskPO，将风险规避理念融入优化目标，用MVaR+捆绑策略双管齐下，三大任务表现优异。
一篇95页最新80种Deep Research系统全面综述
浙大研究深度研究系统领域，分析自2023年以来80多个实现，提出4维度分层分类法，全面剖析4种实现架构，如单体、流水线、多智能体和混合架构，并阐述各维度演变与进步。