「推理优化技术」共找到 5340 篇相关文章
大模型"温故而知新"实现了！无需历史数据，Octopus 效果超越全数据训练｜CVPR‘26 Octopus
上海交通大学与vivo团队提出全新持续学习框架Octopus，首创无需历史数据的梯度正交化技术。实验显示，它在UCIT基准上表现超SOTA方法，还实现正向后向迁移，适合端侧部署。
一个月的活一周干完！英伟达世界模型训练速度飙升400%
英伟达世界动作模型 DreamZero 训练成本高、耗时长，无问芯穹与清华等推出的 RLinf 框架，从算子融合到 I/O 全链路系统级重构，使训练吞吐拉高近 4 倍，还解决多类性能瓶颈，保证训练效果。
苏姿丰上海开讲：AI正在重新定义计算的每一层
AMD AI开发者大会首次落地上海，AMD董事会主席苏姿丰指出AI正在重新定义计算的每一个层次，AI竞争焦点正从模型能力转向系统工程与全栈优化能力，AMD带来系统性回应。
阿里巴巴 & 蚂蚁 LoongSuite GenAI 可观测语义规范：从统一数据语言到规模化落地
随着GenAI发展，OpenTelemetry推动语义规范建设。阿里巴巴与蚂蚁联合推出LoongSuite GenAI SemConv，在OTel基础上增强，新增Entry/Step Span、Skill语义、Token级推理观测，还推出GenAI Utils简化插桩开发。
13人干翻Transformer！新架构SSA算力暴减千倍，成本仅Opus 5%
一款基于SSA架构的AI模型SubQ横空出世，其上下文高达1200万Token，计算量比Transformer暴减1000倍，成本不到Claude Opus的5%。打造它的Subquadratic公司仅13人，产品发布后引发AI社区不同反应。
京东广告大模型实战：GRAM 架构如何在 50ms 内完成生成式推荐？
流量红利见顶，广告营销转型遇挑战。京东张泽华在大会公开应对方案，介绍 GRAM 架构，实现意图与商品语义对齐，控制推理时延，解决冷启动等问题，还分享算法与知识工程实践。
MUSA获得SGLang主线支持！5月10日北京，AI Meetup等你来
5月10日北京将举办「SGLang × MUSA」技术沙龙。契机是摩尔线程MUSA后端加入SGLang官方支持体系，代码合入主线，开发者可原生调用摩尔线程GPU。还将探讨框架适配、算子编译等议题。
RF-DETR-首个突破60 AP的实时检测器（附实战教程）
RF-DETR在COCO数据集上，实时检测精度首破60 mAP，兼顾实时性与高精度。它通过NAS找到Transformer实时运行的‘最优解’，迭代快，适用于多场景，还给出完整实战教程。
“为了一个功能，需要再造一个Google！”Jeff Dean最新对话：TPU的诞生，与那些差点把服务器烧了的疯狂往事
在Google Cloud Next上，Jeff Dean和Amin Vahdat分享了Google算力帝国崛起秘史。从TPU诞生背景，到自研硬件血泪史，再到软硬件协同设计，还探讨了AI未来瓶颈，如能源、硬件等，以及代码编写现状。
近期，不错的LLM Agent统一记忆框架综述~
随着GPT、Qwen、Claude等大模型能力提升，LLM-based Agent走向长期任务。论文提出统一框架拆解Agent Memory为四组件，围绕两个数据集复现比较10个方法，还设计出新的低token开销框架。