「全栈优化」共找到 3114 篇相关文章
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
AI研发新范式：基于技术方案全链路生成代码
文章指出过往代码补全方式存在局限，腾讯广告审核团队探索新AI开发范式。介绍业界AWS、Lovable范式，阐述审核团队实践范式，含定义、技术选型、过程标准化等，还提及进展、困难与未来展望。
AI Agent平台Sedai获2000万美元融资，主打云优化
AI Agent平台Sedai获2000万美元B轮融资，由AVP领投。它聚焦云优化，用智能体取代人工运维，节省成本。产品应用广泛，核心能力突出，2024年收入增长7倍，计划扩平台、引新功能、扩市场团队。
你们催更的模型，云栖大会一口气全发了！
云栖大会上新6款模型、发布1个全新品牌，覆盖多场景。如Qwen MAX万亿参数大模型能力登顶国际榜单，Qwen3 - Omni实现全模态不降智等，各模型能力升级显著，现已同步上线。
人在美国，待过三家AI Lab，全凉了！
科技行业大裁员，Meta裁掉老将田渊栋，AI从业者人心惶惶。南洋理工大学副教授Boyang Li工作过的三家工业研究实验室全倒闭，他分享经历，探讨工业研究困难的原因。
150%训练效率提升：感知检测小模型训练优化方法
文章基于业务实践，总结感知检测小模型在不同算力卡上的训练方法，为智能驾驶场景提供借鉴。介绍测试环境、技术架构，分析环境依赖冲突、源代码适配等问题并给出解决方法，还提及性能优化及测试结果。此外还介绍用 RAGFlow 构建私有知识问答应用。
开放全栈！超越π0，具身智能基础大模型迎来真·开源，开发者狂喜
继π0后，具身智能基座模型WALL - OSS正式开源，多项指标超越π0。它是通用多模态具身模型，具良好推理和泛化能力。背后自变量机器人刚完成近10亿A + 轮融资，开源将降低具身智能门槛。
为什么我坚决投入GEO（生成式引擎优化）？
AI改变流量分配规则，站长竞争焦点从‘排名位置’变为‘被引用率’，GEO应运而生。作者总结了GEO打法，如优化全站、关键页面，做结构化数据增强，还应用于自身产品。
开源即爆火！英伟达重磅推出OmniVinci全模态大模型
英伟达在华盛顿GTC大会开源OmniVinci全模态大语言模型，实现视觉、音频、语言统一理解。它性能超竞品，架构有创新，数据引擎庞大。实验有重要洞察，在多场景表现佳，代表全新AI范式。
科研的回归：AutoSOTA如何终结“增量式优化”的重复劳动
当前AI科研中，为提升性能指标，研究者投入大量精力做“增量式优化”，限制原创探索。AutoSOTA项目由清华与中关村学院联合发布，它基于智能体系统构建自动化方案，接管实验迭代，一周发现105个SOTA模型，推动科研回归原创。