「推理加速技术」共找到 4938 篇相关文章
赌自己会失业！田渊栋八人天团狂揽44亿元，杀入「递归进化」赛道
Recursive Superintelligence由八位顶尖AI研究员创立，获GV、英伟达等投资6.5亿美元。他们要让AI自我训练，实现递归自我进化，若成功或使AI研究员岗位消失。此前已有相关成果，产品端Anthropic也在推进AI主动性。
阿里巴巴 & 蚂蚁 LoongSuite GenAI 可观测语义规范：从统一数据语言到规模化落地
随着GenAI发展，OpenTelemetry推动语义规范建设。阿里巴巴与蚂蚁联合推出LoongSuite GenAI SemConv，在OTel基础上增强，新增Entry/Step Span、Skill语义、Token级推理观测，还推出GenAI Utils简化插桩开发。
去掉 VAE 之后，商汤用 8B 参数重新定义了开源生图的上限
商汤SenseNova U1开源后引发开发者社区关注，它基于NEO - unify架构，摒弃VAE，实现多模态理解与生成原生统一。在多项基准测试中表现出色，还针对企业办公场景优化，成为生产级任务新选择。
13人干翻Transformer！新架构SSA算力暴减千倍，成本仅Opus 5%
一款基于SSA架构的AI模型SubQ横空出世，其上下文高达1200万Token，计算量比Transformer暴减1000倍，成本不到Claude Opus的5%。打造它的Subquadratic公司仅13人，产品发布后引发AI社区不同反应。
京东广告大模型实战：GRAM 架构如何在 50ms 内完成生成式推荐？
流量红利见顶，广告营销转型遇挑战。京东张泽华在大会公开应对方案，介绍 GRAM 架构，实现意图与商品语义对齐，控制推理时延，解决冷启动等问题，还分享算法与知识工程实践。
MUSA获得SGLang主线支持！5月10日北京，AI Meetup等你来
5月10日北京将举办「SGLang × MUSA」技术沙龙。契机是摩尔线程MUSA后端加入SGLang官方支持体系，代码合入主线，开发者可原生调用摩尔线程GPU。还将探讨框架适配、算子编译等议题。
RF-DETR-首个突破60 AP的实时检测器（附实战教程）
RF-DETR在COCO数据集上，实时检测精度首破60 mAP，兼顾实时性与高精度。它通过NAS找到Transformer实时运行的‘最优解’，迭代快，适用于多场景，还给出完整实战教程。
“为了一个功能，需要再造一个Google！”Jeff Dean最新对话：TPU的诞生，与那些差点把服务器烧了的疯狂往事
在Google Cloud Next上，Jeff Dean和Amin Vahdat分享了Google算力帝国崛起秘史。从TPU诞生背景，到自研硬件血泪史，再到软硬件协同设计，还探讨了AI未来瓶颈，如能源、硬件等，以及代码编写现状。
成立半年连续获数千万融资，智子芯元凭什么卡位国产算力生态？｜甲子光年
智子芯元成立半年获数千万天使轮融资。国产AI算力生态面临适配难题，该公司用“AI+运筹”解决。其核心技术“运筹学x大模型”，自研KernelCAT引擎，实现多场景高效交付，具泛化性。
近期，不错的LLM Agent统一记忆框架综述~
随着GPT、Qwen、Claude等大模型能力提升，LLM-based Agent走向长期任务。论文提出统一框架拆解Agent Memory为四组件，围绕两个数据集复现比较10个方法，还设计出新的低token开销框架。