「推理优化技术」共找到 5274 篇相关文章
技术教科书：顶级开发团队设计的Harness工程项目源码什么样
本文深入剖析某顶级AI Agent研究团队的工业级Harness项目源码，涵盖项目全景、启动流程、工具系统等多方面，提炼构建顶级Harness工程方法论，还介绍隐藏彩蛋，展示团队技术实力与独特魅力。
AI研发新范式：基于技术方案全链路生成代码
文章指出过往代码补全方式存在局限，腾讯广告审核团队探索新AI开发范式。介绍业界AWS、Lovable范式，阐述审核团队实践范式，含定义、技术选型、过程标准化等，还提及进展、困难与未来展望。
吴晓波探展模力工场：开发者从技术到商业化的关键一跃
2025年9月25日，吴晓波在阿里云栖大会模力工场xAI交易所展台，指出AI应用落地痛点是连接问题。阿里云此前发布多项进展，模力工场承办“AI超级交易所”，其7个应用能解决企业痛点，还提供商业化加速服务。
LLM算力告急？把文本变图片，推理成本直接减半！
大型语言模型处理长文本时计算成本高，本论文探索‘文本即图像’输入压缩策略，将长文本渲染为图像输入多模态模型，可减少近一半令牌，且任务性能不受显著影响，在多任务中验证了其有效性。
深入理解OpenClaw技术架构与实现原理（下）
文章为《深入理解OpenClaw技术架构与实现原理（下）》，讲解各系统模块，如SandBox沙箱系统、记忆管理等，还介绍自进化、工作区与路由等机制，最后展望企业级智能体架构和应用方向演进。
Kubernetes环境中作业帮大模型服务流量调度优化实践
随着大语言模型应用渐广，Kubernetes 现有 Ingress 组件在大模型服务流量管理上有局限。作业帮提出创新调度方案，整合成模型网关，具备五项核心功能，提升了资源效率、稳定性和易用性。
微软深夜发布SambaY架构，Phi-4min加速10倍推理
微软基于Phi - 4 - mini微调出Phi - 4 - mini - Flash - Reasoning 3B模型，扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行速度比前代快10倍，有诸多优点。
北大开源统一世界模型框架：多类合成推理任务一套搞定
世界模型研究中，不同任务存在接口不统一等问题。北大DCAI课题组联合多方推出OpenWorldLib推理框架，整合多模态能力，构建标准化接口体系，在多任务上评估效果良好，降低研发门槛。
为什么我坚决投入GEO（生成式引擎优化）？
AI改变流量分配规则，站长竞争焦点从‘排名位置’变为‘被引用率’，GEO应运而生。作者总结了GEO打法，如优化全站、关键页面，做结构化数据增强，还应用于自身产品。
Transformer危！谷歌MoR架构发布：内存减半推理速度还翻倍
谷歌推出全新底层架构Mixture-of-Recursions（MoR），推理速度提高2倍、KV内存减半，首次在单一框架实现多任务处理与动态分配计算资源，研究人员通过实验验证其性能超Transformer。