「推理工程」共找到 2752 篇相关文章
Agent上下文工程被Cursor玩出了新高度~
Cursor的agent为所有模型使用动态上下文，在保持质量时更智能填充上下文。代码Agent改变软件开发方式，Cursor提出动态上下文发现模式，介绍了在其中使用该模式的做法及优势。
2025 年 InfoQ 趋势报告：AI、ML 和数据工程
InfoQ AI ML 趋势报告基于编辑团队与嘉宾播客，总结 AI、ML 技术发展趋势。涵盖 AI 代理、多模态语言模型等创新领域，也提及早期采用者、早期多数、晚期多数类别的技术，还对 2025 年相关领域发展作出预测。
视觉感知RAG × 多模态推理 × 强化学习 = VRAG-RL
数字化时代视觉信息愈发重要，传统RAG方法处理视觉信息面临挑战。阿里巴巴通义实验室的VRAG - RL将强化学习引入多模态智能体训练，革新检索生成范式，提升视觉语言模型多方面能力，代码已开源。
Codex在推理框架上能蹬出什么优化
作者复盘用Codex在SGLang中的实践，原本需3 - 4个月的工作量现缩短为1个半月。介绍保证代码质量方法，分享印象深刻的debug经历，列举在SGLang用Codex一个月的优化成果，还提及Claude Code使用遇阻。
高通要发两款AI推理芯片，资本市场反应强烈
高通周一宣布明年推AI200芯片，2027年跟进AI250，股价应声上涨。两款芯片基于移动神经处理技术，专攻AI模型部署，沙特AI公司已计划采用，高通想借此进军AI芯片市场。
上下文工程又进化了：Harness实现AI完全自主化
近期Harness Engineering讨论火热，Harness是围绕AI模型的支撑架构，Anthropic用其突破AI局限，解决AI完成复杂任务时的偷懒问题，还通过多智能体架构用于前端设计、软件开发，经实战检验效果良好，后续还对其进行简化。
OpenClaw 火了半年，Agent 执行层依然是工程空白
当前主流 Agent 工具链执行层基本空白，Violoop 是少数在执行层做系统化设计的项目。它是桌边触屏硬件，获取三类运行时数据，具备感知 - 判断 - 执行运行时，有多种核心能力，适合特定场景团队评估。
千星项目LLMRouter：多模型路由，16+策略优化推理
UIUC开源智能模型路由框架LLMRouter，可自动为大模型应用选最优模型，有16+路由策略。该框架打通训练、评测等链路，解耦Route与Training模块，支持多轮协同等，还可插件式扩展。
DeepSeek又拿第一！首创「因果流」视觉推理，超越Gemini
DeepSeek开源DeepSeek - OCR2，引入DeepEncoder V2视觉编码器，打破传统模型扫描限制，模仿人类视觉「因果流」逻辑。它解决了传统VLM忽略图像语义结构问题，在多项测试中表现出色，还验证了「LLM作为视觉编码器」可行性。
RTP-LLM 在相关性大模型中的推理优化最佳实践
淘宝搜索场景引入大参数LLM模型，面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践，如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等，还提及未来优化方向。