「Agent推理」共找到 4649 篇相关文章
阶跃终端首款「Agent手机」STEPX Neo正式发布，创客先行
本文作者实测体验阶跃终端推出的首款大模型原生Agent手机STEPX Neo，介绍了产品设计、原生Agent系统能力、创客开发生态与系统级安全方案，公布了产品定价与用户福利。
SmartSearch：奖励驱动query精炼，让Agent中的RAG会“改错”
现有LLM搜索Agent忽视‘如何提问’致答案易出错。SmartSearch提出‘过程奖励+查询精炼’双机制，让Agent学会‘写不好就改’，代码已开源。经实验，它在六数据集全面领先，各机制缺一不可。
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
Apple 终于承认了：Mac mini 正在变成一台 Agent 服务器
苹果偷摸发布新 Mac mini，处理器升级到 M6 和 M5 Pro，官方将其置于 Agent 常驻使用场景，产品边界向 Agent 服务器延展。新款性能提升显著，Mac Studio 也有强大配置，Apple 产品线朝本地 AI 计算基础设施转变。
PC 软件为手机重做了一遍，现在轮到 Agent 了
2月10日，笔记软件Obsidian发布含命令行工具的1.12版，画图工具Draw.io和Excalidraw发布MCP接口，显示软件正为AI Agent重做接口。此前Anthropic和OpenAI也发布了强大的Agent模型。
阿里SkillClaw：让 Agent 技能在真实使用中集体进化
当前LLM Agent依赖可复用技能完成任务，但技能部署后静态不变，改进仅停留在当前会话。阿里SkillClaw提出中心化进化架构，将多用户交互作为技能改进信号，通过Agentic Evolver更新技能，经夜间验证后部署。
关键技术详解｜腾讯一念 LLM 分布式推理优化实践
InfoQ 邀请袁镱分享《一念 LLM 分布式推理优化实践》。介绍了“一念 LLM”设计思路、推理优化挑战与突破等，还对比不同框架，指出优化方向，如先实现 PP，再推进 EP 与 PD 分离。
AI开始学会合作？！实测4大多Agent体=10个打工人
Agent热潮进入多智能体时代，多款产品涌现。鲸哥测评了它们在商业计划、运营设计等四大场景表现，总结各产品亮点与不足，指出多Agent正推动大模型向“协作式智能群体”演进。
AI Infra入门干货总结：大模型是如何高效推理的
作者深入研读vLLM源码，以Llama 3为例，聚焦Decoder-Only架构LLM，介绍推理各环节及张量维度变化，讲解连续批处理和Paged Attention概念，还阐述推理流程、采样策略等，最后总结相关拓展内容。
OpenAI新Agent遭中国24人初创团队碾压！实测成本、质量全输惨，海外用户：中国Agent代差领先
昨日凌晨，OpenAI推出ChatGPT Agent新功能，标志其踏入“智能体人工智能”领域。虽官方称该功能性能先进，但实际效果有局限。海外网友对比发现，它被中国24人初创团队产品Genspark等碾压。