「大模型Agentic推理框架」共找到 9595 篇相关文章
AI Infra入门干货总结：大模型是如何高效推理的
作者深入研读vLLM源码，以Llama 3为例，聚焦Decoder-Only架构LLM，介绍推理各环节及张量维度变化，讲解连续批处理和Paged Attention概念，还阐述推理流程、采样策略等，最后总结相关拓展内容。
评论送书 | 一文读懂多Agent系统演进趋势
文章指出多Agent系统成大模型应用重要方向。分析大模型交互的上下文瓶颈，如语义膨胀、信息密度不均等；阐述Agent间协同结构演化，包括松耦合编排、语义协同等；还说明传统Prompt工程局限及通信与上下文协议的作用。
Chaterm Agent Skills + 千问大模型，智能运维再进化
文章介绍Chaterm Agent Skills与千问大模型结合用于智能运维。它能将运维经验打包成技能，提供三种模式，缩短运维时间。文中还阐述了技能概念、工作原理、技术实现及实战案例，鼓励用户尝试创建技能。
Anthropic 断供，国产 Coding 模型的中场战事开启
Anthropic对中国企业断供，国产模型面临成为Claude平替的机遇。Kimi等模型纷纷尝试，Kimi K2 0905版本在编码、上下文及工具调用上提升，其终极目标或构建具Agent特质产品，未来Agent是决胜场。
7B模型对标GPT-4o，全球首个医疗代码生成大模型训练平台来了
研究团队发布全球首个医疗代码生成大模型训练平台MedAgentGym，提供评估基准和训练生态，提升大模型医疗代码生成与推理能力。经其训练的Med - Copilot - 7B达GPT - 4o相当水平，解决医疗AI编程瓶颈。
谷歌新研究：大模型“吵架”有利于提升推理质量
谷歌新研究发现高级推理模型自发进化出'思想社会'，研究人员用LLM - as - judge方法识别出多个虚拟人格。还找到控制现象的'开关'，实验表明教AI'吵架'更有效，其'社交技能'通用，给开发者带来新启示。
DeepSeek开招Harness产品经理！「参与Agent桌面端产品全过程」
DeepSeek热招Agent Harness产品经理，旨在将前沿模型能力转化为领先Agent产品。招聘详情明确职责与任职要求，释放模型和产品两手抓信号，且其融资后有商业化承诺，将加速发展。
Agentic Coding表现创新高，全新KAT系列模型强势霸榜SWE-Bench
快手 Kwaipilot 团队推出 KAT 系列两款 Agentic Coding 大模型，KAT - Dev - 32B 开源，KAT - Coder 闭源。两模型在 SWE - Bench Verified 表现出色，且在多训练阶段创新优化，有强大代码生成能力和涌现现象。
Scaling Law再现Agent领域！阿里提出训练新范式：在预训练和后训练之间还需一个Agentic CPT
近年来，大型语言模型向智能体系统进化。但当前主流方法构建智能体不佳，阿里通义实验室团队论文提出智能体持续预训练（Agentic CPT）新范式，开发AgentFounder模型，在多基准测试表现卓越。
最强编码模型 Fable 5.1 发布：性能翻倍、Agent 成本降 45%，Anthropic 把顶级模型送进真实世界
当地时间9月1日，Anthropic发布Claude Fable 5.1和Claude Mythos 5.1，新模型在多方面能力提升，Agent工作负载成本最高降45%，此次发布还涉及价格、数据留存等多方面内容，争夺高价值任务市场。