「复合LLM应用」共找到 3019 篇相关文章
性能最高提升7倍？探究大语言模型推理之缓存优化
文章探讨大语言模型推理缓存优化技术演进与未来展望，介绍了主流推理框架vLLM、SGLang，分析KV Cache、Paged Attention、Prefix Caching等技术的优化点，还提及LMCache、DeepSeek的缓存技术，最后提到MCP赋能可视化OLAP智能体应用。
蚂蚁再把医疗AI卷出新高度！蚂蚁·安诊儿医疗大模型开源即SOTA
蚂蚁集团联合多方开源的医疗大模型蚂蚁·安诊儿（AntAngelMed），一经发布就登顶多项医疗基准测试榜单，是迄今参数规模最大的开源医疗模型，应用门槛低，为行业示范出一条清晰路径。
又一款国产高性能GPU问世，实力对标海外巨头
2025年9月22日，芯动科技发布“风华3号”全功能GPU，它架构全面，功能覆盖广，在大模型等领域有多个突破，还适配多生态与系统。该产品能为多行业定制服务，标志国产GPU进入规模化应用阶段。
李飞飞押注的「世界模型」，中国自研Matrix-3D已抢先实现了？
中国自研世界模型Matrix-3D可单张图生成3D世界，效果对标李飞飞的World Labs，还能实现更大范围探索。它有诸多优势，技术上有创新，数据集有特点，应用前景广泛。
大模型竞赛转向：决胜关键为何是“后训练”？｜甲子光年
大模型价值主战场向后训练转移，Grok 4凭后训练成“宇宙最强”。产业应用中通用模型适配难，后训练方法也在进化，如采用SFT+RL等，还介绍了夸克和阿里云的后训练实践。
Gödel Rescheduler：适用于云原生系统的全局最优重调度框架
本文介绍字节跳动研发的Gödel Rescheduler重调度框架，它能解决传统调度资源分配和任务摆放问题。阐述传统重调度弊端，介绍新方案组件，列举应用场景及成果，还提及未来规划，目前已开源。
中美六大顶尖模型第一赛季实盘量化交易结果出炉：Qwen最后反超夺冠，GPT-5垫底「复盘」
Nof1机构发起Alpha Arena项目，让六个顶尖LLM在Hyperliquid交易所实盘量化交易。第一赛季已结束，Qwen夺冠、GPT - 5垫底。复盘比赛过程，发现模型行为差异大且操作有脆弱性，第二赛季筹备近尾声。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
大模型推理上限再突破：「自适应难易度蒸馏」超越R1蒸馏，长CoT语料质量飞升
本文从中兴通讯无线研究院「大模型深潜」团队切入，介绍了首创的「LLM自适应题目难度蒸馏」方法，该方法围绕「模型 - 数据动态匹配」提出了一条完整的CoT构建流程，显著提升了长CoT语料的质量。
评论送书 | 一文读懂多Agent系统演进趋势
文章指出多Agent系统成大模型应用重要方向。分析大模型交互的上下文瓶颈，如语义膨胀、信息密度不均等；阐述Agent间协同结构演化，包括松耦合编排、语义协同等；还说明传统Prompt工程局限及通信与上下文协议的作用。