「LLM框架」共找到 2428 篇相关文章
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。
Open Responses 规范实现智能体式 LLM 工作流的统一
OpenAI发布Open Responses开放规范，获Hugging Face等支持，为智能体式AI工作流制定统一标准，减少API碎片化，支持多模态输入等，引发行业对厂商锁定和生态成熟度的讨论。
NVIDIA提出小型LLM才是未来，并将重塑Agentic AI
人工智能代理快速渗透企业场景，但当前系统依赖大型语言模型，存在经济成本和效率错配痛点。NVIDIA团队提出小型语言模型才是代理AI未来，论证其能力、经济性和操作适配性优势，并给出迁移路径。
Agent框架各自为战？谷歌&微软：用Agent-KB让经验自由流动
当前不同框架的Agent知识无法互通，谷歌、耶鲁、字节、oppo等团队联合提出Agent KB，这是通用记忆基础设施，能让异构Agent框架共享经验。它有师生双阶段检索机制，实验验证其能带来显著增益。
Claude团队打开大模型「脑回路」，开源LLM思维可视化工具来了
Claude团队推出“电路追踪”工具，可生成归因图呈现LLM处理信息路径，支持在主流开源权重模型上快速生成。研究人员能借此解码LLM“决策逻辑”，官方还给出多语言电路等示例。
100 页 Agentic RL 综述！牛津、新国立、AI Lab 等联合定义 LLM 下半场
2025 年大语言模型热潮持续，但当前主流训练范式显瓶颈。牛津、新国立等 16 家机构学者发布 100 页 Agentic RL 综述，明确定义从‘会说’到‘会做’进化路径，剖析理论、结构与实践，展望未来挑战。
具身智能能力狂飙，安全却严重滞后？首个安全可信EAI框架与路线图出炉！
具身人工智能发展迅速，但能力与安全出现“脱钩”。上海人工智能实验室和华东师范大学团队撰写论文，为“安全可信具身智能”建立理论框架与蓝图，提出成熟度模型、分析框架等。
我去，真有这种，Openclaw 增强工具，ClawRouter 让 AI Agent 自己选模型、自己付钱，还能把 LLM 成本打下来 90%，爽～～
ClawRouter是开源本地LLM Router / Proxy，支持55+模型，能让AI Agent自动选模型、付费，将LLM成本降90%。它解决路由、支付等问题，适合做AI Agent、编程工具等产品的开发者。
DeepMind新论文炸锅：AI全自动进化算法，写出专家都想不到的解，网友：这可能就是“王牌”
谷歌DeepMind让LLM驱动的智能体AlphaEvolve改写、进化算法代码。选定CFR、PSRO框架，只开放关键决策逻辑给LLM，通过生成、运行、评估、筛选循环，进化出VAD - CFR和SHOR - PSRO算法，表现超人类手工版本。
交大&华为联手：AI智能体进化的五种关键能力
随着大型语言模型兴起，基于LLM的聊天机器人能完成多样语言任务。上海交通大学和华为团队提出分析框架，探讨LLM聊天机器人向AI智能体进化的五个关键维度、改进方法及未来发展方向。