「大模型推理系统」共找到 9182 篇相关文章
谷歌 Java 代理开发工具包新增 LangChain4j 集成
谷歌 Java 代理开发工具包（ADK）0.2.0 版本集成了 LangChain4j，显著扩展功能，让开发者能使用更多模型。谷歌开发者 Guillaume Laforge 解释其优势，ADK 还引入系列增强提升性能。
Meta通过简单算术解锁LLM SoTA性能
大型语言模型训练耗算力与时间，传统模型融合方法有局限。本文提出SoCE新方法，通过筛选专家模型、非均匀加权平均融合，在多评测中实现先进性能，为LLM优化提供新思路。
LLM 竟然会内省！Anthropic 整了个大活：首次揭开 AI 意识
Anthropic最新研究《大语言模型中涌现的内省意识》，首次通过直接操控模型内部状态验证AI能否觉察自己思想。研究采用概念注入技术，发现AI有内省能力，且不同模型表现有差异。
从 GPT 到 Agent，技术与业务如何“双向奔赴”
InfoQ《极客有约》X AICon 直播栏目邀请徐文健、李陈忠、张昊阳探讨大模型产品落地路径。他们分享从 GPT 到 Agent 的经历、认知转变，讨论通用 Agent 及创业机会，还谈及 AI 产品难点和人才标准变化。
GPT-6 Sol和Opus 5.2同时灰测！奥特曼阿莫迪周末刚喊刹车，一上班就踩油门
本文爆料OpenAI和Anthropic同步灰度测试新一代大模型GPT-6 Sol和Claude Opus 5.2，对比了模型性能提升，同时提到OpenAI GPT-5.5即将退役，带来AI大模型领域最新前沿动态。
The Batch：826 | 提高输出准确性的记忆层
通常提高大语言模型事实准确性需更大模型规模，会增加计算成本。Meta研究人员在transformer架构加可训练记忆层，可高效存储提取信息，提升计算效率，测试显示其能提升模型输出质量。
Evaluation is All You Need：评估设计的微小差异如何扭曲结果
论文以DeepSeek - R1 - Distill系列模型为例，指出大模型评估中看似客观的基准测试结果对评估细节极度敏感，细微评估条件变化会致分数波动大，削弱模型对比可信度，呼吁建立新评估标准。
在 Cache-DiT 框架下实现原生 Serving功能
Cache-DiT 是唯品会开源的 PyTorch 原生 DiT 推理加速引擎，此前聚焦离线推理。现实现完整 Serving 功能，支持单卡与分布式推理模式。文章介绍其实现过程、借鉴 SGLang 的设计，还总结踩坑及使用方法。
NIPS2025 | A-Mem让Agent拥有动态自我记忆功能，达到新SoTA
近年来，LLM代理需长期内存系统，但现有系统缺乏灵活性。论文提出A - Mem能动内存系统，受Zettelkasten启发，能让记忆‘自我整理’和‘自我更新’，在多基准测试领先，也指出了局限性和未来方向。
Claude Code与Codex六大组件拆解
文章指出如今如GPT - 5.6等模型的裸能力相近，但装进Claude Code 或 Codex CLI 后表现差距大，原因在于Agent Harness。它将编码智能体拆解为六个核心组件，详细阐述各组件作用与意义。