「大语言模型推理」共找到 8391 篇相关文章
Jeff Dean：一年内 AI 将取代初级工程师，网友：“Altman 只会画饼，Jeff 说的话才致命”
谷歌传奇工程师 Jeff Dean 在访谈中预测，一年内将有具备‘初级工程师’能力的 AI 系统。他还谈到 AI 发展方向、智能体潜力、大模型格局等，也提及硬件重要性及 AI 在科研领域的影响。
谷歌 Java 代理开发工具包新增 LangChain4j 集成
谷歌 Java 代理开发工具包（ADK）0.2.0 版本集成了 LangChain4j，显著扩展功能，让开发者能使用更多模型。谷歌开发者 Guillaume Laforge 解释其优势，ADK 还引入系列增强提升性能。
The Batch: 943｜液体和气体如何运动
传统数值方法模拟复杂物理系统慢且贵，基于机器学习的模拟通常只适用于特定系统。研究人员构建通用 transformer 模型 Walrus，可模拟流体运动，开源且在多方面表现出色，有望加速多领域模拟工作。
让GPU不再摸鱼！清华蚂蚁联合开源首个全异步RL，一夜击穿14B SOTA
清华与蚂蚁联合开源AReaL - boba²，实现全异步强化学习训练系统，解耦模型生成与训练流程，大幅提升GPU利用率。14B模型在多个代码基准测试达SOTA，性能接近235B模型。
从 GPT 到 Agent，技术与业务如何“双向奔赴”
InfoQ《极客有约》X AICon 直播栏目邀请徐文健、李陈忠、张昊阳探讨大模型产品落地路径。他们分享从 GPT 到 Agent 的经历、认知转变，讨论通用 Agent 及创业机会，还谈及 AI 产品难点和人才标准变化。
GPT-6 Sol和Opus 5.2同时灰测！奥特曼阿莫迪周末刚喊刹车，一上班就踩油门
本文爆料OpenAI和Anthropic同步灰度测试新一代大模型GPT-6 Sol和Claude Opus 5.2，对比了模型性能提升，同时提到OpenAI GPT-5.5即将退役，带来AI大模型领域最新前沿动态。
从开源狂热到应用为王，AI 正在回归常识
AI行业正发生变化，模型行业对“开源还是闭源”态度转向商业共识，旗舰模型开始闭源；应用变得更重要，应用层机会多；智能体重新定义AI价值边界，推动行业从“模型思维”走向“系统思维”。
Evaluation is All You Need：评估设计的微小差异如何扭曲结果
论文以DeepSeek - R1 - Distill系列模型为例，指出大模型评估中看似客观的基准测试结果对评估细节极度敏感，细微评估条件变化会致分数波动大，削弱模型对比可信度，呼吁建立新评估标准。
在 Cache-DiT 框架下实现原生 Serving功能
Cache-DiT 是唯品会开源的 PyTorch 原生 DiT 推理加速引擎，此前聚焦离线推理。现实现完整 Serving 功能，支持单卡与分布式推理模式。文章介绍其实现过程、借鉴 SGLang 的设计，还总结踩坑及使用方法。
Claude Code与Codex六大组件拆解
文章指出如今如GPT - 5.6等模型的裸能力相近，但装进Claude Code 或 Codex CLI 后表现差距大，原因在于Agent Harness。它将编码智能体拆解为六个核心组件，详细阐述各组件作用与意义。