「推理缓存优化」共找到 3061 篇相关文章
Notion、Stripe 都在用的 Agent 监控，Braintrust 会是 AI-native 的 Datadog 吗？
当 Agent 迈向产品化，开发者面临观测、评估和优化黑箱系统的挑战。Braintrust 由 Ankur Goyal 于 2023 年创立，重塑 Observability，提供 Eval 和 Ship 模块，获多家头部公司青睐与投资。文章从多方面剖析其能否成 Agent 时代‘新 Datadog’。
The Batch: 884 | Transformer获得新能量
弗吉尼亚大学等机构的研究人员提出 Energy-Based Transformer（EBT），它能检查自身输出。训练时通过能量值优化预测概率向量，测试显示其泛化优但生成特定文本差，扩展性好，为高性能带来新可能。
让图像生成告别 AI 味！清华 + 港中大 + 腾讯混元联手推出SRPO
腾讯混元联合港中大、清华推出SRPO，解决文生图技术痛点。它结合Direct - Align和SRPO，提升图像审美等，训练时间缩至十分钟，在测试中碾压主流方法，不过对冷门风格控制和机制可解释性待提升。
AI 原生应用全栈可观测实践：以 DeepSeek 对话机器人为例
本文以 DeepSeek 对话机器人为例，介绍 AI 原生应用架构可观测需求、挑战与方案实践。分析 AI 领域痛点，提出阿里云 AI 全栈可观测架构，剖析大模型应用可观测技术，分享实战案例，还给出未来规划。
基于LLM的Agentic Reasoning框架综述：从方面到场景的全面总结
近年来，大型语言模型虽能力强但有局限，研究者构建基于LLM的智能体系统。此综述论文提出系统、统一分类法梳理智能体推理框架，建立统一描述语言和通用算法，分析其在不同场景表现与评估方法。
AI 基础知识从 0.6 到 0.7—— 彻底拆解深度神经网络训练的五大核心步骤
文章以 PyTorch 手写数字识别代码为引，深入剖析深度神经网络训练的五大核心步骤，涵盖前向传播、计算损失、反向传播、更新参数和循环训练，还介绍激活函数、Dropout 等概念及正则化、优化器等技术。
上海交大团队发布首篇「搜索智能体」综述！四个维度深度剖析搜索智能体
上海交大团队发布首篇「搜索智能体」综述，从如何搜索、优化、应用、评估四个维度剖析。随着LLM兴起，搜索从传统模式向搜索智能体转变，虽有潜力但缺统一研究视角与评估框架，该综述提供了路线图。
实测GPT-5 Pro：别被普通版骗了！Pro才是OpenAI真正的顶级模型
新智元实测发现GPT-5表现飘忽，但其Pro版本实力强劲。在编程、推理计算、图像识别等多方面表现出色，网友实测后也赞不绝口。此外，文中还介绍了GPT-5提示指南及OpenAI放出旧模型的彩蛋。
GPT-5来了！人人都能免费用，最强大模型只需最傻瓜式使用
全世界等了2年，GPT - 5正式发布，面向所有人免费开放。它在AIME 2025取得优异成绩，编程等方面全面提升，集成多模态和推理能力，还推出多种使用模式和API模型，不过也遭马斯克等质疑。
一个“蠢问题”改写模型规则！Anthropic联创亲曝：瞄准Claude 5开发爆款应用，最强模型的价值会让人忽略成本负担
Anthropic联合创始人Jared Kaplan在YC分享Scaling Law对大模型发展的影响及对Claude等模型的意义。他认为AI发展不平衡，建议构建未完全跑通的产品，还介绍了Claude 4优化，探讨人机协作等内容。