「推理缓存优化」共找到 3061 篇相关文章
Token 新译名：「智元」
文章讨论Token新译名「智元」，认为其比「词元」更合适。介绍英伟达GTC 2026上黄仁勋强调AI推理时代智元重要性，OpenClaw消耗大量智元引争议，还提及黄仁勋闭门会观点及多位大佬对「智元」译名的认可。
Datadog 如何将其 Agent 的 Go 二进制文件缩减 77%
5 年里 Datadog Agent 从 428 MiB 增至 1.22 GiB，其工程师着手缩减二进制文件大小。发现膨胀主因是隐藏依赖等，采取审计导入项等措施，借助工具优化，还减少反射和插件使用，6 个月实现缩减且未移除功能。
社区供稿丨Ring-2.5-1T，思更深，行更远
今天发布并开源万亿参数思考模型 Ring-2.5-1T，在生成效率、思考深度、长程执行上大幅提升。与其他模型对比，在高难推理和长程任务执行达开源领先。介绍架构优势、手搓案例，也提及不足与未来计划。
顶级视频模型半衰期只有 30 天，但生成式媒体 infra 公司的收入却在一年增长了 60 倍
文章聚焦生成式媒体 infra 公司 fal.ai，其借统一 API 和云端平台让开发者高效调用多模态模型。深入分析其成功因素，如早期押注生成式视频、优化算力和成本、构建生态等，还探讨用户使用模式与行业发展趋势。
千问接入淘宝、闪购、飞猪，意味着什么？
2026 年初千问升级，上线任务助理并接入淘宝、闪购等。其能处理常见任务，但更重要的是可解决用户衣食住行等实际问题，虽目前部分场景待优化，但阿里有优势，不过千问也面临体验、协同和商业化挑战。
TEN VAD 开源：低延迟、高准确率，提升「语音 Agent」上限就靠它!
TEN-VAD是专为实时流式语音场景优化的开源模型，能解决语音交互中常见问题。它轻量级、跨平台、高性能、低延迟，获大佬背书，在多场景是必选组件，是语音交互里易被忽略却难替代的一环。
小模型大作为！微博的VibeThinker-1.5B超越DeepSeek R1等头部大模型
近年来，“参数越大，能力越强”成行业共识，但带来成本高和资源集中问题。微博AI团队开发的VibeThinker - 1.5B用1.5亿参数和低训练成本，在多项测试中超越头部大模型，还提出SSP框架和MGPO算法。
美团新独立APP，点不了菜只能点AI
美团新开源LongCat-Flash-Omni模型，支持多模态，在全模态基准测试达开源SOTA水准，推理快且全模态能力强。实测交互体验丝滑，其迭代逻辑清晰。该模型成功源于架构创新，美团靠软硬件结合实现虚实连接。
刚刚，GPT-5首次通过「哥德尔测试」！破解三大数学猜想
GPT - 5首次通过「哥德尔测试」，破解三大组合优化猜想。研究由海法大学和思科主导，团队设计五项测试任务，GPT - 5在三个简单问题上近乎完美，还推导出不同解法，标志AI从「学习数学」迈向「做数学」。
GEO中，llms.txt是个啥？
GEO中llms.txt是新兴网络标准提案，分提案A（访问控制）和提案B（推理指导）。提案A类似robots.txt，控制内容用于模型训练；提案B是Markdown文件，助LLM理解网站。作者整理指南分享，盼业内出标准。