「推理缓存优化」共找到 3061 篇相关文章
这一次，谷歌Veo 3.1教Sora做视频！角色0变形，4K竖屏直接满分
谷歌Veo 3.1迎来重磅升级，优化移动端体验，上传素材图片就能创作有趣视频。亮点包括素材生视频一致性强、支持原生竖屏输出、有业界领先的1080p和4K超分辨率，现已可在多平台体验。
2025小结：从RL到Agentic RL
作者回顾2025年从RL到Agentic RL的发展，指出Agentic RL存在慢、不稳定、难scale的问题，还探讨了RL与推理、CoT的关系，以及RL的泛化能力，认为RL能提升模型能力但还不稳定，期待明年研究。
官宣！前 OpenAI 华人科学家姚顺雨加入腾讯，大模型“系统战”开启！
12月17日消息，前OpenAI科学家姚顺雨加盟腾讯，任首席AI科学家等职。他是AI Agent与大模型推理领军人物，其加入是腾讯AI补强。腾讯还新成立三部门，标志战略向系统化工程建设进阶，混元也有不错表现。
中兴发了一篇论文，洞察AI更前沿的探索方向
当大模型参数量冲向万亿级，AI 行业面临瓶颈。中兴通讯发布论文剖析困境，勾勒前沿方向。文中分析了 LLM 现状、架构瓶颈、AGI 争议等，还阐述了改进优化措施及下一代计算范式发展趋势，介绍了中兴的探索实践。
从 Apple M5 到 DGX Spark ，Local AI 时代的到来还有多久？
近期，黄仁勋将桌面级AI超算DGX Spark交付给马斯克引发热议。同时，Apple Silicon等芯片下放端侧推理能力，本地运行时和端侧模型供给加速成熟。但本地算力等问题仍制约消费终端Local AI大众化落地。
AI引发K型分化：Gemini 3 加剧技术劳动力分化，判断力为王，基础岗位将被AI完全替代，程序员也不例外
2025年11月Google发布Gemini 3，依托多模态MoE架构和“Deep Think”模式，在软件工程等领域实现推理能力质的飞跃。它使前端开发工作重心转移，重构软件工程工作流，赋能白领但带来隐患，还冲击劳动力市场，提升软件掌握门槛。
你急它不急：GPT-5先判断，再决定「速答」还是「深想」
OpenAI副总裁Jerry Tworek透露，GPT - 5能判断问题难度，分配思考时间，决定何时停下。它升级了推理能力，有了时间感，采用受控思考机制，提升了复杂任务准确率，减少幻觉。其进化历经o1、o3到GPT - 5阶段。
TileLang深入详解-第三章-Kernel，Buffer，并行控制和矢量化
文章详细介绍TileLang核心编程构造，包括Kernel函数、Buffer和并行控制等。阐述其计算定义、并行与循环控制方式，还提及性能优化的矢量化访存，给出代码示例，并分享源码里形状、并行域和线程的最佳实践。
中移动九天团队MultiPL-MoE：全新Hybrid-MoE架构用于增强通用大模型低资源代码能力
大语言模型在有限计算资源下提升多语言代码能力面临挑战。中国移动九天团队提出 Hybrid MoE 架构 MultiPL - MoE，耦合两层专家选择机制优化，实验证明其在增强低资源代码能力、缓解高资源语言遗忘上有效。
Temperature Scaling可大幅提高Test-Time Scaling瓶颈！
大型语言模型解决复杂推理问题时，测试时扩展（TTS）是提升性能的途径之一。但传统TTS依赖增加样本数量，性能提升有瓶颈。本文提出温度缩放新思路，实验表明其能大幅提升性能，还给出降低成本方法。