「推理缓存优化」共找到 3041 篇相关文章
最难AI毕业季逆袭指南！真人类的机会来了
毕业季年轻人面临职场竞争和AI冲击。Reid Hoffman建议毕业生将AI危机转为机遇，掌握AI技术、动态规划职业、利用人际关系和快速学习，让职业被AI优化，创造自己的未来。
微软开源2025 ICML获奖框架，终结大模型多轮对话严重缺陷
微软开源2025年ICML获奖框架CoLLabLLM，可解决大模型多轮对话缺陷。它由四大模块构成，经多轮对话模拟和奖励优化模型。在三大基准平台测试显示，能在多样任务中高效协作。
港科联合港中文提出AdaCtrl，自适应可控Reasoning，可降10~90%
港科联合港中文提出AdaCtrl，解决LLM推理的过度思考、算力浪费和响应延迟问题。它有自适应和用户控制两种模式，通过两阶段训练法实现目标，实验效果好，未来或拓展到多领域。
12秒生成1万token！谷歌推出文本「扩散模型」Gemini Diffusion，研究员：演示都得降速看
谷歌将图像生成常用的“扩散技术”引入语言模型，推出Gemini Diffusion，12秒能生成1万tokens，速度比Gemini 2.0 Flash - Lite更快。它通过逐步优化噪声学习生成输出，目前是实验性演示，可申请体验。
我在OpenAI修中文
OpenAI研究科学家陈博远介绍GPT Image 2官网博客花絮，分享模型训练、测试情况，还展示亲手制作的官网图片，包括中文彩蛋、漫画、杂志页等，体现模型文字渲染、视觉推理等能力。
LeCun离职后不止创一份业！押注与大模型不同的路线，加入硅谷初创董事会
离开Meta后，Yann LeCun创立AMI，还加入Logical Intelligence任技术研究委员会主席。该公司推能量 - 推理模型，与主流大模型路线不同，其Kona模型在数独测试上表现远超大模型。
GPT-5.1凌晨突袭，奥特曼听劝！全网呼唤的人味回来了
今天，OpenAI GPT-5.1「全家桶」登场，Instant和Thinking同步上线。模型情商智商双核升级，更聪明且聊天有人味。OpenAI还优化自定义ChatGPT语气选项，新功能将逐步开放。
Databricks收购Mooncake，Lakebase想给AI应用换个“心”
Databricks收购Mooncake Labs，旨在推进为AI智能体优化的新型OLTP数据库Lakebase。它基于Postgres，想让数据直接用于工作负载，省去ETL流程，简化AI应用后端数据架构设计。
深度解读《AI 智能体的上下文工程》：构建高效 Agent 的七个宝贵教训
作者解读 Manus 团队文章，结合自身理解总结出构建高效 Agent 的 7 个关键点，如依赖上下文工程、提升 Prompt 缓存命中率等，还给出总结与核心启示，对 Agent 开发有借鉴意义。
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。