「低延迟推理」共找到 2935 篇相关文章
梁文锋署名！DeepSeek再发炸裂论文：提出“条件记忆”新范式，彻底打破GPU推理显存墙
来自DeepSeek的新论文提出“条件记忆（Conditional Memory）”新范式，推出Engram模块，实现可扩展知识查找。研究揭示U形缩放定律，构建的Engram模型性能超越纯MoE基线，还打破了GPU显存瓶颈。
让VLM学会「心中有世界」：VAGEN用多轮RL把视觉智能变成「世界模型」推理机器
当前VLM智能体面对复杂视觉任务表现不佳，美国西北大学等机构联合研究成果VAGEN，提出创新强化学习框架，奖励正确思考过程，让VLM在行动前构建内部世界模型，效果超多款闭源大模型。
Thinking Machines新发现：Lora不是权宜之计，哪怕秩低到 1，也能匹敌全参数微调
Thinking Machines和John Schulman新研究刷新对LoRA的认知，实验显示正确使用时它能匹敌全量微调。团队系统研究训练集与参数关系，有层选择、学习率等关键发现，还给出实用建议，但LoRA在部分场景表现待验证。
科学能力太强，这个多模态推理「六边形战士」被严重低估！Intern-S1开源登顶
7月26日，上海AI实验室发布并开源「书生」科学多模态大模型Intern-S1，其多模态能力全球开源第一，文本能力比肩一流，科学能力国际领先。它开创「通专融合」新范式，重构科研生产力，引发国际关注。
LeCun世界模型出2代了！62小时搞定机器人训练，开启物理推理新时代
Meta开源发布V-JEPA 2世界模型，图灵奖得主Yann LeCun称其将为机器人技术带来新时代。该模型能理解物理世界，经训练后在多方面表现优异，Meta还发布新基准测试，也透露了后续计划。
精准调控大模型生成与推理！浙大&腾讯新方法尝试为其注入“行为定向剂”
ACL 2025中选论文里，浙大与腾讯联合团队提出STA方法，深入模型内部分析神经元激活模式，干预关键神经元，抑制有害行为、保留通用性能，还在多模型实验验证效果，并将部分方法开源。
只用图像也能思考，强化学习造就推理模型新范式！复杂场景规划能力Max
现有 MLLM 依赖文本处理视觉信息，会造成信息丢失。剑桥、伦敦大学学院、谷歌团队提出视觉规划范式，以强化学习框架 VPRL 提升模型规划能力，实验显示其性能优于文本规划。
变天了！WindSurf推出workflow功能，低代码大模型应用开发平台将面对“降维”打击
Windsurf在1.8.2版本推出workflow功能，其采用自然语言定义工作流并与开发IDE深度集成，是更高级形态。该功能特性丰富、应用场景多，对Dify等应用编排工具或造成‘降维打击’。
定义RAG新基准？谷歌发布 Gemini Embedding 2：首个原生多模态嵌入模型，延迟骤降70%
谷歌昨夜推出首个基于 Gemini 架构的原生多模态嵌入模型 Gemini Embedding 2，通过 Gemini API 和 Vertex AI 向开发者公开预览。它可将多类型数据映射到统一嵌入空间，多项基测排名第一，还获早期合作伙伴高度评价。
别被室内基准高分骗了：大模型是在推理空间，还是在「背答案」？
2025年，空间智能成大模型竞争新热点，模型在室内基准上分数飙升。但因训练与测试数据同源，其提升或只是“背答案”。中科院大学等机构发布OSI - Bench重新审视大模型空间能力，评测显示当前提升可能是虚假繁荣。