「低延迟推理」共找到 2941 篇相关文章
大模型Agent的核心还是prompt？ 目前有什么挑战？
文章指出大模型Agent核心并非Prompt，而是工程化架构设计、工作流编排与数据闭环。介绍Flow Engineering等概念及工具，分析规划、记忆、工具使用要点，还谈及开发面临的延迟、稳定等挑战，并给出应对建议。
LLM-in-Sandbox：给大模型一台电脑，激发通用智能体能力
来自中国人民大学、微软研究院和清华的研究者提出LLM - in - Sandbox范式，让大模型在代码沙盒完成任务，实验显示其能提升多领域表现，无需额外训练，还能减少token消耗，研究者认为应取代纯LLM推理。
LeCun预言成真！790年长视频，炼出最强开源「世界模型」
2025年‘世界模型’成AI巨头战场，谷歌、李飞飞团队等纷纷布局。上周北京智源研究院发布Emu3.5，340亿参数，基于790年长视频数据训练，其架构优越，推理快，能力强，还公开技术报告邀全球探索。
AGI前夜重磅：RL突破模型「认知上限」，真·学习发生了！
AI研究圈争论RL能否赋予模型超越基础模型的推理能力。UC Berkeley等团队提出DELTA框架，观察到“RL grokking”现象，还设计新任务验证，提出两阶段奖励调度，总结两种模式等，为争论带来新依据。
微调已死？Agentic上下文工程登场，无需微调实现模型进化
斯坦福大学等团队提出 Agentic Context Engineering 技术，让语言模型无需微调自我提升。它将上下文视为作战手册，引入三种协作角色与三项创新，实验显示其在两类任务上表现优异，成本和延迟显著下降。
DeepMind率先提出CoF：视频模型有自己的思维链
DeepMind在Veo 3论文中提出帧链CoF概念，类比语言模型CoT，让视频模型能时空推理。实验显示Veo 3有通用视觉理解能力，能零样本解决视觉任务，未来通用视频模型或取代专用模型。
OpenAI两位首席最新采访信息量好大！终极目标是“自动化研究员”，招人并非寻找“最出圈”的人
OpenAI首席科学家Jakub Pachocki和首席研究官Mark Chen在采访中爆料，谈到GPT - 5将推理引入主流、实现自动化研究员目标、强化学习未到瓶颈等，还阐述用人标准、算力分配等问题。
AI芯片独角兽一年估值翻番！放话“三年超英伟达”，最新融资53亿超预期
AI芯片初创企业Groq获7.5亿美元融资，超6亿预期，现估值69亿美元，一年翻番。其由谷歌TPU原班人马组建，创始人称构建高速低成本AI推理基础设施，还放话三年超英伟达。
再也不怕面瘫脸！YouTube黑科技：AI帮你「永久微笑」，连僵尸都咧嘴笑
YouTube在Shorts相机里实现AI实时「重绘」人脸，效果自然。它通过知识蒸馏将大模型「瘦身」成小模型，用迭代蒸馏打磨细节，PTI保证身份特征，MediaPipe搭建推理管道，还将拓展视频生成功能。
ICML 2025｜多模态理解与生成最新进展：港科联合SnapResearch发布ThinkDiff，为扩散模型装上大脑
现有扩散模型缺乏多模态推理创作能力，在算力和数据不充裕时实现该功能是难题。ICML2025上，港科联合SnapResearch提出ThinkDiff，以较少资源让扩散模型有思考能力，开辟多模态理解生成新路径。