「用户问题」共找到 4391 篇相关文章
Cache Me If You Can：陈丹琦团队如何「抓住」关键缓存，解放LLM内存？
普林斯顿大学陈丹琦团队新论文聚焦长上下文语言模型 KV 缓存问题。传统 KV 缓存大小随输入文本长度线性增长，此前方法难公平比较。团队提出「KV 足迹」指标，改进方法并推出 PruLong 优化内存，节省空间且保性能。
纳米 AI 梁志辉：超级搜索智能体是 AI 时代的真正入口
纳米AI梁志辉认为超级搜索智能体是AI时代真正入口。纳米AI推出的「超级搜索智能体」结合多Agent协作等能力，是新解决方案。演讲分享了360对AI搜索、智能体搭建及浏览器的看法与探索。
英伟达笑到最后！训练2000步，1.5B逆袭7B巨兽，Scaling真来了
英伟达团队提出ProRL训练法，将强化学习扩展到超2000步。用此方法训练的15亿参数模型媲美70亿参数的Deepseek - R1 - 7B，在多任务中表现出色，解决了熵崩溃和训练不稳定问题。
美团提出首个语音交互GUI智能体，端到端语音训练能力优于传统文本训练
美团和浙大联合推出GUIRoboTron - Speech，这是首个能利用语音指令和屏幕截图端到端决策的自主GUI智能体。它解决了文本依赖问题，团队经多步骤研发，其性能评估表现佳，还给出招聘信息。
图解Vllm V1系列6：KVCacheManager与PrefixCaching
文章聚焦vllm v1，阐述调度器取请求时判断设备有无充足空间做推理的问题，涉及KVCacheManager与Prefix Caching。前者管理请求和块，后者通过找最长一致前缀节省显存，还介绍块分配释放策略与流程。
搜索智能体RAG落地不佳？UIUC开源s3，仅需2.4k样本，训练快效果好
当前 Agentic RAG 落地有挑战，UIUC 和 Amazon 提出 s3 训练范式。它仅需 2.4k 样本，训练快且效果好，解决了优化目标偏离、检索与生成耦合等问题，在通用和医学 QA 任务中表现出色。
基于Memory Bank的Cursor长会话记忆内存库理论研究与实践
文章围绕Memory Bank展开，介绍其为解决大模型长会话记忆瓶颈而设计的机制，包括存储、检索、更新模块。阐述其在编程和知识库建设的应用，还评测了Codelf等工具，指出Memory Bank是AI迈向智能的重要一步。
18天光速打脸！OpenAI刚夸TypeScript最合适，转头就用Rust重写Codex CLI
OpenAI推出AI编码神器Codex，向ChatGPT Plus用户开放，还增加互联网访问功能。此前其宣布用Rust重写Codex CLI，该项目维护者Matin入职刚一年，半月前还称TypeScript最合适。改用Rust可带来多方面改进。
不愁了！开源智能体Paper2Poster「一键生成」学术海报
2025年5月，滑铁卢大学等团队发布Paper2Poster系统，用大模型将论文自动生海报。它提出PosterAgent多智能体方法，分解析、规划、绘制优化三阶段，生成效果好且开源，不过也存在效率和创意不足问题。
深夜突袭！谷歌Gemini 2.5 Pro更新蝉联榜一：推理超越o3，编程超越opus4
深夜谷歌对Gemini 2.5 Pro模型重大更新，在编码、推理等测试中超越o3，几周内成稳定版。其价格优势大，还增加思考预算，输出风格和结构改进，用户实测反馈佳，但发布不久被越狱攻击。