「变分问题合成」共找到 3807 篇相关文章
大语言模型（LLM）到底是怎么运作的？（配图通俗讲解）
文章先介绍条件概率，指出大语言模型预测下一个单词是条件概率问题，会计算所有可能单词的条件概率选最高的。还提到直接选最高概率会使内容单调，引出温度概念，它能调整概率分布影响抽样结果。
本地LLM万字救场指南来了！全网超全AI实测：4卡狂飙70B大模型
文章围绕本地大语言模型（LLM）展开，针对实用性和经济性问题，用Dell Precision 7960塔式工作站对主流模型测试。涉及不同尺寸模型、推理框架等，给出不同配置下性能指标及使用建议，还模拟真实场景测试。
Cache Me If You Can：陈丹琦团队如何「抓住」关键缓存，解放LLM内存？
普林斯顿大学陈丹琦团队新论文聚焦长上下文语言模型 KV 缓存问题。传统 KV 缓存大小随输入文本长度线性增长，此前方法难公平比较。团队提出「KV 足迹」指标，改进方法并推出 PruLong 优化内存，节省空间且保性能。
英伟达笑到最后！训练2000步，1.5B逆袭7B巨兽，Scaling真来了
英伟达团队提出ProRL训练法，将强化学习扩展到超2000步。用此方法训练的15亿参数模型媲美70亿参数的Deepseek - R1 - 7B，在多任务中表现出色，解决了熵崩溃和训练不稳定问题。
美团提出首个语音交互GUI智能体，端到端语音训练能力优于传统文本训练
美团和浙大联合推出GUIRoboTron - Speech，这是首个能利用语音指令和屏幕截图端到端决策的自主GUI智能体。它解决了文本依赖问题，团队经多步骤研发，其性能评估表现佳，还给出招聘信息。
图解Vllm V1系列6：KVCacheManager与PrefixCaching
文章聚焦vllm v1，阐述调度器取请求时判断设备有无充足空间做推理的问题，涉及KVCacheManager与Prefix Caching。前者管理请求和块，后者通过找最长一致前缀节省显存，还介绍块分配释放策略与流程。
搜索智能体RAG落地不佳？UIUC开源s3，仅需2.4k样本，训练快效果好
当前 Agentic RAG 落地有挑战，UIUC 和 Amazon 提出 s3 训练范式。它仅需 2.4k 样本，训练快且效果好，解决了优化目标偏离、检索与生成耦合等问题，在通用和医学 QA 任务中表现出色。
基于Memory Bank的Cursor长会话记忆内存库理论研究与实践
文章围绕Memory Bank展开，介绍其为解决大模型长会话记忆瓶颈而设计的机制，包括存储、检索、更新模块。阐述其在编程和知识库建设的应用，还评测了Codelf等工具，指出Memory Bank是AI迈向智能的重要一步。
LangChain官方实测：多智能体架构怎么选？
构建AI Agent时，单智能体应对复杂场景易“变笨”且难维护。LangChain官方评测主流多智能体架构，在复杂零售场景实验，对比单智能体、Swarm、Supervisor架构的性能、成本，还给出优化Supervisor架构的方法。
伯克利斯坦福联手造出「科研预言家」：77%准确率押注研究想法前景
伯克利和斯坦福团队让GPT - 4.1变身「科研预言家」，从顶会提取想法对比案例训练，不借助实验验证，靠推理押注。其在公开题库测试、人类专家团战等测试中表现出色，还能预测AI新点子。