「LLM框架」共找到 2427 篇相关文章
通用的dLLM开发框架，让BERT掌握扩散式对话
扩散式语言模型（DLM）因缺乏易用框架和训练成本高受限。伯克利与UIUC团队基于dLLM框架，让BERT学会对话，证明‘离散扩散 + 轻量级指令微调’可赋予BERT强生成能力，还开源全流程代码。
迈向可信AI：LLM幻觉的分析与优化
随着LLM广泛应用，其幻觉现象成AI落地关键挑战。文章分析LLM幻觉成因、优缺点，结合RAG、SFT、强化学习等技术，提出多维度优化方案，为构建可信大模型应用提供理论与实践路径。
2025 年最全面的 LLM 架构技术解析【长文】
Sebastian Raschka更新「大型LLM架构对比」长文，解析2025年LLM架构发展。介绍了如DeepSeek V3、OLMo 2、Gemma 3等模型架构特点，像DeepSeek V3用MLA和MoE提升效率，还探讨线性注意力复兴等趋势。
TreeHop：无需LLM的高效多跳问答新范式
多跳问答（MHQA）任务有挑战，现有方法依赖LLM，计算成本高、延迟显著。TreeHop研究提出新方案，摒弃LLM，通过嵌入空间动态更新，降低延迟、减少模型参数量，还在主流数据集表现佳，适合工业应用。
阿里：RL强化LLM推理，是技巧还是陷阱？
近年来，强化学习（RL）成为解锁大型语言模型（LLM）复杂推理能力的关键工具，但该领域也面临技术选择困境。阿里联合多所高校的论文通过大规模可复现实验，揭示主流RL技巧的机制与适用场景，还发现极简组合（Lite PPO）性能超越复杂方案。
相比层出不穷的 Agent 框架，不变的 Agent Protocol 是什么
文章围绕 Agent Protocol 展开，指出框架更迭但生产级 Agent 系统问题不变。以 Agent Protocol 为主线拆分 Agent Runtime，探讨其核心、稳定对象、执行模型等，还对比各框架在多维度的表现并给出设计建议。
刚刚，OpenAI前CTO：战胜LLM不确定性的方法找到了！
OpenAI前CTO创立的Thinking Machines Lab发布研究《战胜LLM推理中的不确定性》。研究指出LLM推理不确定性主因是批处理大小变化，而非常见认为的GPU并行性等。还给出实现批处理不变性的方案及实验结果。
构建 AI 时代的知识底座：直播数据 LLM Wiki 实践
文章围绕直播数据 LLM Wiki 实践展开，指出领域知识沉淀面临挑战，引出 LLM Wiki。介绍其实际效果，如指标召回、代码生成等，阐述构建方法、架构设计、编译流水线、检索方式，还提及增量编译与持续 Lint，最后给出未来规划。
RL救不了泛化性！揭示LLM数学Reasoning的深层瓶颈
大型语言模型在数学竞赛级任务依赖机械化推理，现有评测集有缺陷。UC Berkeley团队提出OMEGA基准量化其数学泛化能力，实验揭示复杂度引发性能崩塌等问题，指出LLM创新组合难，给出改进方向。
LightMem用3招重新设计了LLM的记忆，结果出乎意料
LLM在超长多轮对话中有上下文窗口有限、记忆系统昂贵的痛点。LightMem借鉴人类记忆机制，用三招重新设计LLM记忆，实验显示其准确率超基线，还降低token使用量、API调用和运行时间。