「LLM框架」共找到 2436 篇相关文章
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。
这 5 个 DeepSeek 开源项目，最近夯爆了！
几天前，DeepSeek发布开源智能体框架`DeepSeek Harness`，热度极高。围绕它社区长出丰富高星项目，本文整理了5个，如核心项目`DeepSeek Harness`、桌面客户端、Web UI插件、终端交互插件及插件导航手册。
Coding Agent 自主解题很强，但用户改一行代码就"翻车"？自所团队提出 SWE-Touch 揭示共享工作空间下的能力缺口
当前基于大模型的Coding Agent是热门研究方向，现有评测多假设其独占代码仓库。中科院自动化所团队构建SWE - Touch框架，对9个前沿模型测试，发现用户干预下模型性能下降、排名洗牌。
AI 能力越来越强，那么它生成的代码，人类还需要去理解吗？
《代码整洁之道》作者罗伯特·C·马丁不逐行看 Agent 代码，设好测试框架通过就行。Notion 工程师 Geoffrey Litt 在会议探讨人类是否需理解代码，多数人认为需要，Litt 分享理解代码方法。
一句话生图要过时了？开源图像生成Agent进化出「工具编排」
来自多机构的研究团队提出GenEvolve，将开放图像生成建模为「工具编排轨迹」。它配置三类工具，经多轮决策完成生成。通过构建数据集训练，实验显示在多基准上表现出色，已开源模型、代码等。
真可用！美团数字人模型开源，MV、电商等统统拿下
美团开源数字人视频生成框架 LongCat - Video - Avatar 1.5 版本，换音频编码器、加速推理，支持多任务与多场景。经770人评测，它在多维度领先对手，各方面表现均衡，效率与质量兼得。
AI Infra入门干货总结：大模型是如何高效推理的
作者深入研读vLLM源码，以Llama 3为例，聚焦Decoder-Only架构LLM，介绍推理各环节及张量维度变化，讲解连续批处理和Paged Attention概念，还阐述推理流程、采样策略等，最后总结相关拓展内容。
Anthropic 最新播客：如何打造下一代 Claude
Anthropic的Alex Albert上播客揭秘Claude产研流程，涵盖模型规划、用Claude处理反馈、记忆“做梦”机制、性格训练等，还谈及AI对PM工作方式的重塑，以及单向门决策框架等内容。
7300 人收藏的 PraisonAI，5 行代码即可部署 24 小时 AI 智能体团队！
PraisonAI是开发者Mervin Praison开源的全功能多智能体运行框架，有7.3K+ GitHub星标。它开发门槛低，支持100+大模型，具备完整智能体能力，还能可视化编排、一键接入聊天平台。
Karpathy、Claude Code之父Boris，最新访谈，把整个程序员圈炸了！
假期红衫AI Ascent 2026上，Claude Code之父Boris与Karpathy演讲引发关注。Boris称编程执行层已解决，他用Claude App工作，全公司代码由模型生成；Karpathy提出Software 3.0概念，还谈到模型能力不均匀。两人还对面试、创业等给出看法。