「大语言模型」共找到 9286 篇相关文章
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用旋转位置编码 (RoPE) 的现代Transformer模型中，注意力机制的查询 (Q) 和键 (K) 表示存在集中极大值，而值 (V) 表示无此模式。研究通过实验揭示其与上下文知识理解的关键联系。
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。
ICLR 2026 | ProSafePrune：一剪见效，告别大模型过度防御
合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。
真正的AI竞争力，藏在大模型“后训练”这一步
当全球聚焦基座模型参数竞赛时，后训练变革正悄然发生。产业共识是，大模型后训练是AI落地产业必经之路。后训练技术从SFT演进至强化学习范式，企业应用也有了从技术到商业价值的完整链路。
大模型之外，向量存储如何支撑 Agent 的检索链路
文章指出大模型负责理解、推理和生成，而Agent需获取外部数据等。向量存储可将数据转化为语义向量，在Agent执行任务时找回相关内容。文章探讨向量存储技术方向，分享做法，还演示阿里云两种Serverless向量存储用法。
社区供稿丨35B参数科学性能比肩万亿参数模型，『书生』科学大模型Intern-S2-Preview开源
5月15日，上海AI实验室开源新一代大模型预览版Intern - S2 - Preview，参数35B，多领域比肩万亿参数模型。它深化与昇腾算力生态协同，探索‘通专融合’，强化科学及智能体能力，‘算法 - 系统 - 算力’协同提升训推效率。
快手提出强化学习创新框架RLEP，突破大模型推理瓶颈
OpenAI等模型用强化学习提升推理能力，但面临训练不稳定等挑战。快手Klear团队提出RLEP框架，引入经验回放技术，分经验收集和回放训练两阶段，还采用优化策略，提升大模型训练效率和性能。
清华团队开源发布首个结构化数据通用大模型
2025年8月29日，清华崔鹏教授团队联合稳准智能开源“极数”（Limi X）结构化数据通用大模型。它融合结构因果推断与预训练技术，适配多任务，性能超最优专用模型，已落地多个工业场景。
Manus数十亿美元卖身Meta，智谱夺得全球大模型第一股
2025年末中国AI领域有两大喜事，通用AI Agent公司Manus被Meta数十亿美元收购，其发展迅速成果显著；智谱启动招股，即将成为全球大模型第一股，虽研发投入高，但营收增长快，获资本青睐。
神秘模型「大象」：仅100B拿下SOTA，Token效率超高！
神秘模型「大象」面纱揭开，它出自蚂蚁Inclusion AI团队，仅100B大小，是同规模SOTA且省Token。经多方面实测及权威榜单评测，它快、准、省，能胜任多数日常工作，但也有不擅长的领域。