「LLM推理」共找到 2759 篇相关文章
GuardAgent：首个专门为LLM agent提供安全Guardrail 的守卫型agent
近年LLM从对话工具变为可自主执行任务的agent，但带来安全隐私挑战。传统安全监护对其力不从心，为此学者发布GuardAgent，它守卫agent，具通用性、精确判断和免训练部署优势，实验表现佳。
从DeepSeek-V3到Kimi K2：八种现代 LLM 架构大比较
文章对比了DeepSeek-V3、Kimi K2等八种现代LLM架构。介绍各模型独特技术，如DeepSeek V3的多头潜在注意力和混合专家技术，OLMo 2的后归一化策略，Gemma 3的滑动窗口注意力等，探讨架构改进与突破。
大模型长脑子了？研究发现LLM中层会自发模拟人脑进化
帝国理工学院等机构研究人员发表论文，指出大型语言模型（LLM）学习中会自发演化出类似生物大脑的协同核心结构。研究对多个模型剖析，揭示其内部处理规律，为大模型可解释性开辟新路径。
反转！LeCun刚转发「全球最快开源推理模型」，ETH苏黎世就直接打假
上周，MBZUAI与G42等开源号称「全球最快的开源AI推理模型」K2 - Think，引发广泛关注，图灵奖得主Yann LeCun也转发相关推文。但三天后，ETH苏黎世研究员发文指出该模型存在数据污染、评估方式不合理等问题。
阶跃星辰发布新一代基模 Step 3，原生多模态推理模型，性能达到开源 SOTA
WAIC 2025期间，阶跃星辰上线新一代基础大模型Step 3，7月31日将面向全球开源。还成立“模芯生态创新联盟”，与上海国有资本投资有限公司合作。Step 3性能达开源SOTA，推理效率高，适配多种芯片。
OpenAI推理第一人离职，7年打造了o3/o1/GPT-4/Codex
刚开年，OpenAI推理模型第一人Jerry Tworek离职，他在OpenAI近七年，是构建o3、o1、GPT - 4等的关键人物。他称离职是去探索在OpenAI难以开展的研究，网友有感谢赞叹也有因人才流失而沮丧。
从繁杂技巧到极简方案：ROLL团队带来RL4LLM新实践
当前RL4LLM领域发展快但存在标准、结论不一及机制解释不足等问题。阿里巴巴淘天集团和爱橙科技联合高校基于ROLL框架研究，评估关键技术组件，提出简化算法Lite PPO，在多基准上表现佳。
英伟达全新开源模型：三倍吞吐、单卡可跑，还拿下推理SOTA
英伟达推出专为复杂推理和agnet任务打造的开源模型Llama Nemotron Super v1.5，实现SOTA表现，吞吐量提至前代3倍，可单卡高效运行。它采用NAS优化架构，经多数据集训练，现已开源。
深度讨论 Online Learning ：99 条思考读懂 LLM 下一个核心范式｜Best Ideas
文章围绕Online Learning展开深度讨论，指出其或为LLM下一个核心范式。探讨了它是通往更高层次智能的关键路径，分析概念定义、非共识，还阐述做好它的方法，以及架构、算力和评估范式等问题。
KAG-Thinker：「结构化」思考新范式，支持逻辑严谨的大模型复杂推理
近日，蚂蚁集团知识引擎团队协同高校发布 KAG-Thinker 模型，是 KAG 框架重要迭代。它聚焦复杂推理，建立结构化思考范式，实验显示其性能在多数据集上有提升，还在医疗问答验证了专业领域有效性。