「韩松团队」共找到 3480 篇相关文章
MSRA清北推出强化预训练！取代传统自监督，14B模型媲美32B
微软亚洲研究院联合清北提出全新预训练范式RPT，将强化学习融入预训练，把预训练语料库重构为推理问题集。实验显示RPT-14B表现出色，在多方面媲美甚至超越32B模型，未来RL或在LLM预训练掀起风暴。
0day漏洞量产？AI Agent“生产线”曝光
本文探讨AI Agent如何通过多智能体协作系统打造0day漏洞“生产线”，实现自动化漏洞检测。经测试和实战验证，Agent在复杂代码和大型项目中表现超传统工具，提升了漏洞识别效率与准确性。
AI还不会独自问诊，o3准确率仅为51.12%，上交大×SII开源高难度复杂疾病诊断测评集
上海交大与SII团队开源高难度复杂疾病诊断测评集DiagnosisArena。测试显示，现有大模型在复杂临床诊断任务中表现不佳，o3准确率仅51.12%，且选择题设置无法反映其真实能力。
ICML 2025 Spotlight | 多模态大模型暴露短板？EMMA基准深度揭秘多模态推理能力
最新研究推出 EMMA 基准测试，揭示顶尖多模态大语言模型在深度视觉与文本融合的复杂多模态推理上显著不足。该研究已被 ICML 2025 接收，代码数据开源。实验表明，现有模型与人类专家差距大，视觉推理是核心瓶颈。
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用旋转位置编码 (RoPE) 的现代Transformer模型中，注意力机制的查询 (Q) 和键 (K) 表示存在集中极大值，而值 (V) 表示无此模式。研究通过实验揭示其与上下文知识理解的关键联系。
本地该怎么做RSI？我们与StartLux CTO聊了聊
菲尔兹奖得主联名信引发AI数学研究争议，前沿研究开始防备云端AI，但本地AI能力不足。本文专访StartLux CTO郭权玮，深度讨论本地RSI实践路径，披露Auto Research方法、实验数据与安全方案，介绍本地模型研发进展。
The Batch: 979 | LLM 清理智能体的“垃圾”
研究人员提出选择性管理智能体记忆之法，小红书Xubin Hao等构建Self - GC。它在送上下文给LLM前，让大语言模型决定内容取舍。测试显示其删历史少且保留必要细节能力强，不过未测其输出质量。
陈大年复出，入局大模型
国产大模型领域黑马StartLux-V1.0-27B-Preview，参数量仅27B，在信通院MCP测试中排综合第二，仅次于1.6万亿参数量的DeepSeek-V4-Pro。其创始人陈大年押注本地模型，公司专注该领域商业化。
李飞飞首个多模态世界模型 Atlas 正式发布：从零开始预训练，几张图就能构建世界
李飞飞创办的 World Labs 发布多模态世界模型 Atlas，可原生处理多类型数据，有世界生成、重建和模拟等能力。还介绍其研发历程、技术特点，以及 World Labs 收购、融资等情况。