「强化预训练」共找到 2556 篇相关文章
真实联网搜索Agent，7B媲美满血R1，华为盘古DeepDiver给出开域信息获取新解法
华为诺亚方舟实验室提出 Pangu DeepDiver 模型，实现 LLM 搜索引擎自主交互新范式。它用真实互联网数据训练，在 WebPuzzle 等基准测试中，7B 的 DeepDiver 媲美 671B DeepSeek - R1，展现强大信息获取与泛化能力。
性能大涨！阿里开源新版Qwen3模型，霸榜文本表征
今日凌晨阿里开源Qwen3-Embedding和Qwen3-Reranker两款新模型，专为文本表征等任务设计，支持119种语言。测试显示其性能出色，在多语言文本表征和排序任务中超越众多模型，还采用了多种创新设计与训练方法。
惊天大瓜！中东土豪发「纯血」大模型，背后底座竟是MiniMax？
沙特发布号称100%沙特血统的国家级大模型HUMAIN M3，后被发现基于中国MiniMax的M3模型。沙特用超1万亿阿拉伯语Tokens后训练，使模型在阿拉伯语赛道领先，代表中国AI出海新形态。
拒掉字节、谷歌橄榄枝，Meta 离职大佬田渊栋官宣自立门户！苏妈老黄追着投
Meta离职大佬田渊栋官宣创业，新公司Recursive Superintelligence首轮融资6.5亿美元，估值46.5亿美元。其团队豪华，想跳出大模型竞争老路，让AI具备自我进化能力，计划2026年中期推出自主训练系统。
Kimi新架构让马斯克叹服！17岁高中生作者一战成名
17岁高中生陈广宇作为共同一作的论文提出Attention Residuals技术，将注意力机制“旋转90度”。该技术可让模型“回头看”，经Kimi Linear 48B大模型验证，训练效率提升25%，推理延迟增加不到2%。
LeCun预言成真！790年长视频，炼出最强开源「世界模型」
2025年‘世界模型’成AI巨头战场，谷歌、李飞飞团队等纷纷布局。上周北京智源研究院发布Emu3.5，340亿参数，基于790年长视频数据训练，其架构优越，推理快，能力强，还公开技术报告邀全球探索。
首个多轮LLM Router问世, Router-R1可让大模型学会「思考–路由–聚合」
在大语言模型种类爆炸的时代，如何智能分配任务成新挑战。伊利诺伊大学香槟分校团队发布 Router - R1，让 LLM 学会‘思考–路由–聚合’，用强化学习平衡性能与成本，在七大基准测试表现出色。
OpenAI两位首席最新采访信息量好大！终极目标是“自动化研究员”，招人并非寻找“最出圈”的人
OpenAI首席科学家Jakub Pachocki和首席研究官Mark Chen在采访中爆料，谈到GPT - 5将推理引入主流、实现自动化研究员目标、强化学习未到瓶颈等，还阐述用人标准、算力分配等问题。
基于闪电注意力机制，创新高效开源大模型
传统Transformer架构处理长文本和复杂推理任务有效率瓶颈，多数领先模型仍依赖传统注意力设计。MiniMax开源基于闪电注意力机制的专家混合模型Minimax，从架构、创新模块、训练框架等多方面优化，表现突出。
LLM又曝致命缺陷：根本不会看时钟！博士惊呆，准确率不及50%
最新研究揭示AI存在认知缺陷，读取时钟准确率仅38.7%，判断日历日期准确率26.3%。研究者构建测试集考察MLLM能力，虽部分模型有亮点，但整体表现不佳，凸显训练数据和推理方式改进需求。