「奖励模型漏洞」共找到 7856 篇相关文章
字节跳动发布Seed 2.0系列模型，数学能力超越GPT-5.2 High
字节跳动Seed团队发布Seed 2.0系列模型，含Pro、Lite和Mini版。该系列在数学、代码、多模态理解等方面表现出色，价格优势明显，但在编程、事实准确性上与部分竞品有差距，已开放API。
LLM-based Reranker效果到底如何？一项关于SoTA模型的全面分析
在信息爆炸时代，重排序是信息检索系统核心。论文对22种重排序方法实证研究，构建无污染数据集FutureQueryEval。结果显示LLM重排序器泛化能力被高估，轻量级模型有优势，为研究和应用提供指南。
林俊旸从阿里离开后首度发声：推理模型的时代快结束了
前通义千问Qwen负责人林俊旸离职后发长文，指出AI正从「推理思考」转向「智能体思考」，分析推理模型发展，谈混合思考模式失败，还提及智能体思考挑战及相关企业、学术界进展。
OpenAI罕见发论文：我们找到了AI幻觉的罪魁祸首
AI“幻觉”是阻碍完全信任AI的关键障碍，目前无根治良方。OpenAI罕见发论文揭示其根源，指出标准训练和评估程序奖励猜测，应加大对自信错误的惩罚，奖励表达不确定性。
10行代码，AIME24/25提高15%！揭秘大模型强化学习熵机制
来自多机构的研究者揭示大模型强化学习中熵变化机制。发现策略熵在训练中急剧下降致性能停滞，提出 Clip - Cov 与 KL - Cov 两种正则化技术调控高协方差标记，遏制熵塌缩，在部分数据集上性能提升显著。
陶哲轩回应OpenAI新模型IMO夺金！GPT-5测试版也曝光了
OpenAI新模型在2025年IMO达金牌水平，GPT - 5也将发布。但陶哲轩指出缺乏统一测试标准，影响公平比较。MathArena测试中，Gemini 2.5 Pro仅13分，远低于铜牌线。
国产模型编程能力卷到这个程度了？MiniMax-M2.5 深度实测
文章深度实测MiniMax-M2.5编程能力，用其开发多款游戏和点名工具，结果出色。还分析其底层技术，如原生Agent RL框架、过程奖励机制等，指出它性价比高，虽有不足但值得关注。
拯救P图废柴，阿里上新多模态模型Qwen-VLo！人人免费可玩
昨夜阿里推出全新多模态模型Qwen-VLo，在原有能力上全面升级，有细节捕捉、图像编辑、多语言支持等亮点，不受固定格式限制。官方demo展示多种玩法，目前免费可玩，实测其编辑能力不错。
SGLang × RoleBasedGroup（RBG）：打通大模型推理PD分离架构规模化落地的“最后一公里”
PD分离架构对大模型推理部署意义重大，SGLang支持该架构且性能佳。但从测试到生产落地难，存在部署、资源、可靠性等问题。SGLang开源RBG项目，结合二者为PD分离架构生产化落地提供方案。
逆天！Mata用13个参数26字节让模型正确率从76%飙升至91%
Meta等机构研究人员发布TinyLoRA极致微调技术，配合强化学习，能在几乎不改变大模型原有结构下，用极少数参数激发其推理能力。该技术在数学推理上表现出色，还探索了参数共享策略和存储精度问题。