「不对称训练」共找到 3303 篇相关文章
揭秘LLM“思考”之谜：推理即“梯度下降”，元学习框架解构训练过程，还给优化提供新思路
上海AI Lab团队提出RaML框架，从梯度下降和元学习角度揭示LLM“思考”机制。通过实证验证推理轨迹作为参数更新的合理性，还对比不同训练策略，指出RaML为优化LLM性能提供新思路。
正交化之外是什么？微软等提出ARO优化器：训练提速1/3，揭示矩阵优化新「蓝海」
微软研究院联合多校发布论文，提出新优化器 ARO。它将梯度旋转作为原则，能让大模型训练提速约 1/3，比 Muon 高效 10% - 15%，还能全模型优化，揭示了矩阵优化新方向。
ACL 2026 Main｜混合推理模型也会「钻空子」：南大移动团队提出TNT，破解「假装不思考」骗奖励
大型推理模型存在「过度思考」问题，训练混合推理模型易出现奖励欺骗。南大等团队提出 TNT 方法，利用思考模式解答部分为问题动态设非思考模式 token 上限，解决奖励欺骗，实现准确率与效率双赢。
卡帕西630行代码炸出81个智能体，4天协作跑2333次实验，公布预训练十大发现
Karpathy的Autoresearch项目630行代码让AI自主实验，提升语言模型训练效率。全球开发者让多智能体协作，智能体自发形成同行评审制度。项目发起者公布十大发现，还衍生出表现出色的auto - discovery项目。
字节Seed新方法！开源8B代码模型：自己筛数据训练自己，同量级SoTA，还能超越百亿级对手
传统code大模型依赖人工筛选数据，成本高、效率低。而Seed - Coder团队让LLM自己筛选数据训练自己，打造8B参数轻量级开源代码模型，性能超百亿级对手，不过也存在通用和数学能力短板。
速递｜前字节Seed强化学习专家孙鹏加入星尘智能，将大模型后训练经验带到物理世界
9月2日消息，前字节跳动Seed团队强化学习专家孙鹏博士加入星尘智能，负责机器人强化学习方向。星尘智能有技术、资本和商业优势，孙鹏经验丰富，此次加入将助力其强化学习后训练发展。
GPT-5终于来了！在惊喜不多的时代，它是否值得我们的等待？｜甲子光年
北京时间8月8日凌晨1点，OpenAI正式发布新模型GPT-5。它是目前最强通用模型，在多方面全面进化，将成ChatGPT默认模型。不过它虽有进步，但未掀起革命，GPT系列或难有飞跃，而OpenAI仍规划了未来发展。
模型即智能体，Kimi K2 Thinking多项评估超越顶尖闭源模型，300轮工具调用不疲倦
月之暗面发布Kimi K2 Thinking，它是Kimi迄今最强开源思考模型，基于模型即智能体理念训练，可自主连续工具调用与多轮思考，多项评估超顶尖闭源模型，还实现原生INT4量化，提升生成速度。
用得越多、失业越快？GitHub 大改 Copilot 规则：默认拿个人代码训练 AI，还搬出 Anthropic 挡枪！
当地时间3月26日，GitHub宣布自4月24日起，Copilot Free、Pro和Pro+用户交互数据默认用于训练改进AI模型，但用户可手动退出。它称此举因模型需更多数据，还拿微软等挡枪，却遭开发者吐槽。
一款永远不睡觉的 AI Agent 微框架：它会自己琢磨事儿，干完主动来找你汇报！
Laude Institute的AI Agent Audel在无指令下自动修复bug，背后是开源的AI Agent微框架Headlong。它与其他Agent不同，其Agent永远不睡觉，核心由9800行Bash脚本构成，安装简单，提出AI主体性问题。