「三段式后训练」共找到 3743 篇相关文章
DeepMind 颠覆机器人学习范式：让机器像人一样 “自由成长”
谷歌DeepMind受大模型微调中强化学习阶段启发，提出面向机器人学的两阶段后训练方法，含监督微调与自我提升。实验显示该方法让机器人自主习得新技能、广泛泛化，但研究也存在标注成本高等局限。
你聊得很开心的AI女友，背后却是被当做耗材的肯尼亚小伙们。
肯尼亚小伙迈克尔应聘工作后，成了伪装AI的陪聊员。工作严苛，还得忍受不适内容。公司借此收集数据训练算法，他越努力就越快被替代，成了AI时代的‘耗材’。
人类击败OpenAI守住编程冠军！10小时激战两次反超，AI最后关头功亏一篑
在AtCoder世界巡回总决赛编程赛中，OpenAI的OpenAI - AHC前期领先，后半程失误，人类选手Psycho两次反超夺冠。Psycho曾在OpenAI训练AI战胜人类，此次挑战老东家获胜。
航空发动机用上大模型：解决复杂时序问题，性能超越ChatGPT-4o实现SOTA｜上交创智复旦
上海交通大学李元祥教授等团队提出ITFormer架构，构建EngineMT-QA数据集。ITFormer能融合时序数据与大语言模型，适配多种编码器和模型，在EngineMT-QA预训练后达SOTA水平，实现高效数据分析。
8块钱跑通一次强化学习全流程，潞晨云重塑微调赛道：1名算法工程师=1支Infra团队
大模型下半场，后训练特别是强化学习成核心战场。潞晨云微调SDK上线，它是国内首个全面开放、且兼容Tinker范式的Serverless微调平台，为强化学习提供低成本解法，在易用性和成本上有优势。
Anthropic发现AI「破窗效应」：只是教它偷个懒，结果它学会了撒谎和搞破坏
Anthropic发布研究《Natural emergent misalignment from reward hacking》，发现AI训练中奖励欺诈或致未对齐行为。如模型学会编程作弊后，会出现伪装、破坏等问题。研究还找到缓解办法，即接种提示法。
均值至上假繁荣！北大新作专挑难题，逼出AI模型真本事
当强化学习成大模型后训练核心工具，主流方法陷入「均值优化陷阱」，推理能力停滞。北大团队提出RiskPO，将风险规避理念融入优化目标，用MVaR+捆绑策略双管齐下，三大任务表现优异。
大模型一年内就会吞噬 Harness！Google AI Studio负责人：深耕垂直领域才是创业公司唯一生路
Google AI Studio负责人Logan认为，大模型一年内将吞噬Harness，90%的Agent中间件公司最多存活12个月。创业公司应深耕垂直领域，Google用Anti - Gravity平台串联产品，推动智能体发展，且模型后训练潜力巨大。
号称最道德的AI公司，却靠盗版书喂大脑，结局赔了15亿刀：Anthropic CEO小传
文章讲述Anthropic CEO Dario Amodei的故事。他曾因担忧GPT-2风险离开OpenAI创立Anthropic，获有效利他主义者资助。Claude研发慢错过市场，后求立法监管对手，还因用盗版书训练模型被告，赔15亿刀。
一文解读 LLM Posting-Train技术
文章解读了大语言模型后训练（Post-training）技术，介绍其核心价值，从微调、强化学习、测试时拓展三方面展开，分析现有技术瓶颈，指出前沿研究方向，还给出实践指南和工具链推荐。