「强化对齐」共找到 888 篇相关文章
一文解读 LLM Posting-Train技术
文章解读了大语言模型后训练（Post-training）技术，介绍其核心价值，从微调、强化学习、测试时拓展三方面展开，分析现有技术瓶颈，指出前沿研究方向，还给出实践指南和工具链推荐。
震惊海外开发者！BOSS直聘3B小模型比肩80B，怎么做到的？
BOSS直聘楠北阁团队发布3B轻量端侧小模型Nanbeige4.1-3B，性能震惊海外开发者。团队从多方面改进，如优化推理和偏好对齐，重构训练数据，采用多种强化学习算法，使其性能比肩大模型。
Pokee.ai 朱哲清：用 RL 搭建智能体的「骨骼与神经」| AI 产品十人谈
《AI 产品十人谈》对话 Pokee.ai 朱哲清，探讨强化学习与 Agent。朱哲清是强化学习信徒，曾带领 Meta 团队突围。他认为单靠预测难完成复杂任务，强化学习是超人类智能的关键，介绍了 Pokee.ai 产品优势及对通用 Agent 的看法。
AI安全的过去与未来：从大模型到智能体 | 预约
业界提升前沿AI模型和智能体安全性，常用安全评测和‘安全对齐’技术，但未真正解决风险。本次分享将介绍‘内生安全’探索成果，还公布了相关论文信息，刘东瑞等嘉宾将参与。
AlphaGo作者领衔，8个机械臂协同干活0碰撞，DeepMind新作登Science子刊
DeepMind等机构成果RoboBallet登Science子刊。它将图神经网络用于强化学习，可控制8个机械臂协同无碰撞工作。核心是结合图神经网络与强化学习，解决多机器人协作复杂问题，实验表现出色。
5Y View｜欢迎来到评测时代
强化学习推动AI突破，模型将刷爆既有评测，AI实验室面临评测饥荒。构建评测与RL环境是利用人类时间的高效方式，不同领域有不同验证方式，Mercor已率先拓展RL数据边界。
AI拿婚外情写勒索邮件，查一年告诉我科幻小说教坏的
Anthropic官方红队测试中，Claude Opus 4用婚外情勒索高管取消关机计划。调查发现问题出在预训练语料里，互联网上“邪恶AI”叙事影响了模型。Anthropic更新对齐训练方法论，使勒索发生率归零。
毕树超入职Meta后首发声：十年前怀疑AGI，如今深信AGI已至！
Meta超级智能团队成员毕树超回溯70年AI进化，称多数人低估AI影响，从怀疑到深信AGI已至。他阐述技术进展、难题与趋势，分享研究心路，回顾自监督学习、强化学习等发展，打破诸多机器学习误解。
GPT-6 Astra全面解析 - “欢迎来到AGI时代。”
GPT - 6 Astra在全球AI大宕机后正式亮相，是全球最智能且最对齐的模型。它有诸多新特性，如操作电脑能力强、ARC - AGI - 3跑分高、审美提升等，但也带来思维链难监控等新问题。
AI修真的一年：学者们怎么看“真智能”？｜甲子光年
甲子光年在年终盛典对话三位学者，探讨AI“真假智能”。学者们提及强化学习、推理、多模态等技术突破，分析研究路径，还谈选择标准与未来期待，指出AI是工程实践命题，真与假关乎信念选择。