「强化对齐」共找到 888 篇相关文章
直播预约 | 迈向用于演绎推理的诚实语言模型
本次讲座聚焦迈向用于演绎推理的诚实语言模型。当前语言模型难诚实推理，输入不足会产生无根据答案。为此制定多步骤任务，提出强化学习方法ACNCHOR，稳定学习过程、提高推理性能。
英伟达新架构引爆全模态大模型革命，9B模型开源下载即破万
英伟达推出全模态大模型OmniVinci并开源，其90亿参数规模性能超同级别甚至更高级别模型，训练数据效率是对手6倍，能精准解析视频和音频，在多模态应用场景中表现卓越，下载量破万。
赛力斯上市，可能是“脱离华为”的关键一步｜甲子光年
2025年11月5日，赛力斯在港交所挂牌上市，募资净额140.16亿港元。赛力斯上市旨在强化单独造车能力，70%募资用于研发。其魔方技术平台待完善，赛力斯居安思危，或为脱离华为做准备。
Meta裁员后续：田渊栋被过河拆桥，姚顺雨等集体「抢人」
Meta在人工智能部门裁减约600个职位，田渊栋团队被裁，原因众说纷纭。此次裁员或为强化Alexandr Wang核心地位，也反映Meta内部研究架构混乱。同时，引发AI公司“抢人大战”。
听说，大家都在梭后训练？最佳指南来了
大模型时代，Scaling Law 边际效益递减，业界转向后训练。《Post-training 101》博客可助初学者入门，涵盖从预训练到指令微调、SFT 原理、多种强化学习技术及模型评测方法等内容。
Anthropic CEO最新采访：AGI一词毫无意义、点名扎克伯格、谈开源、家庭……等八个非共识观点
Anthropic CEO Dario Amodei在采访中给出八个非共识观点。他认为AGI和ASI是空洞概念，年亏30亿美元是投资，开源作用被高估，还谈及公司应对挖角、竞争、市场定位等策略，展现独特领导风格。
GPT-5 最强大的，是编程
据报道，OpenAI的GPT - 5即将到来且早期反馈积极。它在编程领域表现突出，尤其在实际编程任务上有提升，不过其具体形式存疑，改进或多来自后训练阶段的强化学习。
OpenAI 内部访谈流出：新 Agent 强到让我们害怕，已接近“自我进化”的边缘！
红杉资本访谈 OpenAI 打造新款 ChatGPT Agent 的核心成员。介绍 Agent 结合多工具、共享状态，能执行复杂任务。还谈及起源、训练方法、应用场景，以及安全挑战和未来规划等。
AI越训练，越会「满嘴跑火车」！普林伯克利重磅揭秘，RLHF竟是罪魁祸首？
普林斯顿和伯克利研究《Machine Bullshit》，定义并量化LLM胡扯行为，总结四大套路，提出胡扯指数。实验发现强化学习人类反馈训练后，AI胡扯倾向加重，多思考也会让其更会忽悠。
DeepMind夺得IMO官方「唯一」金牌，却成为OpenAI大型社死现场
谷歌DeepMind宣布其Gemini进阶版模型在IMO竞赛达金牌水平，解决五道超高难度试题，首次证明AI仅靠自然语言理解就能攻克复杂数学难题。其谨慎发布方式获赞誉，与OpenAI形成鲜明对比。