「后训练范式」共找到 4465 篇相关文章
GuardAgent：首个专门为LLM agent提供安全Guardrail 的守卫型agent
近年LLM从对话工具变为可自主执行任务的agent，但带来安全隐私挑战。传统安全监护对其力不从心，为此学者发布GuardAgent，它守卫agent，具通用性、精确判断和免训练部署优势，实验表现佳。
揭秘白宫「AI甄嬛传」！奥特曼篡位马斯克，美国迎来AI「新教皇」
从‘冷板凳’到‘白宫座上宾’，奥特曼用不到一年完成华丽转身，替下马斯克掌控美国AI舵盘。他与特朗普从立场相左到同台亮相，OpenAI调整策略迎合特朗普，其政策目标也逐步落实。
借助CoT监管AI？OpenAI、谷歌、Anthropic等罕见联合发文：AI系统安全的新机遇！
OpenAI等支持新研究论文，其指出高级AI不透明性有潜在风险，而‘推理模型’用自然语言推理带来可解释窗口，CoT监控可检测不当行为、发现早期信号等，但也存在使监控性下降的因素。
AI 基础知识从0.1到0.2——用“房价预测”入门机器学习全流程
文章以“房价预测”为例，介绍算法工程师开发模型全流程，包括需求分析、数据收集、划分数据集等十步。详细讲解各步骤操作，如用均方误差衡量模型效果，还提及多种模型及调优方法，助开发者入门机器学习。
揭示隐藏联系：RLHF/DPO即对比学习！
大型语言模型输出符合人类价值观是挑战，主流技术RLHF复杂、昂贵且不稳定，DPO简化流程但有训练崩溃问题。论文揭示RLHF/DPO即对比学习，提出MIO算法解决DPO崩溃，实验验证其性能优势。
Proactor AI：首个自主行动的AI 智能体，无需唤醒，就能主动识别对面是个骗子
Proactor AI v1.0发布，号称是世界首个「自主行动」的AI队友。它能感知、思考并自主行动，如识别骗局。还提供主动式AI服务，应用场景广泛，用户反响热烈，带来人机交互范式转变。
刚刚，AI大牛Karpathy又提新概念：像细菌一样写代码？
AI大牛Andrej Karpathy继Vibe Coding后提出「细菌式编码」，受细菌代码启发，有小而精简、模块化、自包含特点，其核心是让代码利于共享。它适合快速原型开发，也有局限，建议兼顾两者。
苹果港大终结自回归时代？7B扩散模型发布，AI写代码逻辑彻底颠覆！
苹果联合港大开源扩散大语言模型DiffuCoder，用扩散模型+强化学习策略，性能提升4.4%。研究还提出耦合梯度奖励策略优化方法，建立原生RL训练框架，探究了dLLM的生成机制等问题。
这个推理模型：HRM ，只用2700万参数，超越了DeepSeek和Claude
Sapient Intelligence研究者受大脑机制启发提出分层推理模型HRM，它是全新循环架构，仅2700万参数、1000个训练样本，就在复杂推理任务上表现卓越，还引入近似梯度等方法，有推动通用计算变革潜力。
从0到1拆解FreeWheel ChatBI：大模型如何重塑视频广告智能数据分析新生态
本文结合 FreeWheel 实际应用经验，分享构建 ChatBI 系统核心实践。介绍其核心功能、技术实践，如让 LLM 理解业务、智能选表等，还提及系统架构、算法服务，最后总结上线效果并展望未来优化方向。