「强化对齐」共找到 888 篇相关文章
刚刚，OpenAI发布CoT监控，增强AI Agent自主能力
今天凌晨，OpenAI发布思维链（CoT）监控技术论文，用于监督AI Agent，增强其自主性。思维链监控可调试故障、合规审计，是构建安全透明AI的蓝图，文中还提及CoT监控必要性及有效方法。
北大腾讯突破奖励模型瓶颈！让AI理解人类偏好，泛化能力比肩GPT-4.1
北京大学知识计算实验室联合腾讯等机构提出RewardAnything，突破奖励模型瓶颈。它让奖励模型理解自然语言评判原则，降低成本，泛化能力比肩GPT - 4.1，还能用于定制AI行为模式。
多模态推理新基准！最强Gemini 2.5 Pro仅得60分，复旦港中文上海AILab等出品
现有多模态大模型benchmark对逻辑推理理解不足，复旦大学等单位提出MME - Reasoning评估其推理能力。对30 + 模型评测，最优得分仅60%左右，反映出模型多方面推理短板。
见证历史！DeepSeek跃居全球第二AI实验室，R1登顶开源王座，R2全网催更
昨晚，DeepSeek官宣R1完成小版本升级，开启「深度思考」功能可体验。其R1-0528性能媲美o3和Gemini 2.5 Pro，还微调了8B模型。DeepSeek成全球第二大AI实验室和开源王者，网友催更R2。
TRM思考奖励模型上线，大模型推理质量终于能量化了 | ICML‘26 Oral
大模型推理评测多只看答案，忽略推理过程。上海多校团队提出TRM，用ME² principle刻画推理质量，DAG-based pairwise evaluation还原结构，训练奖励模型，让推理质量可度量、训练和优化。
35B参数科学性能比肩万亿参数模型，『书生』科学大模型Intern-S2-Preview开源
5月15日上海AI实验室开源新一代大模型预览版Intern - S2 - Preview，尺寸小、科学能力强，在多方面有突破。其深化与昇腾算力生态协同，探索‘通专融合’，科学及智能体能力升级，还优化训推效率。
白春礼：人工智能促进科学研究范式变革
白春礼在浦江论坛探讨AI对科研范式变革的影响。他指出，当下科学研究体系面临发现机制、组织方式、知识生产方式的结构性重组，呈现新特征，同时也面临竞争、组织变革等挑战。
训练提速4.6倍！FP4+BF16双轨并行，NVIDIA×港大×MIT联手重新定义扩散模型训练速度上限
NVIDIA、港大、MIT团队提出Sol - RL，采用「FP4先探索、BF16再训练」框架，将扩散模型训练收敛速度最高提至4.64x，在速度与对齐效果间给出工程可行解法。
LLM-in-Sandbox：给大模型一台电脑，激发通用智能体能力
来自中国人民大学、微软研究院和清华的研究者提出LLM - in - Sandbox范式，让大模型在代码沙盒完成任务，实验显示其能提升多领域表现，无需额外训练，还能减少token消耗，研究者认为应取代纯LLM推理。
创业7年干出一个全球第一，这家深圳芯片公司冲刺港股IPO
曦华科技冲刺港股IPO，其2024年scaler芯片出货量全球第二，ASIC架构scaler产品市场份额达55%排第一。不过，公司仍亏损，且面临激烈竞争。它靠产品创新和高研发投入提升估值，后续有应对竞争的规划。