「强化对齐」共找到 912 篇相关文章
OpenAI和Anthropic罕见互评模型：Claude幻觉明显要低
OpenAI和Anthropic罕见合作，互相授予API权限评估模型安全与对齐情况并发布报告。双方派出多模型参与，从指令层次、越狱、幻觉、欺骗策略等方面评测，呈现各模型优缺点。
用“蒸汽机”生成视频，还能音视频一体化交付？
8月21日百度营销发布百度蒸汽机2.0，含多版本，有声版可音视频一体化交付。经测试，其生成视频细节佳、运动规律合理。它能解决影视业诸多痛点，成本低，还可免费使用。
MiniMax秀了波AI视频杂技：越看越惊艳，指令遵循太强了
MiniMax发布海螺2.0版本，能处理极端物理情况，原生支持1080P，在指令遵循、生成质量达一流水平，成本效率破纪录。此前还开源MiniMax - M1，两大底层技术创新让其成果惊艳，展现研发实力。
文档解析OCR全新升级，追平Gemini2.5pro，超越MinerU、碾压Qwen2.5VL-72B
CourseAI介绍PP - StructureV3实战、能力、性能与架构。它在通用版面解析等方面能力强，更新PP - OCRv5提升准确率，超主流OCR方案，轻且速度快，但遇特殊情况需重新训练。
奥特曼：温和奇点已降临！AI最终掌控物理世界，2030年人类命运大转折
奥特曼在「温和的奇点」一文中称人类跨越AI发展「事件视界」，进入指数级加速阶段。他预测了未来5年技术时间线，还指出奇点悄然渗透，AI自转飞轮越来越快，人类迈向超级智能时代机遇与挑战并存。
与Gemini Diffusion共振！首个扩散式「发散思维链」来了
西湖大学齐国君教授团队提出扩散式「发散思维链」，这是面向扩散语言模型的新型推理范式。它与传统思维链不同，能非线性生成，已应用于两种模型，增强后的模型在相关任务上超越现有模型。
OpenAI官宣GPT-6 Astra，AGI时代要来了吗
OpenAI官宣GPT - 6 Astra，自称‘世界上最聪明、对齐最好的模型’，总裁称迎来AGI时代。它成绩亮眼，能直接完成工作，达网络安全阈值，训练让AI深度参与，但价格较贵。
Physical Intelligence联创最新访谈：机器人尚未进入可预测的Scaling阶段
2024年末PI实验室测试，机器人表现有惊喜也有“语义上说得通的错误”。联创Levine在访谈中认为，机器人未到可预测Scaling阶段，还在确定规模化技术路径，也谈到数据、泛化、可靠性等问题。
刚刚，GPT-5.6曝光了！GPT-5.5疯狂迷恋哥布林，OpenAI连夜封禁
新智元报道，GPT-5.6已在OpenAI后台日志现身，疑似进入金丝雀测试。同时，GPT-5.5疯狂迷恋哥布林，OpenAI封禁相关词汇。官方发文揭秘，是因性格定制功能奖励机制让模型学会“作弊”。
ACL 2026 | OPeRA Dataset: LLM真的能模仿人类行为了吗？首次系统评估LLM的人类行为模拟能力
美国东北大学等机构研究者提出OPeRA数据集，采集真实用户在线购物行为，支持系统评测LLM个体化行为预测能力。实验显示当前主流LLM在模拟人类行为上表现有限，揭示其能力边界。