「对齐风险」共找到 694 篇相关文章
AI又来带货了！字节推出DreamActor-H1自动对齐手势和商品
在电商和数字营销领域，现有框架呈现效果不佳。字节推出DreamActor - H1框架，基于扩散变换器，集成Seaweed - 7B模型，能生成高保真人机交互视频，有效果突破但也存在局限。
Anthropic让9个Claude Agent花5天做出比人类强4倍的对齐成果
Anthropic发表Automated Weak - to - Strong Researcher，用9个并行的Claude Opus Agent组成自动化研究团队，5天就把PGR从人类的0.23提升到0.97，成本约$18,000，证明AI自动化研究可行。
每周产业洞察 | AI音视频模型能力全面嵌入“专业级视听内容”交付，对齐“制作级”
北京AIGC视听产业创新中心位于朝阳区，是朝阳区推动影视制作基地建设举措。由多方参与，首创郎园运营，提供六大服务平台，截至2025年8月汇聚近百家合作伙伴。首创郎园拓展服务能力，项目多地开花。
全网苦等GPT-5，超级对齐团队遗作成重要线索，奥特曼发话「惊喜很多」
AI圈聚焦GPT - 5，相关爆料多但模型未现。奥特曼称有很多惊喜。GPT - 5疑似技术通用验证器源于OpenAI论文，或代表AI发展进入新的架构突破时代。此外，有博主用疑似GPT - 5创作，效果惊人。
编程超越 Gemini 3 Pro？GLM-5 性能实测对齐 Opus 4.6，智谱市值突破1700亿港元
临近春节，智谱AI发布最新旗舰大模型GLM-5，其代码和智能体能力表现出色，在多方面逼近Claude Opus 4.5，性能超Gemini 3 Pro。该模型已开源，依托国产芯片部署，不过受算力限制，将逐步向用户开放。
NeurIPS 2025 | ARGRE框架实现高效LLM解毒：自回归奖励引导，安全对齐更快、更准、更轻
北航等机构研究提出自回归奖励引导表征编辑（ARGRE）框架，在LLM潜在表征空间可视化毒性变化路径，实现测试阶段高效“解毒”。实验显示其降低毒性、缩短推理时间，不影响模型能力，优于基线方法。
直播预约 | 如何缓解LLM-as-a-Judge的潜在偏好？UDA：一种无需人工标注的无监督去偏对齐框架
论文针对不同大模型对同一组大模型回答打分差异大等问题，提出无需人工标注、模型无关、即插即用的UDA框架，以无监督方式动态调整Elo评分，实验表明该方法能降低打分标准差、提升与人类评分相关系数。
AI教父Geoffrey Hinton：AI将使少数人变得更富，多数人则变得更穷
AI教父Geoffrey Hinton接受FT采访表达四个观点：AI在现行资本主义体系会加剧贫富分化；对人类有短期和长期生存威胁；提出“母婴模型”控制AI；呼吁摒弃盲目乐观，严肃对待AI风险。
"故宫以东"开启硬核法律讲座，帮助企业提升AIGC版权意识
AI创作大热时，8月13日“故宫以东”平台法律顾问朱子萌开设知识产权法律在线讲座，讲授著作权法“作品”、AIGC作品版权性、输入语料侵权风险等内容，助力企业提升版权意识。
Helidon 引入 Agent 能力，Java 框架开始内建 AI 编排
Oracle 发布 Helidon 4.4.0 版本，对齐 OpenJDK 发布节奏，纳入 Java Verified Portfolio。引入新核心能力、Helidon JSON 库，还增强与 LangChain4j 集成，支持智能体编排。