「建设性安全对齐」共找到 1074 篇相关文章
OpenAI 正式发布企业级 AI 落地实践报告：7大经验教训
OpenAI发布《AI in the Enterprise》报告，分享与7家“前沿公司”合作将AI引入企业的经验教训，涉及提升员工效能等方面，并阐述7条关键经验及案例，还提及企业集成AI工作流等新趋势。
Facet-0：NTU王子为团队让机器人在精密装配中「看得懂、插得准、出错能恢复」
新加坡南洋理工大学PINE Lab团队研发Facet - 0机器人基础模型，用于精密装配。它在五项计算机装配任务中平均成功率达82%，能让机器人理解接触状态、判断对错并改进。通过多阶段训练，降低人工干预率，提高失败恢复率。
Claude 5.1来了，但最强能力只向少数机构开放
9月1日，Anthropic发布Claude Fable 5.1和Claude Mythos 5.1，二者用相同底层模型，区别在安全限制和开放范围。Fable面向订阅用户和企业，Mythos仅向少数审核机构开放，此次还尝试新的开放方式。
能让DeepSeek自进化的Harness！LlamaFactory作者开源新工具：0.2元自动造Agent
LlamaFactory作者郑耀威团队开源的PenguinHarness，是全球首个支持多Agent自进化的Harness，能自动构建、评测和改进Agent。它成本低、速度快，适配众多模型，还有严格契约保障安全。已在生产场景应用，效果显著。
刚刚，Fable 5全球复活！限时7天，额度砍半
Anthropic官宣Fable 5回归，7月1日至7日限时开放，顶配套餐周使用额度砍半。虽更新安全防护，多数编码任务不受影响，但新防护有误伤，且Token消耗快，还拒绝部分正常提问。其自动化率显著提升。
见微知著：LLM 奖励建模的「Analytic Rubric」范式全面综述
该文是对LLM奖励建模的「Analytic Rubric」范式的全面综述。介绍了Rubric概念来源，指出传统奖励模型存在对齐风险，而Rubric RM在多方面取得平衡，还阐述其工作流、各维度研究情况及面临的挑战。
Java 世界的 MCP：将架构策略应用于 LLM 集成
文章指出大语言模型成企业架构组件，但当前集成脆弱。MCP 引入标准化方法，其 Java SDK 重要。文中介绍 MCP 架构、特点，分析其与原生工具调用的权衡，还通过案例展示应用，最后说明适用场景。
柔体操作最缺数据、最怕仿真失真？新研究让布料物理真实再现
上海AI Lab的SIM1研究实现布料物理性质真实再现，解决仿真数据与真实场景对齐问题。它提出real - to - sim - to - real新范式，通过闭环流程生成数据，能扩展轨迹、提升泛化能力，有望重新定义机器人数据天花板。
自动驾驶优化：从复杂性到实时工程
本文深入探讨自动驾驶技术栈端到端架构，阐释从上下文感知传感器融合到MPC求解器等优化技术，如何将原始传感器数据转化为安全控制指令，还介绍轨迹规划、实时计算预算及调试等内容。
阿里“悟空”上线！钉钉给企业送来龙虾大军
AI钉钉2.0年度新品发布会上，阿里发布AI toB旗舰应用“悟空WuKong”，它以企业智能体为核心，能落地办公场景。悟空开启全球邀测，也会内置到钉钉AI 2.0。它还带来行业解决方案，补齐安全短板。