「建设性安全对齐」共找到 1074 篇相关文章
Stream-Omni：同时支持各种模态组合交互的文本-视觉-语音多模态大模型
中国科学院计算技术研究所团队提出文本-视觉-语音多模态大模型Stream-Omni，能支持多种模态组合交互。它对各模态关系针对性建模，实现高效灵活的模态对齐，仅用少量语音数据就有多种交互能力。
Anthropic 兄妹 Dario Amodei 和 Daniela Amodei 最新对话：Claude 为什么一直限速？
在 5 月 6 日 Anthropic 开发者大会上，兄妹 Dario Amodei 和 Daniela Amodei 对话，谈到 Claude 限速因 2026 年 Q1 增速年化 80 倍远超规划，还涉及开发者生态、模型训练、能力释放等话题，强调平衡发展与安全。
300万AI悄悄「建国」？Nature长文：第一代AI社会正在成形
近300万AI智能体在Moltbook社交网络「建国」，Nature发文称最早的「AI社会」正在成形。研究发现AI群体行为遵循与人类社会相似规律，也有不同。同时该平台存在安全隐患，可能引发舆论操控。
从最优传输角度训练奖励模型：让 RLHF 学会「忽略错误偏好」丨ICML 2026
浙江大学、小红书、北京大学等团队提出SelectiveRM，基于最优传输训练奖励模型。它重构训练目标，通过选择性分布对齐排除噪声偏好，解决了奖励模型训练中监督信号不可靠的问题，实验验证其有效且泛化能力好。
遭黑客投毒、被网安圈群嘲蹭流量、英伟达建的沙箱半小时就被攻破！OpenClaw 之父揭开大模型圈最脏的潜规则
OpenClaw 之父 Peter Steinberger 在演讲中指出，该项目虽增长迅猛，却面临诸多安全问题，如大量漏洞警告、黑客攻击等。同时，他炮轰安全行业蹭流量，强调应正确看待风险。问答环节探讨了其未来、工作流等多方面问题。
“养团队造语言”时代终结？Rust传奇人物用Claude造出新开源编程语言，AI写下万行代码：大模型上限很高，我学会了高效用它！
Rust核心贡献者Steve Klabnik借助Claude写了新语言Rue并开源。他曾是AI怀疑论者，现认为大模型在编程中‘真的有用’。Rue目标是不依赖垃圾回收提供内存安全，使用体验更顺手，开发深度依赖Claude。
宇树机器人被曝漏洞，机器人之间可相互感染，官方火速回应
宇树旗下多款机器人被曝存在严重无线安全漏洞，攻击者可借此实现最高权限控制，被攻陷的机器人还会自动扩散感染。发现者此前与宇树多次沟通无果后公开漏洞利用工具链，宇树回应已着手修复。
Meta 删邮件事故背后，OpenClaw 为什么会“失忆”？代码库维护者拆解记忆架构
OpenClaw在使用中易“失忆”，如Meta对齐总监用它处理邮件时失去控制。文章从代码库维护者视角，拆解记忆架构，介绍记忆层次、失败模式，给出配置建议和故障排除方法，助用户了解并优化其记忆机制。
AI软递归自我提升，Hassabis夜不能寐：人类已至奇点山脚
AI递归自改进和研究自动化正从概念走向现实，哈萨比斯称人类站在「奇点山脚」。Claude已独立编写超80%代码，Anthropic工程师效率大幅提升。但AI递归也带来安全风险，全球实验室陷入「囚徒困境」。
监管正式落地严查，全国首部AI产品合规标准来了
自2023年相关办法发布，国家监管网越织越密，AI产品合规成企业必答题。《生成式人工智能产品安全与合规指南》团体标准应运而生，构建全生命周期合规体系，有全链路、全场景、全配套亮点，还公开征集起草单位与专家。