「安全对齐」共找到 1071 篇相关文章
告别多奖励跷跷板：Flow-OPD将多教师OPD带入图像生成
中国科学技术大学等机构团队提出Flow - OPD，这是首个将OPD引入流匹配模型的统一多任务后训练框架。它解决了流匹配模型后训练对齐中多任务的梯度冲突等问题，效果良好，未来有多个拓展方向。
全国首部“数据流通交易合规”标准，现公开征集起草单位和专家！
2026年是数据要素价值释放年，数据资产交易却面临合规与安全难题。中国电子商会归口、智合标准中心组织编制《企业数据要素流通交易合规指南》团体标准，涵盖多核心模块，有三大亮点，现征集起草单位和专家。
喊话特朗普重视AI风险，Anthropic CEO万字长文写应对方案，这方案也是Claude辅助完成的
Anthropic联合创始人兼CEO Dario Amodei写万字长文《技术的青春期》，指出AI飞速迭代下人类面临的危险局面，可能带来国家级安全威胁。文中阐述AI五大系统性风险，并给出应对方案，强调人类制度和成熟度要跟上AI发展。
2025 智能体元年，Agent 开发平台深度评测报告解读
2025 年 AI 产业两大核心趋势并行，AI Agent 产业化落地提速。国家工业信息安全发展研究中心赛昇实验室发布评测报告，对阿里云百炼等四大 Agent 开发平台从 RAG、工作流能力、Agent 工具调用三大维度测试，为行业选型提供参考。
AI驱动的开源攻击框架：HexStrike-AI
HexStrike-AI是安全研究员开发的开源攻击框架，2025年7月起在GitHub免费提供。它基于MCP协议，集成LLM与150多种工具，可自动化渗透测试和漏洞发现。曾被网络犯罪分子利用，能加速攻击流程，展现强适应和并行化能力。
一家低调的工业AI公司，用TPT跨越生成式AI鸿沟｜甲子光年
麻省理工学院报告指出约95%生成式AI企业试点无实质回报，存在生成式AI鸿沟。工业AI落地难，中控技术的TPT及TPT 2模型，在兰州石化榆林化工应用效果好，其优势源于数据和行业经验，也体现了破局决心。
超越DeepSeek-R1，数学形式化准确率飙升至84% | 字节&南大开源
字节跳动Seed团队与南京大学联合发布CriticLean框架，将数学自然语言到Lean 4代码的形式化准确率从38%提升至84%。该框架创新性地将评估模型置于核心，解决语义对齐等问题，还构建了相关基准测试和数据集。
AI 陪伴赛道，会诞生下一个「泡泡玛特」吗？ | GAIR Live
AI科技评论组织“AI陪伴”线上圆桌，多位从业者探讨AI陪伴是否伪命题、不同人群接受度、产品核心价值等，还讨论IP对AI硬件的重要性、硬件与软件优势、是否出海等问题。
在这场大会上，我们看到了AI进入物理世界后的样子｜甲子光年
第七届北京智源大会亮点多，有四位图灵奖得主。议题紧跟前沿，设20个论坛和180余场报告。现场展示多个机器人应用。智源发布“悟界”系列大模型，还聚焦开源，升级FlagOS系统。两位图灵奖得主对AI安全看法不一。
传奇黑客首次造出“透明芯片”，从硬件到代码全部公开可验证
8月初第34届Defcon黑客大会，主办方发放美籍华裔黑客黄欣国设计的徽章，核心是开源微控制器Baochip - 1x。该芯片从设计到制造全开放可验证，用红外原位检测，还集成硬件加固手段，安全性能对标商用元件。