「安全对齐」共找到 1071 篇相关文章
Cyber天花板被打穿！AISI实测Mythos能力正以4.5月翻倍速冲向ASI
英国AI安全研究所（AISI）实测Anthropic的Mythos和OpenAI的GPT - 5.5，发现其网络攻防能力4.5个月就能翻倍，加速冲向ASI。Mythos在模拟企业内网32步渗透任务中表现出色，瓶颈在于Token而非智力。
挖漏洞何必Mythos，国产智能体早跑通了
手握Mythos的Anthropic因安全问题将其锁起，引发安全圈对AI规模化挖漏洞的思考。360集团自主研发的漏洞挖掘智能体公开披露两项重大发现，影响超10亿用户，还展示了其技术路线、优势及战略意义。
第一章：AI 技术前沿全景
文章聚焦AI Agent技术前沿，阐述大语言模型三次能力跃迁，从涌现能力到对齐指令遵循，再到推理与行动。还提及Scaling Law变化，推理时计算扩展更划算，介绍代表性推理方案及多模态融合，指出Agent打破传统对话AI局限。
“现阶段就差数据了”Figure 03登《时代》最佳发明榜封面，CEO放话了
刚发布Figure 03的Figure公司，其CEO Brett Adcock在《时代》采访中称现阶段机器人缺数据。此言论引发争议，他亲自反驳质疑，还阐述公司目标、安全考量及对机器人市场需求的乐观预期。Figure 03登上《时代》2025最佳发明榜封面。
名师一定出高徒？清华团队最新揭秘：别再迷信大模型蒸馏的「免费午餐」
当下大模型后训练中，On-Policy Distillation（OPD）成明星技术，业界采用后报告性能提升。但清华团队研究发现，换更强Teacher，Student性能可能无提升甚至倒退。研究揭示蒸馏成败条件，深挖对齐机制，还给出拯救失败蒸馏的方法。
深度解析 Claude Code 在 Prompt / Context / Harness 的设计与实践
本文深度解析Claude Code在Prompt、Context、Harness三方面的设计与实践。介绍了Prompt动态组装过程，探讨CLAUDE.md项目说明、上下文压缩体系和记忆系统，还阐述了系统级提醒、多Agent及安全体系等内容，文末分享了项目有趣彩蛋。
100个产品原型同时跑、新模型Mythos断层领先，连skills效果都好到让团队意外：Anthropic内部到底在发生什么？
Claude Cowork 工程负责人 Felix Rieseberg 在播客中透露，未发布的新模型 Mythos Preview 带来“断层式跃迁”，在安全漏洞检测等方面表现出色。Anthropic 内部可同时跑上百个产品原型，执行成本降低。还介绍了 Cowork 开发、应用及产品打造经验。
全国首部可信AI“技术安全+数据合规”标准来了，欢迎参与起草！
2025年国家数据局开展可信数据空间试点，在多领域落地经验。但实践中技术、合规等问题凸显。中国电子商会归口、智合标准中心起草《人工智能大模型可信数据协作安全与合规指南》，有诸多亮点，现公开征集起草单位和起草人。
Scaling时代终结了，Ilya Sutskever刚刚宣布
Ilya Sutskever 在访谈中称「Scaling 时代已终结」，指出当前模型存在能力参差不齐、泛化不足的问题。他认为人类情绪类似价值函数，人类学习效率高。未来 AI 发展将进入研究时代，他还分享了 SSI 战略及对 AI 对齐等问题的看法。
阿里Qwen3一大波更新：代码生成、视频、图片、语音全都有
阿里Qwen3迎来一大波更新，涵盖多个模型。如Qwen3-Max在代码与智能体表现卓越；Qwen3-VL是强大视觉语言模型；Qwen3-Omni是全模态模型；还有图像编辑、同传、安全防护等模型及旅行规划师等应用。