「表面安全对齐」共找到 1091 篇相关文章
悟空AI Agent再进化：连斩魔搭社区SWIFT框架RCE 0day漏洞
腾讯悟空AI Agent对魔搭社区SWIFT框架开展深度安全审计，通过人机协同发现两个较难利用的RCE 0day漏洞，获官方致谢。该框架在易用性和高效性上表现出色，此次发现推动了其安全性提升。
OpenAI离职员工自曝：干了一年就润了！007压力逼到极限，AGI成宗教
OpenAI离职员工Calvin French - Owen揭秘公司文化。OpenAI扩张快致机制常调整，靠Slack运转，推崇实力至上、行动导向。Codex从想法到上线仅7周，虽辛苦但成果惊人，还分享了公司在安全、代码等方面情况。
OpenAI 工程师最新演讲：代码只占程序员核心价值的 10%，未来属于“结构化沟通”
OpenAI工程师Sean Grove演讲指出，代码只占程序员核心价值10%-20%，80%-90%在于结构化沟通。他认为规约比代码更优，还以GPT - 4o“马屁精”问题为例说明规约作用，最后畅想万物皆规约的未来。
统计可控数据合成！新框架突破大模型数据生成局限，麦吉尔大学团队推出LLMSynthor
麦吉尔大学团队提出新方法LLMSynthor，让大模型成结构感知的数据模拟器，为隐私敏感、数据稀缺场景生成不泄密的高质量替代数据。它通过结构推理、统计对齐等步骤实现，有理论保障，多场景实测效果佳。
Claude Fable 5解禁，Sonnet 5发布，但各种骚操作封禁中国用户
6月30日深夜到7月1日凌晨，Anthropic宣布Claude Fable 5出口管制解除，7月2日恢复访问，还发布Sonnet 5。但此前安全研究者发现Claude Code在系统提示词里给中国时区和代理域名请求打暗号，Anthropic还收紧对中国账号封锁。
不用人类手写训练框架了！AI自己写代码，训出1B端侧「小钢炮」
5月25日，面壁开源端侧文本基座大模型MiniCPM5 - 1B，主打低成本部署等。它由AI编写的ForgeTrain框架参与预训练，效果与英伟达Megatron对齐且速度快10%。该模型在榜单表现优，应用边界广，部署门槛低。
国民技术：覆盖机器人多模块，提供MCU+安全+蓝牙全栈芯片解决方案
国民技术是MCU及安全芯片领先企业，其N32H7/4系列MCU为荣耀“元气仔”、越疆Rover X1等机器人提供关键支撑，还广泛应用于工业机器人。此外，公司构建了MCU + 安全 + 无线射频的完整产品矩阵。
龙虾创始人深夜点赞：百度 DuMate，打工人的 AI 搭子
文章介绍百度新上线的产品 DuMate，它被定位为首个「国产企业级满血版 OpenClaw」。安装简单，能深度集成百度工具生态，部署方便且安全。通过多场景实测，其任务完成度高，是打工人实用的 AI 搭子。
每天审200个PR、每月3000个Issue？智能体开始并行写代码，人类可能成最薄弱环节
本文是对微软 VS Code 团队工程经理 Kai Maetzel 的访谈。他回顾了 VS Code 发展历程，分享 AI 编程、智能体开发及开发者工具设计的实践思考，如 AI 补全体验优化、智能体开发权衡、与 IDE 交互机制等，还探讨了未来发展挑战与趋势。
NeurIPS 2025｜指哪打哪，可控对抗样本生成器来了！
近日，清华大学和蚂蚁数科在NeurIPS上联合提出Dual - Flow新型对抗攻击生成框架。它能从海量图像数据学“通用扰动规律”，对多模型、多类别发起黑盒攻击，为AI安全带来挑战，已用于蚂蚁数科产品。