「安全对齐」共找到 1071 篇相关文章
LLM应用测试范式的进化
文章指出传统软件测试方法在LLM应用中存局限，探讨将其与AI评估结合应对挑战。抽象出LLM应用三层架构模型，分析传统测试范式适用性，介绍AI安全分析方法，阐述测试挑战、范式转变及协同测试策略。
本周推荐的5个超级6的Github开源项目！
文章推荐了5个Github开源项目。如htmx，能在纯HTML搞定多种交互，无需JS；Flow.Launcher可快速搜索文件、启动应用；Maple Mono是编程字体，中英2:1对齐；Trilium Notes是分层笔记神器；Hyprnote可实时转录会议内容。
悟空AI Agent再进化：连斩魔搭社区SWIFT框架RCE 0day漏洞
腾讯悟空AI Agent对魔搭社区SWIFT框架开展深度安全审计，通过人机协同发现两个较难利用的RCE 0day漏洞，获官方致谢。该框架在易用性和高效性上表现出色，此次发现推动了其安全性提升。
OpenAI离职员工自曝：干了一年就润了！007压力逼到极限，AGI成宗教
OpenAI离职员工Calvin French - Owen揭秘公司文化。OpenAI扩张快致机制常调整，靠Slack运转，推崇实力至上、行动导向。Codex从想法到上线仅7周，虽辛苦但成果惊人，还分享了公司在安全、代码等方面情况。
OpenAI 工程师最新演讲：代码只占程序员核心价值的 10%，未来属于“结构化沟通”
OpenAI工程师Sean Grove演讲指出，代码只占程序员核心价值10%-20%，80%-90%在于结构化沟通。他认为规约比代码更优，还以GPT - 4o“马屁精”问题为例说明规约作用，最后畅想万物皆规约的未来。
统计可控数据合成！新框架突破大模型数据生成局限，麦吉尔大学团队推出LLMSynthor
麦吉尔大学团队提出新方法LLMSynthor，让大模型成结构感知的数据模拟器，为隐私敏感、数据稀缺场景生成不泄密的高质量替代数据。它通过结构推理、统计对齐等步骤实现，有理论保障，多场景实测效果佳。
Claude Fable 5解禁，Sonnet 5发布，但各种骚操作封禁中国用户
6月30日深夜到7月1日凌晨，Anthropic宣布Claude Fable 5出口管制解除，7月2日恢复访问，还发布Sonnet 5。但此前安全研究者发现Claude Code在系统提示词里给中国时区和代理域名请求打暗号，Anthropic还收紧对中国账号封锁。
不用人类手写训练框架了！AI自己写代码，训出1B端侧「小钢炮」
5月25日，面壁开源端侧文本基座大模型MiniCPM5 - 1B，主打低成本部署等。它由AI编写的ForgeTrain框架参与预训练，效果与英伟达Megatron对齐且速度快10%。该模型在榜单表现优，应用边界广，部署门槛低。
国民技术：覆盖机器人多模块，提供MCU+安全+蓝牙全栈芯片解决方案
国民技术是MCU及安全芯片领先企业，其N32H7/4系列MCU为荣耀“元气仔”、越疆Rover X1等机器人提供关键支撑，还广泛应用于工业机器人。此外，公司构建了MCU + 安全 + 无线射频的完整产品矩阵。
龙虾创始人深夜点赞：百度 DuMate，打工人的 AI 搭子
文章介绍百度新上线的产品 DuMate，它被定位为首个「国产企业级满血版 OpenClaw」。安装简单，能深度集成百度工具生态，部署方便且安全。通过多场景实测，其任务完成度高，是打工人实用的 AI 搭子。