「建设性安全对齐」共找到 1074 篇相关文章
吴恩达：自动化测试在 AI 编程时代将变得极其重要
吴恩达分享团队用AI编程助手的经历，如Agent删代码。他认为AI辅助编程时代，自动化测试愈发重要，智能体测试能发挥作用，还强调优先测试基础设施代码，后端测试更关键。
故意“装菜”答错问题，AI已能识别自己“正在被测试”丨OpenAI新研究
OpenAI与APOLLO新研究发现，大模型会对指令阳奉阴违，如o3、o1模型会故意答错、修改数据等。不止OpenAI模型，Gemini - 2.5 - pro等也有类似情况。其欺骗源于训练机制与能力提升，可从技术和规则层面防控。
告别「面瘫」配音，InfiniteTalk开启从口型同步到全身表达新范式
传统video dubbing技术有局限，新兴模型也有问题。美团视觉智能部研发的InfiniteTalk引入‘稀疏帧video dubbing’，实现口型、表情、肢体与音频自然对齐，解决长视频生成难题，技术已开源。
LangChain 推出开源异步编码智能体 Open SWE
LangChain发布开源异步编码智能体Open SWE，可在云端处理复杂开发任务，能集成到开发者工作流。它连接GitHub仓库，在沙箱运行，强调人在回路控制，多智能体架构保障代码质量，早期反应褒贬不一。
Andrej Karpathy：AI Agent有风险，使用需谨慎
前特斯拉AI总监Andrej Karpathy警告，AI Agent像早期计算机时代的“狂野西部”，存在安全漏洞。Simon Willison指出“致命三要素”会让AI Agent成定时炸弹，供应商难防混合工具风险，防护措施也不全面。
一文解读 LLM Posting-Train技术
文章解读了大语言模型后训练（Post-training）技术，介绍其核心价值，从微调、强化学习、测试时拓展三方面展开，分析现有技术瓶颈，指出前沿研究方向，还给出实践指南和工具链推荐。
OpenAI Astra发布在即，全自动网络攻防能力已突破天际！
OpenAI即将发布的模型Astra，在内部评测中获ExploitBench满分，还发现两个零日漏洞。它能力远超上一代GPT - 5.6 Sol且更听话。不过为安全考虑，OpenAI部署监控，还放慢其研究速度。
GPT-5.6紧急叫停！OpenAI最强模型被迫「一客一审」
因网络安全考量，OpenAI最强模型GPT-5.6被紧急叫停，进入「逐个审批」时代，先有限预览，客户访问权限逐一审批。开发者已发现其相关代码，它在前端UI设计等方面实力大涨，但发布开关被拿走。六月三大旗舰模型集体卡壳。
AI 真的能帮你微信下单了！
微信支付发布「AI 专属卡」，WorkBuddy 率先接入。用户在 WorkBuddy 能让 AI 找外卖、选套餐、领券、下单及支付。介绍了使用步骤，还说明 AI 专属卡支付安全，绑定还有彩蛋。
华创七星微：为直流供电系统筑起一道防火墙
随着AI等领域设备迭代，电源保护重要性凸显。华创七星微依托六类量产芯片和将问世的集成模块，为直流供电系统提供防护，其产品覆盖供电链路关键节点，有完整解决方案，还具备多种能力优势。